페이스북, 자살예방 AI 기술 도입 발표…전문가 “자살예방 도움, 악용은 우려”
세계 최대 SNS(소셜네트워크서비스)인 페이스북은 1일(현지시간) 인공지능으로 자살위험 사용자를 식별해 알려주는 기술을 도입한다고 발표했다. 페이스북 인공지능은 그동안 신고된 자살위험 사용자의 페이스북 사용 패턴을 학습한 뒤 잠재적 자살게시물을 식별하는 실험을 하고 있다. 새로운 기술은 미국에서 먼저 도입될 예정이다.
예를 들어 갑자기 과거 사진을 보기 시작하거나 오랫동안 연락하지 않은 친구들에게 ‘잘지내?’라는 메시지를 보내는 행동이나 ‘힘들다’ ‘죽고싶다’고 남기는 글을 총체적으로 파악하는 것이다. 이를 바탕으로 인공지능이 페이스북 담당 부서에 보고하면 해당 부서가 최종적으로 판단해서 조치를 취하게 된다.
위험 정도에 따라 조치도 다르다. 상황이 극단적이지 않을 때는 이용자가 자살예방센터와 전화 상담을 진행하도록 한다. 위급할 경우 사용자의 위치정보, 인적사항 등이 모두 자살예방센터로 전달돼 경찰이 함께 출동할 수도 있다.
기존에는 페이스북 자살 방지 도구를 통해 사용자가 페이스북 내에서 자살 암시글을 보면 신고하는 방식으로 운영됐다. 페이스북코리아 관계자는 “페이스북은 오래전부터 자살 예방에 관심을 갖고 여러 가지 방법을 도입하고 있다”며 “플랫폼이 성장하면서 사회적인 책임을 가벼이 여길 수 없었다”고 설명했다. 그는 “페이스북 인공지능의 한글 번역 문제만 해결된다면 국내에도 이런 서비스가 도입될 것”이라며 “많은 분들에게 도움을 주면 좋겠다”고 말했다.
전문가들은 자살 징후를 많이 포착할수록 자살 예방에 도움이 된다고 밝혔다. 황순찬 서울시자살예방센터장은 “SNS가 익숙한 세대들은 SNS를 자신의 일기장처럼 여기면서 SNS에 자살 암시글을 종종 올리곤 한다. 이런 글은 자살예방센터의 사각지대에 놓일 수밖에 없다”며 “인공지능을 통해 위험 사용자가 자살예방센터와 연결된다면 자살 예방 가능성을 높이는 데 큰 도움이 될 것”이라고 평가했다.
특히 자살의 경우 유가족 대부분이 자살자의 어려움을 모르고 있었던 경우가 많다. 자살자는 죽기 전에 여러 암시를 보내지만 이 암시를 죽음의 신호로 인식하는 사람은 거의 없다. 황 센터장은 “자살행동은 세상에서 가장 치명적인 자기표현”이라며 “IT 서비스에서 자살 징후를 많이 드러내는 만큼 IT 기업이 사회적인 역할과 책임을 다할 수 있도록 국가적·사회적 차원의 지원이 필요하다”고 주장했다.
임영식 중앙대 교수(사회복지학부)는 “최근 국내에서도 빅데이터를 활용한 자살예방 시스템을 개발하고 있다”며 “자살 예방에 상당히 도움 될 것”이라고 말했다. 다만 “내가 만약에 자살 암시글을 올렸는데 나를 잘 알고 있는 사람이 걱정해서 개입하는 것과 나를 전혀 모르는 사람이 나를 파악하고 미래 행동을 예측해서 개입한다는 것은 상당히 다르며 조심스러운 일”이라고 밝혔다.