뉴질랜드 총격 사건 생중계 및 동영상 유포 논란
AI 검사 시스템도 한계 있어···지나친 검열 시 표현 자유 문제도
소셜미디어 규제가 다시 한번 도마 위에 올랐다. 최근 뉴질랜드에서 발생한 총격사건이 페이스북 등으로 생중계되면서다. 소셜미디어 플랫폼은 인공지능(AI) 기술 등을 도입해 선정적 콘텐츠 확산을 막겠다는 방침이지만 검사 시스템이 표현의 자유를 저해할 수 있다는 딜레마도 함께 안고 있다.
20일(현지시각) 월스트리트저널(WSJ)은 "페이스북의 20억명의 사용자가 매일 수백만 개의 새 비디오를 실시간 스트리밍한다"며 "혐오표현을 통제하기 위한 국가 개입은 쉽게 검열로 넘어갈 수 있다"고 보도했다.
앞서 지난 19일 CNBC에 따르면 베니 톰슨 미국 의회 하원 국토안보위원장은 최근 서한을 통해 페이스북, 유튜브, 트위터, 마이크로소프트 최고경영자(CEO)에게 뉴질랜드 총격 생중계 동영상이 어떻게 확산됐는지 브리핑을 요구했다.
테러범 브렌턴 태런트는 지난 15일 뉴질랜드 크라이스트처치 이슬람사원 총격 범행 이전 생중계를 예고하고 17분간 페이스북 라이브 방송을 통해 사원의 민간인에게 총격을 가하는 장면을 실시간으로 송출했다.
강력범죄 행위 영상이 불특정 다수에게 유포되자 파장은 컸다. 이에 토니 페르난데스 에어아시아그룹 최고경영자(CEO)는 67만면의 팔로워를 보유한 페이스북 계정을 폐쇄하고, 트위터를 통해 “페이스북은 청소가 필요하다. 재정적 측면만 고려하지 말아야 할 것”이라고 지적했다.
국제 사회가 SNS 콘텐츠 공동 대응에 나서야 한다는 주장도 나왔다. 최근 외신 보도에 따르면 스콧 모리슨 호주 총리는 아베 신조 일본 총리에게 공개 서한을 보내 6월 일본에서 개최될 G20 회의 주요 의제로 '소셜미디어 규제'를 요구한 것으로 알려졌다.
문제는 해당 영상이 여타 플랫폼까지 빠르게 확산됐다는 점이다. 당초 태런트 테러 원본 영상은 경찰 신고와 페이스북 콘텐츠팀의 대처 하에 수 분만에 삭제됐으나, 일부 사용자들이 스마트폰으로 해당 영상을 찍거나 편집을 더해 트위터, 유튜브 등 여타 플랫폼으로 유포했다. 페이스북은 생방송 이후 24시간 동안 유포된 해당 영상 150만개를 차단하거나 삭제해야 했고, 유튜브 역시 수만 건의 동영상을 삭제한 것으로 전해진다.
업계는 그간 소셜미디어 플랫폼의 극단적, 선정적 콘텐츠 확산을 막기 위한 노력을 요구해왔다. 미국 SNS 텀블러는 나체가 노출된 사진, 비디오, GIF 등 콘텐츠를 영구적으로 플랫폼 내에서 퇴출시킬 것을 지난해 말 약속하기도 했다.
또 앞서 지난 2017년 6월 페이스북, 유튜브, 트위터, 마이크로소프트 등 4개사는 온라인으로 유포되는 테러 콘텐츠 확산을 막기 위한 해법을 찾기 위해 '글로벌 인터넷 테러리즘 반대포럼'(GIFCT)을 설립한 바 있다. 페이스북도 최근 인공지능(AI) 기능을 활용해 당사자의 동의 없이 배포되는 성적인 이미지, 동영상 등을 차단하는 시스템을 도입했다.
AI에 기반한 영상 차단 시스템에 대한 기술적 한계점도 여전히 거론되고 있다. 실시간으로 올라오는 모든 영상들을 프레임 단위로 분석해 파악하는 일이 기술적으로도 어려울 뿐더러 일부 사용자가 스마트폰으로 직접 찍어 올리거나 편집을 더할 경우 같은 영상으로 인식하지 못하는 문제도 발생하는 탓이다. 실제로 이날 모바일 버전 유튜브 검색 엔진에 ‘new zealand’라는 단어를 검색해본 결과 편집되지 않은 동영상을 뜻하는 ‘uncut,’ ‘live cam full’이란 단어가 예상검색어에 함께 제시됐다.
우리나라도 아프리카TV 등 BJ들의 선정적 방송이 끊임없이 논란인 가운데 소셜 미디어의 자체 자정 방침과 더불어 규제 논의가 필요하다는 쪽과 동시에 표현의 자유를 저해할 수 있다는 우려가 공존한다.