딥페이크 등 문제점에 여야 법안 필요성 공감···총선 후 입법 가능성
전문가, 표기 의무 범위 설정 중요성 강조···“콘텐츠 산업 위축 우려”
[시사저널e=최성근 기자] 지식재산권(IP) 침해, 딥페이크 등 인공지능으로 인한 문제를 막기 위한 생성형 AI 표기 의무화 법안이 추진되고 있다. 정부는 신중한 기류지만, 여야 모두 필요성에 공감하고 있어 입법 가능성이 높단 관측이 나온다.
전문가들도 대체로 AI와 관련된 투명성을 높일 수 있단 측면에서 법안 취지에 공감하는 기류지만, 표기의무 범위 설정 등 세부적인 부분을 다듬기 쉽지 않단 분석을 내놓는다. 자칫 불필요한 규제로 전락해 콘텐츠 산업 위축으로 이어질 수도 있단 지적은 법안이 넘어야할 숙제로 지목된다.
30일 관련업계에 따르면 인터넷상 콘텐츠 데이터를 학습해 텍스트, 이미지, 음악 등을 생성하는 AI 기술이 급속히 발전하고 있다. 생성형 AI를 통해 전문가와 같은 그림을 만들거나, 내가 좋아하는 가수의 목소리로 다른 가수 곡을 커버해 들을 수도 있다.
하지만 생성형 AI 확대는 딥페이크, 가짜뉴스, 저작권 침해 등 각종 문제점도 낳고 있다. 미국 국방부 옆 건물이 화염에 휩싸인 가짜 사진이 SNS에 유포돼 뉴욕 증시가 요동치고, 유튜브에선 유명 가수들 목소리를 무단으로 AI에 학습시킨 AI커버곡이 우후죽순 증가하고 있다.
AI 생성 콘텐츠 발전속도와 파급력을 감안할 때 이용자들이 AI 기술로 작성된 콘텐츠를 이용할 때 해당 콘텐츠가 AI 기술로 만들어진 것이란 사실을 인식할 수 있도록 관련 법제 마련이 필요하단 주장이 제기된다.
현재 국회 문화체육관광위원장인 이상헌 더불어민주당 의원은 지난해 5월 콘텐츠제작자가 AI 기술을 이용해 콘텐츠를 제작한 경우 해당 콘텐츠가 AI 기술을 이용해 제작된 콘텐츠란 사실을 표시토록 하는 콘텐츠산업진흥법 개정안을 대표 발의했다.
법안은 현재 문체위 문화예술법안심사소위에서 논의 중인데 국민의힘과 민주당, 정의당 등 여야 모두 입법 취지에 공감하고 있으나, 정부는 신중한 입장이다.
현행법상 이용자 혼선을 방지하고 AI 콘텐츠의 신뢰성과 책임성을 강화하며 창작자들의 콘텐츠가 오남용되는 사례를 예방할 수 있단 측면에서 긍정적이란 반응과 섣부른 규제로 부작용이 생기는게 아니냔 우려가 엇갈린다.
다만 법안의 입법 가능성은 높은 상황이다. 문체위 관계자는 “지난달 열린 법안소위에서 여야 모두 법안 처리가 필요하다고 입을 모았으나 정부의 신중한 입장을 감안해 일단 계류했다”며 “다음 소위에서 정부가 대안을 제시하지 못할 경우 의결을 강행하기로 여야 위원간 의견을 모았다”고 말했다.
법안 추진에 탄력이 붙으면서 AI 생성 콘텐츠 표기가 의무화될 경우 예상되는 장단점을 제대로 살펴봐야 한단 지적이 제기된다. 이날 국회 의원회관에서 열린 ‘Made by AI 표기 의무화를 위한 국회 공청회’에선 AI 생성 콘텐츠 표기를 명확하게 하지 않으면 궁극적으로 우리 사회를 병들게 하고 AI 산업 발전 또한 저해할 것이란 지적이 나왔다.
이대희 고려대 법학전문대학원 교수는 “소비자들은 AI가 생산한 것을 인간이 생산한 것으로 기망 당해 소비를 하게 되거나, 목소리, 얼굴 등 특정 개인의 모습을 이용하는 개인적 권리를 침해당할 수 있다”며 “인간과 기계는 구별돼야 한다. 만약 구별되지 않는다면 결국 인간이 기계에 종속되는 일들이 벌어지게 될 것”이라고 말했다.
표현의 자유와 충돌할 가능성이 있지만 현 상황에서 AI 생성물 표시를 했을 때 얻을 실익이 더 크다. 다만, 제도가 잘 정착하려면 고려해야 할 변수들이 상당하단 분석이다. 이 교수는 “적절한 범위에서 강제로 표시 의무를 부과할 필요성이 있다”며 “AI 생성물임을 적합하게 표기하기 위해서는 표기 의무의 범위를 적절하게 정하고, 텍스트, 이미지, 동영상 등 매체에 따라 표기 방법이 달라야 한다”고 말했다.
이어 “어떤 방식이나 내용으로 표기해야 할지 결정하고, 메타데이터 등에 의한 표기가 시술적으로 조작, 변경, 삭제되지 않도록 해야 하며 기술적 표준도 이뤄져야 한다”고 덧붙였다.
AI 생성 콘텐츠 표기 의무가 없다보니 생성형 AI 플랫폼들이 지식재산권 등 콘텐츠 생태계를 흔들 조짐이 엿보인단 진단도 나왔다.
최민재 한국언론진흥재단 수석연구위원은 “현재 생성형 AI 플랫폼들이 기존 콘텐츠 생태계의 가장 핵심적 토대인 지식재산권과 본텐츠 관련 지식 운영체계를 배경으로 한 생태계 운영 룰을 인정하고 있지 않다”며 “이는 콘텐츠 산업 생준문제만이 아니라 사회적 정보유통과정에 까지 심각한 영향을 미칠 것”이라고 전망했다.
이어 “생성형 AI 관련 콘텐츠 제작 및 유통과정 전반에서 발생할 수 있는 문제를 진단하고, 기존 콘텐츠산업에 부과됐던 사회적 책임 수행을 위한 제도 정비가 필요한 상황”이라고 덧붙였다.
다만 실무 현장에서 AI 활용 컨텐츠를 판단하기 애매한 부분이 있고, 자칫 콘텐츠 산업에 악영향을 줄 수 있단 우려도 제기됐다. 강승희 법무법인 강남 변호사는 “작곡가가 4분짜리 곡을 작곡하는데 있어 10초 정도만 생성형 AI로 제작한 것을 활용했을 때 4분짜리 곡은 AI를 활용해 제작한 콘텐츠로 봐야 하나. AI를 활용해 제작된 콘텐츠를 인간이 선택, 배열하는 등 창작적 기여를 해 콘텐츠를 제작한 경우는 어떻게 봐야하나”라며 “AI가 콘텐츠 창작에 얼마만큼 개입해야 AI를 활용한 것이라고 평가할 수 있는지는 쉽게 판단할 성질이 아니”라고 말했다.
이어 “콘텐츠 자체도 무궁무진하고 각 콘텐츠마다 창작, 제작과정이 다르며 AI 활용도도 콘텐츠마다 다를 수 있다”며 “사소한 부분, 비핵심적 부분에 AI를 활용한 경우까지 AI를 활용해 제작된 콘텐츠로 표시하게 하면 콘텐츠 산업 위축과 혼란을 가져올 우려도 있다”고 덧붙였다.
AI를 활용한 콘텐츠 산업 위축을 가져올 수 있는 표시의무 부과는 신중을 기해야 하고, AI 규츌체계의 일관성과 안전성을 위해선 현재 논의중인 AI에 관한 기본법과 보조를 맞추는 것이 바람직하단 주장이다.
