데이터 수집·활용 등 한계·문제점 관심···“AI 고비용 구조, 혁신으로 해결할 것”
인공지능(AI) 전문가들은 AI 기술 적용 단계에서 보안과 정보 불평등과 같은 소비자들이 우려하는 문제가 상당부분 해소되는 단계라고 밝혔다.
19일 시사저널e가 주최한 '제5회 인공지능 국제포럼: 인공지능, 인간과 함께 한계를 넘어서' 종합토론은 최대우 한국외국어대학교 통계학과 교수 주도로 김주민 LG전자 인공지능연구소장, 김시준 현대자동차 자율주행 상용개발 파트장, 박정석 KT 융합기술원 서비스 연구소 음성합성&AI 비즈 프로젝트 팀장 등이 청중들의 질문에 답하는 방식으로 진행됐다.
질문은 자율주행에 집중됐다. 참석자들은 자율주행 자동차의 ‘킬스위치(kill switch)’ 필요성, 오판 가능성, 기술개발 정도 등을 질문했다.
이에 김시준 현대자동차 자율주행상용개발파트장은 “‘킬스위치’ 기능은 자율주행 중 문제가 발생 시 모든 기능을 올스톱(all-stop)하는 기능으로 모든 자율주행 자동차에 의무적으로 장착돼 있다”며 “킬스위치 장착은 자율주행을 허가 시 조건의 하나”라고 답했다. 다만 그는 ‘5세대 자율주행’은 킬스위치가 필요 없는 것으로 규정할 수 있을 것이라는 의견도 덧붙였다.
AI 데이터 해석 과정 오판으로 인한 사고 우려와 관련해서는 “악의적인 자율주행 외부공격 등에 대비한 제어기 보안시스템 적용 등을 검토하고 있다”며 “또한 해석할 수 없는 AI 블랙박스적 관점에 대해서도 생각을 많이 하고 있다”고 설명했다.
이어 “현재 자율주행 자동차는 인지, 판단, 제어 등 단계로 나눠져 있는데, 현재는 딥러닝AI가 인지기술에 해당해 (오판으로 인한 사고 등이) 발생할 수 있다”고 말했다. 그러면서 “현재 시점에서는 검증기능 강화를 통해 해결하고 있는데, 해석할 수 없는 부분들이 있어서 판단, 제어까지 확대시키기 어려운 것으로 보고 있다”고 부연했다.
AI기술 관련 보안에 대한 우려 섞인 질문도 이어졌다.
음성합성, 복제 등이 AI기술로 가능해지면서 연동된 계좌정보, 결제 등 서비스에 문제가 발생하지 않겠냐는 질문에 박정석 KT 팀장은 “목소리 구분할 때 사람의 귀로 구분이 안 되는 부분들을 AI는 구분해 낼 수 있다”고 일축했다. 사람의 원래 목소리와 녹음 목소리, 합성목소리, 스피커 등을 통해 출력되는 목소리들은 손상 등에 따라 스팩트럼 수치에 차이를 보여 구분이 가능하다는 설명이다.
다만 그는 감기 등으로 인한 목소리 변화 인식 여부와 관련해서는 현재 인식하지 못하는 경우가 있다고 밝혔다.
이와 관련해 김주민 LG전자 인공지능연구소장도 생체 정보 관련 AI기술에 대해서는 국제적인 규정이 있고, 이 규정에 맞춰 진행되고 있다고 부연하기도 했다.
또한 그는 LG전자 AI제품에 대한 금전적 부담이 기술혜택의 불균형을 유발하지 않겠냐는 질문에는 “기술 개발 시 지불가치 등에 대한 고민을 하고 있고, 기술 개발이 완성되면 개발비용 절감 등 비용혁신 등을 거치게 돼 문제가 없다”고 답했다.