[AIF2024] “AI가 인간 대체할 수 있나? 신뢰성 제고 문제”

[시사저널e=최다은 기자] “공공이 주도하는 탑다운(Top-down) 방식의 AI 기술 개발이 늘어나야 합니다. 한국은 규제, 정책 제시가 느려 AI 기업들의 고충은 여전합니다.”

12일 시사저널e 주최로 서울 용산구 그랜드하얏트 서울에서 열린 ‘제9회 인공지능 국제 포럼(AIF 2023) 종합토론에서 이같이 말했다. 이번 종합토론은 좌장으로 최대우 한국외국어대학교 통계학과 교수가 토론을 이끌어갔다.

최대우 한국외국어대학교 통계학과 교수는 “올 초만 하더라도 챗GPT로 모든 것이 될 거다, 라지 랭귀지 모델(LLM)이 모든 걸 바꿀 것이라는 전망이 늘면서 기업들이 모두 랭귀지 모델이 상당히 많은 관심을 가졌다”며 “그러다 보니 기업들이 고민한 게 자체적인 모델을 구축하고 지속적으로 관리해야 하는 것이었다”고 말했다.

최 교수는 “시장 분위기가 바뀌면서 언어 모델 성능이 중요한 게 아니라 내가 어떤 목적으로 사용하느냐가 부상하고 있다”며 “그렇게 등장하게 된 화두가 AI 에이전트였다”고 설명했다. 그는 “이미 자율주행은 의사결정 관련 AI 에이전트라는 단어가 대중화되고 있다”고 덧붙였다.

이영복 제네시스랩 대표는 2017년도 창업 당시 단순히 영상을 분석하는 것에서 사업을 시작했다. 지금은 생성 기술이 붙으면서 AI가 사람 면접관처럼 할 수 있는 모든 것들을 하자는 비전하에 AI 면접관 에이전트 디벨롭하고 있다.

이영복 제네시스랩 대표는 “면접관 에이전트를 개발해서 계속 고도화시켜 왔다”며 “HR 여러 과정에서 지원자나 임직원을 평가해야 하고 분석해야 해, 이런 업무 자체를 AI가 할 수 있도록 개발했다”고 강조했다.

그러면서 “고객사들이 쓰면서 수많은 HR 데이터 바탕으로 의사결정까지 내릴 수 있는 방향으로 에이전트를 고도화하려고 준비하고 있다”고 밝혔다.

이 대표는 AI 기업 운영의 고충에 대해서는 “매출을 일으키려면 많은 검증이 필요하고 기업들이 선도적으로 도전하는 환경이 구축되어야 하는데, 대기업들은 대부분 AI팀을 자체에서 운영하다보니 AI 기업들이 BtoB로 나갔을 때 고객 접점이 줄어드는 것을 느낀다”고 말했다.

이어 “정부 공공기업이 빠르게 탑다운으로 공급해주면 좋겠지만 한국은 검토가 많아, 여전히 느리다는 점에서 AI 기업이 겪는 고충들이 있다”며 “이는 글로벌로 나가야겠다는 강한 확신으로 이어졌다”고 설명했다.

최 교수는 인공지능 도입에 있어 문제가 되는 요소로 'AI가 인간을 대체할 수 있냐'는 의문이 줄어들지 않고 있다는 점을 들었다. 고객들이 신뢰를 문제로 검증을 원한다는 것이다.

이영복 대표는 “사람이 내리는 평가와 AI 결과가 얼마나 상관계수가 나오느냐가 하나의 꼭지”라며 “두 번째는 모든 과정을 투명하게 공개해 신뢰성을 확대하는 것”이라고 말했다. 이어 “정부를 비롯해 전 세계에서 규제들이 신뢰할 수 있는 인공지능을 만들어가기 위해 다양한 정책들이 나오고 있다”고 덧붙엿다.

자율주행자동차 안전성과 관련된 주제도 다뤄졌다. 자율주행이 사람이 직접 운전하는 것보다 사고 발생률이 적지 않냐는 질문에 재관 한국자동차연구원 자율주행연구소장은 “일반적으로 안전하게 운전하는 분들은 10년에 한 번 정도 인명 관련 사고를 낼까 말까 수준”이라며 “현재 자율주행 기술이나 인공지능 기술이 그 정도로 진보되지는 않았다”고 짚었다.

그러면서 그는 “인공지능 소프트웨어도 부품으로 보는데 기술이 산업 규율에 맞춰 잘 따르는지, 인증체계에 맞는 표준을 따랐는지 등을 검증하고 테스트하는 흐름”이라고 밝혔다.

이 소장은 “차가 우회전해서 들어가는데, 차가 갑자기 후진해서 나오는 경우 등 예상치 못한 상황이 발생하는데 그런 데이터베이스 구축이 어렵다”며 “이런건 사고가 나 봐야 알 수 있는 부분이고, 현재 실험 차량은 드라이버 안전 문제도 있어서 굉장히 제한적인 데이터만 받는다”고 짚었다. 다만 “그런 케이스 데이터 받으려면 실제 사고를 일으켜야 하는데 이건 큰 사회적 문제가 될 수 있다”고 진단했다.

좌장인 최대우 한국외대 통계학과 교수는 자율주행에 들어가는 연구 비용과 시간에 대한 부분도 다뤘다. 최 교수는 “자율주행에 들어가는 시간과 비용이 어마어마할 것 같다”며 질문했다.

이에 대해 이 소장은 “연구개발에 가장 중요한 게 연구개발비용과 인건비”라며 “자율주행은 특히 전문가를 구하기 어려운 분야”라고 토로했다. 그는 “3~4년 전문성 갖추면 더 좋은 오퍼가 들어와서 옮기는 등, 미래 인력 양성에 대한 것도 고민을 해야할 부분”이라고 아쉬워했다.