강정희 변호사 “EU법안 참고해 사업자 대상 세분화 필요”
[시사저널e=송주영 기자] 내년 1월 시행 예정인 AI 기본법의 준비 기간이 5개월 남짓 남았다. 하위법령이 이달 공개될 예정이지만 법이 규정하는 ‘규제 대상’이 모호하다는 현장 전문가들의 지적이 잇따르고 있다. 유럽연합(EU) 사례처럼 인공지능 관련 사업자를 세분화해야 한다는 의견도 나왔다.
강정희 법무법인 태평양 변호사는 8일 서울 여의도 국회 의원회관에서 열린 ‘AI법제연구포럼 국회 세미나’에서 “고영향 인공지능 시스템에 대해 사용자에게 고지 의무를 부과하고 있지만 여기서 말하는 ‘사용자’가 누구인지 명확하지 않다”고 지적했다.
가령 의료기기 시스템은 병원이 사용자에 해당하는지, 환자가 사용자에 해당하는지에 따라 고지의 범위와 방식이 달라질 수 있다.
그는 “예를 들어 병원이 고영향 인공지능 시스템을 도입한 경우, 병원만 사용자로 본다면 환자에게는 별도로 고지하지 않아도 되는 건지, 아니면 환자도 고지 대상인지에 대한 기준이 불분명하다”고 말했다.
AI 기본법 제31조는 인공지능 사업자가 제품 또는 서비스를 제공하려는 경우, 해당 서비스가 인공지능에 기반해 운용된다는 사실을 사전에 고지하도록 규정했다. 고지 의무는 고영향 인공지능, 생성형 인공지능, 딥페이크 기술 등에 적용되며 이를 위반할 경우 최대 3000만원 이하의 과태료가 부과된다.
강 변호사는 “법에서 ‘개발사업자’와 ‘이용사업자’만 정의하고 있다”며, EU 인공지능법처럼 공급자, 배포자, 수입자, 유통자, 제조자, 국내대리인 등 다양한 유형의 사업자를 구분해 적용할 필요가 있다고 강조했다.
EU는 상표를 붙여 서비스하는 사업자를 공급자로, 권한을 갖고 인공지능 시스템을 사용하는 사업자를 배포자로 정의해 규제한다. 여기에 수입자와 유통자를 별도로 구분했으며 국내 대리인도 규제 대상에 포함했다. 이들 각자에게 별도의 투명성 의무를 부과했다.
‘고영향’에 대한 정의도 논란이다. AI 기본법상 고영향 인공지능의 예로는 에너지, 식수, 보건의료, 의료기기, 핵물질, 생체인식정보, 금융심사, 교통, 공공기관의 의사결정, 학생 평가 등이 제시돼 있다.
의료기관의 경우 진단·치료 보조 시스템은 고영향에 해당하지만, 단순 예약 시스템은 고영향에서 제외된다. 그러나 모호한 경우가 많아 이용자가 직접 과학기술정보통신부에 질의해 고영향 여부를 판단하도록 규정했다.
정부는 이달 중 시행령과 함께 고영향, 고성능, 생성형 AI 등을 다룬 가이드라인 5종을 순차적으로 공개할 예정이다.
강 변호사는 “법의 주요 내용이 불명확한 상태에서, 시행까지 불과 5개월밖에 남지 않아 기업들이 어떻게 대응해야 할지 불안감을 느끼고 있다”고 우려를 전했다.
윤혜선 한양대 교수(법학전문대학원)는 ‘고영향 AI’ 판단 절차가 사실상 사전 허가제처럼 작동할 수 있다고 말했다. 하나의 AI 서비스가 고영향, 고성능, 생성형 등 여러 기준에 해당할 가능성이 있다 보니 기준의 중첩 및 모호성이 현실적인 혼선을 초래할 수 있다는 점을 강조했다.
정원준 한국법제연구원 AI법제팀장도 “AI 기본법에는 기술 진흥과 신뢰 확보라는 양립 과제가 반영돼 있다”며 이런 법 취지에도 불구하고 법 적용 시 기업의 예측 가능성이 유지되지 않으면 혁신에 제동이 걸릴 수밖에 없다는 점을 강조했다.
윤 교수도 “AI 기본법은 완성형이 아니라 진행 중인 법이므로, 혁신과 신뢰가 균형적으로 작동할 수 있는 체계적 법 설계가 시급하다”고 설명했다.