포브스코리아 ‘2025 대한민국 AI 50 기업’ 선정…AI 신뢰성 검증 분야 유일
신뢰성 검증 프로세스 자동화 ‘다투모 이밸’…다양한 패턴 포괄적 평가 지원
‘2025 C-Lab Outside’ 선정, 삼성생명과 AI 신뢰성 검증 프로젝트 수행
[시사저널e=이창원 기자] AI(인공지능) 데이터 전문 기업 ‘셀렉트스타’가 신뢰성 검증 분야의 기술력을 재차 입증하고 있는 모습이다.
또 데이터 구축과 검증 전문성을 무기로 금융권 기업들과의 협업을 확대해나가는 동시에 지속적으로 AI 품질관리 역량을 고도화하며 글로벌 시장을 공략하기 위한 경쟁력도 한층 강화하고 있어 향후 행보에 관심이 모아진다.
5일 업계에 따르면, 셀렉트스타는 최근 포브스코리아가 선정한 ‘2025 대한민국 AI 50 기업’의 AI 신뢰성 검증 분야에서 유일하게 이름을 올렸다.
매년 포브스코리아는 AI 기술을 상용화하고, 시장에서 성과를 내는 주요 AI 기업을 발표해왔다. 특히 올해에는 ‘더브이씨(The VC)’의 기업정보 DB(데이터베이스)에서 ‘인공지능’ 관련 키워드를 중심으로 스타트업·중견기업 924개를 1차 후보군으로 도출하고, 특허 수·투자유치액·경영성과·글로벌 시장성 등 다양한 기준에 따라 최종 50개사를 선정했다.
이번 선정 과정에서 셀렉트스타는 지난 2월 국내 최초로 출시한 AI 신뢰성 검증 자동화 솔루션 ‘다투모 이밸(Datumo Eval)’의 기술력과 시장성을 높게 평가받은 것으로 알려졌다.
다투모 이밸은 신뢰성 검증 프로세스를 자동화해 AI 서비스 운영 중 발생할 수 있는 다양한 오류와 위험성을 사전에 식별·대응할 수 있도록 지원하는 솔루션이다.
기업의 AI 서비스 유형과 사용 목적에 따른 평가 기준 설정, 도메인·서비스에 부합한 맞춤형 평가용 질문 자동 생성, AI 서비스의 답변 자동 평가·결과 분석, AI 서비스의 취약점을 이끌어내는 레드티밍 등이 주요 기능이다.
다투모 이밸은 100만개 이상의 평가용 질문을 자동 생성해 AI 모델이 처리해야 할 다양한 사용자 발화 패턴을 포괄적으로 평가할 수 있도록 지원한다는 것이 특징이다.
이를 통해 기존 도메인 전문가가 손수 평가용 질문을 설계하며 발생했던 높은 비용과 기간을 획기적으로 절감했고, 자동 생성된 평가용 질문은 셀렉트스타의 자체 AI 에이전트 기술을 기반으로 생성돼 기업의 평가 목적, 요구사항, 난이도, 실제 고객 데이터와의 유사성 등 다양한 요소를 반영함으로써 현실적인 평가가 가능하다.
또 다투모 이밸은 AI 서비스가 기업이 설정한 기준을 벗어나거나 유해한 정보를 생성하는지 여부를 감지하고 자동 평가하는 기능을 제공한다.
셀렉트스타는 “AI와 사용자 간의 상호 작용을 수치화해 객관적으로 분석이 가능하고, 평가 과정에서는 다양한 메트릭을 제공해 여러 AI 모델의 성능을 비교함으로써 약점을 빠르게 파악해 개선 방향을 도출할 수 있다”며 “평가가 완료된 후에는 모델이 특정 상황이나 맥락에서 문제를 일으키는 원인을 체계적으로 분석할 수 있어 보다 신속하고 체계적인 AI 서비스 운영이 가능해질 것으로 기대된다”고 설명했다.
이와 같은 솔루션을 기반으로 셀렉트스타는 금융권 기업들과의 협업을 확대해나가고 있다.
실제 이날 셀렉트스타는 삼성금융네트웍스의 오픈 이노베이션 프로그램인 ‘2025 C-Lab Outside’에 최종 선정되며 삼성생명과 5개월 동안 AI 서비스 신뢰성 검증 프로젝트를 함께 수행한다고 밝히기도 했다.
이번 협업을 통해 삼성생명은 셀렉트스타의 데이터 구축·검증 전문성을 기반으로 금융 업무에 최적화된 AI 모델 개발·검증 역량을 강화해 나간다는 방침이다.
구체적으로 셀렉트스타는 다투모 이밸을 활용해 삼성생명의 내부 데이터를 활용한 LLM 기반 서비스 검증·데이터 구축 컨설팅을 진행한다. 내부 데이터를 분석해 보다 효과적인 학습 데이터 구축 전략을 기획·수립하고, 이를 기반으로 LLM(대규모언어모델, Large Language Model)이 실제 내부 기준에 부합하는 방식으로 작동하는지 평가할 계획이다.
김세엽 셀렉트스타 대표는 “금융 산업에서의 AI 도입은 데이터의 질과 그것이 만들어내는 예측 가능성에 달려 있다”며 “삼성생명과의 협업을 통해 실제 산업 기준에 부합하는 데이터 구축과 AI 평가 체계를 제시하겠다”고 말했다.
셀렉트스타는 다양한 산업 분야에서 AI 모델 개발 전주기에 걸친 고품질 학습 데이터 구축·제공, 품질·안정성 검증, 신뢰성 평가 등을 통합 제공하며 고객의 AI 서비스 안정성 확보를 지원하는 전주기 관리 체계를 구축하고 있다.
지난해 국내 최초 ‘생성형 AI 레드팀 챌린지’ 대표 파트너로 활약하고, 올해 MWC에서 ‘글로벌 AI 레드팀 챌린지’를 주관하며 세계 시장에서 레드팀 기술을 인정받기도 했다.
또 SXSW2025에서는 ‘캐치! 티니핑’, ‘헬로카봇’ 등 인기 캐릭터 기반 AI 영상편지 서비스도 선보이는 등 생성형 AI의 산업 적용을 확대하고 있다.
향후 셀렉트스타는 다투모 이밸을 비롯한 자사의 솔루션의 완성도를 높이는 한편, 고신뢰 산업군을 위한 AI 품질관리 역량을 지속적으로 강화해나간다는 방침이다.
아울러 최근 글로벌 시장에서 AI 모델의 신뢰성을 검증하는 기술이 큰 주목을 받고 있는 상황에서 평가 데이터 생성 자동화 기술을 필두로 해외에서도 유사 사례가 적은 영역을 공략해나가며 글로벌 경쟁력을 확보해 나갈 계획이다.
김 대표는 “AI의 상용화에서 가장 중요한 것은 ‘신뢰성’”이라며 “글로벌 수준의 AI 신뢰성 평가와 레드팀 기술을 바탕으로 국내외 AI 신뢰성 시장에서 영향력을 넓혀갈 것”이라고 밝혔다.