“공감·이해력, 신뢰성·윤리성 갖춘 AI 개발 돕는다”

… KETI, 한국어 AI 키우고 진단하는 데이터셋 4종 공개

- 1:1 대면 대화, 쇼핑 상담, 환각, 윤리 분야 한국어 데이터 4종 공개 -

- 한국 맥락 반영해 공감 잘하는 AI 개발부터 AI 약점 진단까지 활용 -

□ 한국전자기술연구원(원장 노건기, 이하 KETI)이 사람에게 공감하며 대화하고, 사실에 근거해 답하며, 안전하게 행동하는 한국어 인공지능(AI)을 개발하고 평가하는 데 활용될 데이터셋 4종을 공개했다.

□ KETI 인공지능연구본부의 AI기반모델연구센터와 복합지능연구센터 연구진은 말과 몸짓 정보가 함께 담긴 한국어 대면 대화 데이터와 AI의 한국어 이해 및 한국 문화에 대한 이해 능력을 세밀하게 진단하는 평가 데이터를 구축해 공개하였다.

□ 공개한 데이터는 ▲멀티모달 한국어 교감대화 데이터 ‘K-MIND’ ▲멀티모달 AI 대화 능력 평가 데이터 ‘KoMMERCE’ ▲AI의 환각 진단 및 응답 신뢰성 평가 데이터 ‘K-Prism’ ▲한국의 사회·문화적 관점에서 AI가 윤리적으로 판단하고 행동하는지를 평가하는 AI 안전성 평가 데이터 ‘KoEVD’다.

 ㅇ ‘K-MIND’는 KETI와 마음AI가 함께 구축한 한국어 대화 데이터다. 화자 286명이 나눈 약 115.6시간의 1:1 대면 대화를 비디오·오디오로 기록해 억양·발화 속도 등 준언어적 정보와 표정·시선 등 비언어적 정보를 포함하고 있어 공감형 대화 AI 개발에 활용할 수 있다.

 ㅇ ‘KoMMERCE’는 KETI와 셀렉트스타가 구축한 패션 쇼핑 상담 1만 5,293건으로 구성된 평가 데이터로, AI가 고객의 감정과 의도를 파악하는지, 고객이 요구한 조건을 계속 기억하는지 등 9가지 멀티모달 연계 대화 능력*을 평가할 수 있다.

 * 감정·의도·전략 분류, 이미지·지식 검색, 대화 상태 추적, 스팬 탐지, 상호참조, 텍스트-이미지 관계 추출의 분석·대화 능력

 ㅇ ‘K-Prism’은 1,002개의 한국어 문항으로 구성되어, 글과 이미지를 함께 처리하는 AI가 사실과 다른 답을 내는 멀티모달 환각 현상*을 진단하고 응답의 신뢰성을 평가하는 데 활용할 수 있다.

 * 환각 현상: 사실과 다른 답을 지어내는 문제 현상

 ㅇ ‘KoEVD’는 한국어 유해·민감 발화 1만 3,552개와 응답 후보 7만 1,395개로 구성된 AI 안전성 평가 데이터다. 유해한 요청을 판별하고 안전한 답변과 행동을 선택하는 능력을 평가할 수 있다.

□ 이번 성과를 담은 논문들은 ACM SIGKDD(국제 데이터 마이닝 컨퍼런스), LREC(언어 자원 및 평가 학회), AACL-IJCNLP(아시아·태평양 전산언어학·자연어처리 국제공동학회) 2026 본회의에 채택됐다. 

□ 신사임 KETI 인공지능연구본부장은 “이번 성과는 KETI의 한국형 AI 연구 역량을 결집한 성과”라며 “이를 토대로 국내 기업들의 독자적인 한국어 및 한국 문화 특화 AI 모델 개발을 지원하겠다”고 밝혔다.

□ 데이터셋 4종은 정보통신기획평가원(IITP)의 지원을 받아 구축됐으며, AI허브(AI Hub)와 허깅페이스(Hugging Face)에서 확인할 수 있다.

 * 데이터셋 및 과제명 정보

 - K-MIND : 인간과 교감하는 멀티모달 인터랙션 인공지능 기술 

 - KoMMERCE : 상황인지 및 사용자 이해를 통한 인공지능 기반 1:1 복합대화 기술 개발

 - K-Prism : 생성AI가 생성한 결과물의 진실성과 일관성 확보를 위한 기술 연구

 - KoEVD : 사회적, 윤리적 학습을 위한 데이터 특성 및 생성 AI 모델의 윤리성 향상 연구\