TTA, 한국형 생성형 AI 위험 평가 데이터셋 ‘AssurAI’ 구축

한국정보통신기술협회(TTA)는 11월 18일, KAIST·서울시립대·계명대·셀렉트스타·카카오와 협력해 생성형 AI 안전성을 정량적으로 평가하는 ‘AssurAI’ 데이터셋을 구축했다고 밝혔다.

이번 사업은 과기정통부가 추진하는 AI 안전성 평가 기반 마련의 일환으로, 일상적 사용부터 악의적 공격까지 다양한 시나리오를 포함해 멀티모달 위험을 종합적으로 진단한다.

특히 한국 사회‧문화적 맥락을 반영한 것이 특징으로, 마치 최근 글로벌 AI 레드팀 테스트 확산 흐름과 유사한 국내판 평가 체계라 할 수 있다.

데이터셋은 허깅페이스에 공개되어 기업·연구기관이 모델 위험 요소를 직접 점검하고 개선 전략을 설계하는 데 활용할 수 있다.

다만 급변하는 AI 기술 특성상 신규 위험요소 반영이 늦어질 우려가 있으며, 지속적인 데이터 업데이트와 평가 기준 고도화가 필요하다.