보안공학연구실(지도교수: 김형식)은 국가보안기술연구소와 KAIST와 공동으로 수행한 연구 결과가 인공지능 자연어처리 분야 최우수 국제학술대회인 ACL 2025 메인 컨퍼런스에 채택되었으며, 특히 전체 3,000여 편 이상의 채택 논문 중 상위 243편에만 주어지는 Oral 발표 세션에 선정되었습니다.

해당 논문은 국보연 소속이자 KAIST 박사과정인 고우영 연구원이 제1저자로 참여하였고, 김형식 교수는 공동연구자로 참여하였습니다.

XDAC: XAI-Driven Detection and Attribution of LLM-Generated News Comments in Korean

본 논문은 거대언어모델(LLM)이 생성한 한국어 뉴스 댓글을 탐지하고, 작성한 AI 모델까지 식별할 수 있는 설명가능 인공지능(XAI) 기반 탐지 프레임워크 ‘XDAC’을 세계 최초로 제안한 연구입니다. 특히 평균 50자 내외의 짧고 구어체인 한국어 댓글이라는 현실적 조건 속에서도 AI 생성 여부를 98.5%의 정밀도로 탐지하고, 어떤 LLM이 생성했는지도 84.3%의 정확도로 식별할 수 있다는 점에서 기존 SOTA 기술을 뛰어넘는 성과를 입증했습니다.

이번 연구는 AI를 활용한 여론 조작 가능성이 현실적인 위협으로 떠오르고 있는 상황에서, 짧고 비정형 적인 한국어 댓글 환경에서도 실효성 있는 방어 기술을 제시하였다는 점에서 높은 평가를 받았으며, 향후 포털 플랫폼 및 정부 차원의 기술 도입 가능성까지 고려할 수 있는 핵심 기술로 주목받고 있습니다.

프로젝트 소스 코드: https://github.com/airobotlab/XDAC/tree/main

뉴스 기사: https://www.ddaily.co.kr/page/view/2025062717211207639