[연구] 우사이먼성일 교수 연구실(DASH Lab)의 The Web Conference (WWW) 논문 2편 게재 승인
- 소프트웨어융합대학
- 조회수1246
- 2022-02-03
Data-driven AI Security HCI(DASH Lab) 연구실 학생 1) 이상엽 (소프트웨어학과 석박과정 연구원), 안재주 (소프트웨어학과 융합보안트랙 석사과정 연구원)과 우사이먼성일 (교신저자)의 논문 “BZNet: Unsupervised Multi-scale Branch Zooming Network for Detecting Low-quality Deepfake Videos”과 2)소프트웨어학과 Shahroz Tariq (소프트웨어학과 박사과정 연구원), 전소원 학생(소프트웨어학과 석사과정 연구원), 우사이먼성일 교수(교신저자)의 “Am I a Real or Fake Celebrity? Evaluating Face Recognition and Verification APIs under Deepfake Impersonation Attack” 논문 2편이 웹/데이터 마이닝 분야 최우수 학회The Web Conference (WWW) 2022 ( https://www2022.thewebconf.org/) (BK IF=4)에 게재 승인되었고, 2022년 4월 프랑스 리옹/온라인으로 발표될 예정입니다.
논문1. “BZNet: Unsupervised Multi-scale Branch Zooming Network for Detecting Low-quality Deepfake Videos”
특정 대상을 모방하는 딥페이크 생성 기법의 발전으로 사회는 가짜 뉴스나 잘못된 정보 전파에 취약해졌지만 최근 활발한 연구를 통해 다양한 딥페이크 탐지 기법들이 연구되었습니다. 하지만, 최근 SNS나 웹에 실제 배포되는 딥페이크 동영상은 저장공간 확보를 위해 저화질 비디오로 압축되어 기존의 탐지 기법의 성능을 저하시킵니다. 이를 해결하기 위해 본 연구에서는 Unsupervised Super-resolution (SR) 기법과 multi-scale 이미지를 동시에 학습하는 모델인 Branch Zooming Network (BZNet)을 개발하여 저화질 딥페이크 동영상을 탐지하였습니다. 탐지 모델 학습 시 학습용 고화질 딥페이크 동영상을 사용하지 않고 저화질 동영상만을 사용했다는 점에서 새로운 유형의 딥페이크의 저화질 배포 동영상만 존재하는 현실이 잘 반영되었다고 평가됩니다.
세부적으로, 본 논문에서는 저화질 딥페이크 탐지모델 BZNet을 두 단계로 나누어 학습을 진행합니다. 첫번째 단계는 주어진 저화질 딥페이크 이미지의 퀄리티를 N개의 고화질 이미지 크기로 높여주는 Unsupervised SR N개 모듈들을 학습합니다. 두번째 단계에서는 학습된 모듈을 활용하여 생성한 각기 다른 N개 이미지들을 활용하여 CNN기반 모델을 학습합니다. 이때, 여러 화질 이미지를 화질별로 나누어 학습하는 것이 아닌, 한 모델에 동시 입력으로 사용하여 학습하는 방법을 제안하였습니다. 저화질 딥페이크 영상을 다양한 화질의 이미지로 변환 후 multi-scale 학습법을 통해 저화질 딥페이크의 화질 변화 특징 추출 능력을 극대화할 수 있었고, 최신 탐지 모델과 비교하여 그 중 가장 높은 성능을 낼 수 있었습니다. 뿐만 아니라, 기존의 CNN기반 모델에 본 연구에서 개발한 Branch Zooming Module을 적용하여 저화질 이미지에 대한 분류 성능을 높임으로써, 이후 저화질 이미지 분류 문제 해결에 대한 가능성을 보였습니다
- 논문2. “Am I a Real or Fake Celebrity? Evaluating Face Recognition and Verification APIs under Deepfake Impersonation Attack”
본 연구에서는 딥페이크를 활용한 사칭 공격 (Deepfake Impersonation Attack)에 대한 얼굴 인식 API 와 오픈소스 툴들의 취약성을 시험합니다. 마이크로소프트, 아마존, 네이버 등에서 제공하는 영리 목적의 얼굴 인식 웹 서비스는 높은 정확도를 자랑하며, 다양한 멀티미디어 어플리케이션에 활용되고 있으나, 이러한 얼굴 인식 웹 서비스는 정교한 ‘딥페이크’ 기술의 발전으로 자연스레 누구나 빠르게 사칭 공격을 수행 가능한 환경에 노출되었습니다. 이에 본 연구에서는, 얼굴 인식 웹 서비스와 오픈소스 툴 중에서도 ‘유명인 얼굴 인식’ 서비스를 대상으로 딥페이크 사칭 공격을 수행한 결과, Targeted Attack (TA)의 경우 78.0%의 높은 공격 성공률을 보였습니다. 또한 본 연구에서는 적대적 훈련 기법을 사용하여 Targeted Attack 공격 성공률을 1.26%까지 감소시키는 딥페이크 사칭 공격 완화 전략을 제안하였습니다.