 |
| ▲배일권 행정안전부 공공지능데이터국장이 지난 7월 29일 오전 정부세종청사 중앙동 브리핑실에서 '딥페이크 불법콘텐츠 탐지 분석모델 및 활용성과'에 대해 출입기자 대상으로 정책설명회를 하고 있다.(행정안전부 제공) |
[피앤피뉴스=마성배 기자] AI 기술을 활용한 과학수사가 딥페이크 범죄 대응의 새로운 전환점을 맞고 있다. 행정안전부와 국립과학수사연구원은 인공지능 기반 ‘AI 딥페이크 분석모델’을 개발·검증하고, 지난 5~6월 약 두 달간 실제 수사에 시범 활용한 성과를 30일 공개했다.
‘AI 딥페이크 분석모델’은 이미지, 영상, 음성 등 변조 의심 디지털 증거물에 대해 딥페이크 여부를 판별하는 기술로, 인공지능 알고리즘을 통해 미세한 변조 흔적까지 식별해낸다. 특히 얼굴의 눈, 코, 입 등 특정 부위의 변형이나 음성 합성의 미세한 불일치를 탐지해 고도화된 딥페이크 수법까지 추적할 수 있도록 설계됐다.
이 모델은 올해 5~6월 두 달간 경찰청 등 수사기관의 감정 의뢰를 받아 총 15건, 60종의 증거물을 분석했다. 특히 제21대 대통령 선거 당시 유포된 허위 영상 13건과 디지털 성범죄 사건 2건에 대해 신속하고 정밀한 감정을 수행해 수사기관에 과학적 판단 근거를 제공했다.
실제로 대선 당시 특정 후보가 하지 않은 발언을 한 것처럼 조작된 영상이 온라인상에 퍼졌고, AI 분석모델은 음성의 미세한 불일치성과 입 모양의 부자연스러운 조합 등을 탐지해 ‘딥페이크’임을 규명했다. 이 결과는 즉시 수사기관에 전달돼 해당 영상은 조기 차단됐다.
또한 SNS를 통해 유포된 불법 합성물 사건에서도 분석모델이 얼굴 경계면의 왜곡과 음영 오류를 포착해 합성 여부를 판별하는 데 성공했다. 이와 같은 기술력은 수사 초기 대응의 정확성과 속도를 획기적으로 높였다는 평가다.
 |
| ▲행정안전부 국립과학수사연구원은 지난 29일 오전 정부세종청사 중앙동 브리핑실에서 '딥페이크 불법콘텐츠 탐지 분석모델 및 활용성과'에 대해 시연을 하고 있다. |
행안부는 이번 모델 개발을 통해 국내 최초로 딥페이크 감정을 공식화하고, 과학적 증거 기반 수사체계를 구축하는 데 성공했다고 밝혔다. 특히 중앙선거관리위원회와 협력해 유튜브 등 온라인 플랫폼에서 불법 딥페이크 선거 영상 약 1만 건을 탐지 및 삭제하는 데에도 실질적인 기여를 했다.
모델 개발에는 KoDF, asvspoof 등 공개 데이터셋과 자체 제작 콘텐츠 등 약 231만 건(영상 69만 건, 음성 162만 건)의 데이터가 활용됐다. 최신 딥러닝 기술을 적용해 지속적인 피드백과 성능 개선을 거쳐 정밀도를 높였다.
향후 행안부와 국과수는 분석모델을 디지털 증거물 인증시스템(DAS)과 통합해 실무 적용 범위를 확대하고, 여성가족부와 방송통신위원회 등 관계기관에도 모델을 제공해 범정부적 대응체계를 구축할 계획이다. 아울러 2023년 개발된 보이스피싱 음성 분석모델과 연계해, 딥페이크로 생성된 음성이 누구의 목소리를 모방한 것인지까지 식별할 수 있도록 정교화를 추진한다.
이봉우 국립과학수사연구원장은 “AI 기술 기반 과학수사로 감정의 신속성과 정확성을 강화해 국민이 신뢰할 수 있는 수사체계를 확립하겠다”고 말했다.
이용석 디지털정부혁신실장은 “딥페이크 분석모델은 AI가 사회문제 해결에 기여하는 대표 사례”라며, “앞으로도 국민의 안전을 위해 AI 기술을 행정 전반에 적극 도입할 것”이라고 강조했다.
피앤피뉴스 / 마성배 기자 gosiweek@gmail.com
[ⓒ 피앤피뉴스. 무단전재-재배포 금지]
