국과수 공동 개발 AI 모델 선관위 지원…영상·음성 분석 정확도 92% 수준 ▲윤호중 행정안전부 장관이 10일 오후 서울 종로구 정부서울청사에서 AI 딥페이크 탐지 분석모델 시연에 앞서 모두 발언을 하고 있다.(행정안전부 제공)

 

 

 

 

 

[피앤피뉴스=마성배 기자] 제9회 전국동시지방선거를 앞두고 정부가 후보자 관련 허위 영상과 음성 유포에 대응하기 위한 인공지능 분석 체계를 선거 현장에 적용한다. 최근 생성형 AI를 이용해 특정 인물의 얼굴과 음성을 정교하게 합성하는 사례가 늘면서 선거 과정에서 유권자 판단을 흔들 수 있는 조작 콘텐츠를 조기에 걸러낼 계획이다.

행정안전부는 국립과학수사연구원과 공동 개발한 AI 딥페이크 탐지 분석 모델을 선거 기간 동안 중앙선거관리위원회에 지원한다고 밝혔다.

이번 모델은 지난해 12월 진행된 ‘딥페이크 범죄 대응 AI 탐지 모델 경진대회’ 결과를 토대로 정리됐다. 당시 268개 팀, 1077명이 참여했고, 이 가운데 최종 선정된 5개 우수 모델이 실제 운영 체계에 반영됐다.

정부는 이들 모델을 중앙선거관리위원회에 제공해 선거 기간 중 유통되는 의심 영상이나 음성 자료를 신속하게 분석할 수 있도록 지원할 예정이다.

탐지 방식은 두 갈래로 구성됐다. 영상 전체 흐름을 읽는 전역 분석과 얼굴 등 특정 부위의 변형 흔적을 찾아내는 국소 분석을 동시에 적용해 조작 여부를 판별한다.

최근 생성형 AI 기술로 만든 콘텐츠까지 대응 범위를 넓혔고, 사전 검증에서는 약 92% 수준의 탐지 정확도를 확보했다.

정부는 이번 지방선거 적용을 시작으로 활용 범위를 넓힐 방침이다. 여성가족부, 방송통신위원회, 경찰청 등 관계 기관과 연계해 디지털 범죄 대응 체계를 강화하는 방향으로 협력 범위를 확대할 예정이다.

국립과학수사연구원은 생성형 AI 기술 발전 속도에 맞춰 분석 체계를 계속 보완해 과학수사 역량을 높인다는 방침도 밝혔다.

윤호중 장관은 고도화된 AI 딥페이크 기반 허위 정보가 선거 민주주의를 위협할 수 있다며, 선거 과정에서 허위·조작 정보 대응 역량을 계속 높여 나가겠다고 말했다.

 

피앤피뉴스 / 마성배 기자 gosiweek@gmail.com 

[ⓒ 피앤피뉴스. 무단전재-재배포 금지]