생성형 AI의 악의적 활용 차단 및 탐지 위한 딥페이크 가드 엔진 등 미래원천기술 개발
딥브레인AI, 19년부터 딥페이크 검출 기술 연구 앞장… 딥페이크 자동 탐지 솔루션 개발도
[피앤피뉴스=마성배 기자] 국내 생성형 인공지능(AI) 전문 기업 딥브레인AI(대표 장세영)가 문화체육관광부, 한국콘텐츠진흥원의 2024년 문화기술 연구개발 사업에 참여 중이라고 3일 밝혔다.
문화기술 연구개발 사업은 문화산업의 경쟁력 강화를 위해 콘텐츠 분야 기업 및 연구기관을 대상으로 문화와 기술이 융합된 기술개발 과제 수행을 지원하는 사업이다. 딥브레인AI는 ‘악의적 활용을 차단하는 생성형 AI 모델을 탑재한 콘텐츠 창작 및 공유 플랫폼 기술 개발’ 사업(RS-2024-00441174)에서 딥페이크 가드 엔진 개발을 진행하고 있다.
‘악의적 활용을 차단하는 생성형 AI 모델을 탑재한 콘텐츠 창작 및 공유 플랫폼 기술 개발’ 과제는 한국전자기술연구원(KETI)이 주관하며, 딥브레인AI 외에도 클레온(디지털 휴먼 기술기업), 오핌디지털(시각특수효과(VFX) 스튜디오) 등이 참여했다. 사업비 규모는 35억 원, 총 연구기간은 24년 7월부터 26년 12월까지다.
본 과제는 문화예술 콘텐츠 창작자를 위한 창작자 친화적인 생성형 AI 기반 이미지/동영상 저작/편집 기술 및 생성형 AI의 악의적 활용요소를 원천적으로 차단 및 판별하는 기술 개발을 목적으로 한다. 이를 바탕으로 다양한 접근성을 갖춘 저작 플랫폼을 개발하고, 생성형 AI 기반 문화예술 콘텐츠를 안전하게 공유/판매할 수 있는 마켓 플랫폼을 구축하는 등 지속가능한 생태계를 만들어갈 계획이다.
딥브레인AI의 경우, 생성형 AI의 악의적 활용을 차단 및 탐지하는 딥페이크 가드 엔진의 개발을 담당하고 있다. ▲언어모델 학습을 통한 악의적인 맥락형 프롬프트의 맥락 파악 및 결과물 생성 차단 ▲페이스 ID(Face ID) 대조 및 탐지를 통한 인플루언서 활용 딥페이크 영상 생성 차단 ▲입력, 생성, 출력을 모두 막을 수 있는 스크리닝/모니터링/검사 3단계의 탐지 엔진 등의 미래원천기술을 개발 중이다.
한편, 딥브레인AI는 지난 2019년부터 국내 최고 수준의 AI 휴먼 기술력과 데이터셋을 바탕으로 딥페이크 검출 기술 연구에 심혈을 기울이고 있다. 원본과 변조된 픽셀(화면의 가장 작은 단위) 차이로 딥페이크 여부를 판별하는 딥페이크 탐지 솔루션을 개발해 관공서 대상으로 국내 최초 상용화에 성공했다. 최근에는 플랫폼에 올라온 모든 영상, 음성, 이미지 콘텐츠의 딥페이크 여부를 자동으로 탐지하는 ‘딥페이크 자동 탐지 서비스형소프트웨어(SaaS) 솔루션’을 발표해 큰 화제를 모으기도 했다.
피앤피뉴스 / 마성배 기자 gosiweek@gmail.com
[ⓒ 피앤피뉴스. 무단전재-재배포 금지]
