한국인 데이터 100만점 등 520만점 학습
총선 90일 전부터 딥페이크 선거운동 금지
딥페이크란 딥러닝(Deep learning)과 페이크(Fake)의 합성어로 기존 영상을 다른 영상에 겹쳐서 만들어 낸 이미지다.
정치인 딥페이크 영상이 최근 전 세계적으로 양산되면서 사회적 혼란을 불러일으키고 있다. 우리나라도 오는 4월 총선을 앞두고 선거 90일 전부터 딥페이크 영상 활용 선거운동이 전면 금지됐다.
신형 소프트웨어는 딥페이크 영상으로 의심되는 영상이 시스템에 업로드되면 통상 5~10분 내에 분석 작업을 완료해 가짜영상인지 판별할 수 있다. 판별이 완료되면 즉각 결과보고서를 만들어 수사에 활용할 수 있다.
기존 딥페이크 탐지 모델이 해외에서 제작돼 서양인 위주 데이터로 구성된 데 비해, 이번에 개발한 소프트웨어는 한국인 데이터 100만점 등 520만점에 대한 학습이 이뤄졌다.
또 기존에 학습된 데이터뿐만 아니라 새로운 형태의 합성 영상이 발견돼도 대응할 수 있게 최신 인공지능(AI) 모델이 적용됐다.
경찰은 선거범죄·합성 성착취물 범죄 외에도 소프트웨어를 활용해 딥페이크를 이용한 다양한 범죄에 능동적으로 대처해 나간다는 방침이다.
경찰청은 “소프트웨어의 진위 여부 탐지율은 약 80%에 달한다”며 “탐지율이 100%가 아닌 점을 감안하여 증거자료보다는 수사 방향을 설정하는 자료로 활용할 예정”이라고 밝혔다.
<© I T N 무단전재 및 재배포 금지>