행안부, AI로 딥페이크 잡는다…

행정안전부가 인공지능(AI) 기반의 딥페이크 분석 모델을 개발해 디지털 범죄 대응에 본격적으로 나선다. 이번 모델은 이미지, 영상, 음성에 숨어 있는 조작 흔적을 자동으로 감지하고, 변조 가능성을 정량적으로 분석해 딥페이크 여부를 빠르게 판단할 수 있다.

이 분석 시스템은 국립과학수사연구원과의 협업을 통해 약 231만 건의 딥페이크 데이터를 학습해 구축됐으며, 눈·코·입 등 얼굴 부위별 분석 기능은 물론, 일부 손상된 데이터에 대해서도 정밀한 진위 분석이 가능한 것이 특징이다.

실제로 지난 5~6월 동안 해당 기술은 대선 관련 허위 영상 13건, 디지털 성범죄 2건 등 총 15건의 범죄 감정에 활용됐다. 특히 대선 당시에는 중앙선거관리위원회와 협조해 온라인에 유포된 불법 선거 영상 1만여 건을 적발 및 삭제하는 데 기여한 바 있다.

정부는 이번 기술을 여성가족부, 방송통신위원회 등 유관 기관에 순차적으로 보급해, 딥페이크 기반 범죄 예방과 피해자 보호에 나설 계획이다.

이봉우 국립과학수사연구원장은 "과학기술을 기반으로 한 선제적 대응으로 국민 신뢰를 높이겠다"고 밝혔으며, 이용석 행정안전부 디지털정부혁신실장은 "AI와 데이터를 행정에 적극 도입해 국민의 안전을 지켜나가겠다"고 강조했다