국제 공동 연구진이 영상과 음성의 조작 여부를 동시에 판별하는 AI 기반 딥페이크 감지기를 개발했다. 정확도가 98%에 달해 국내 급증하는 딥페이크 범죄 대응에 즉각 도입이 필요하다는 목소리가 커지고 있다. 기존 기술이 얼굴 조작만 탐지하던 한계를 넘어, 이번 감지기는 가짜 음성까지 식별한다. 국내에서 디지털 성범죄와 가짜뉴스 제작에 딥페이크가 빈번히 사용되는 현실을 고려하면, 공공·민간 전 영역에서의 활용이 시급하다.

AI 스팸기술의 발전만큼 시급한 AI 보안기술 (사진=미드저니)

이번 기술은 미국 실리콘밸리 AI 보안 연구소와 유럽 디지털 포렌식 센터가 공동으로 개발했다. 수백만 건의 조작 영상·음성 데이터를 학습해, 1분 분량 콘텐츠를 5초 이내 분석 가능하며 평균 98%의 정확도를 기록했다.

딥페이크 관련 범죄는 꾸준하게 증가하고 있다. 방송통신심의위원회에 따르면 2021년 대비 2024년 딥페이크 범죄 심의 건수는 5배, 피해자 지원 요청은 6배 이상 증가했다. 경찰 통계에서도 2024년 하반기~2025년 초 사이 963명이 검거되고 59명이 구속돼 전년 대비 260% 늘었다. 2021년부터 올해 7월까지 신고는 총 793건이었지만, 검거는 389건에 그쳤다.

청소년 가해자 비율도 높다. 최근 조사에서 딥페이크 범죄의 75.8%가 10대에 의해 저질러진 것으로 나타났다. 피해자의 70% 이상은 여성이었으며, 중·고등학생 2,145명 조사 결과 89.4%가 딥페이크 불법 영상을 범죄로 인식하고, 85.5%가 예방교육의 필요성을 답했다.

AI 소프트웨어 개발기업 오케이토마토의 이영호 대표는 “이번 감지기는 선거, 금융, 법적 증거 등 신뢰성이 중요한 분야에서 즉시 활용할 수 있다”며 “AI를 악용한 정보 조작과 디지털 성범죄에 맞서기 위해서는 기술 도입을 더 이상 미뤄서는 안 된다”고 강조했다.

연구팀은 정부 기관과 소셜미디어 플랫폼과 협력해 실시간 모니터링 시스템에 감지기를 통합하고, 허위 정보와 불법 콘텐츠 유통을 사전에 차단할 방침이다.

0 0