[서울=뉴스핌] 김지나 기자 = 윤호중 행정안전부 장관은 10일 인공지능(AI) 기반 딥페이크 탐지 기술 시연회에서 "AI는 민주주의를 위협하는 창이 아니라 민주주의를 지키는 방패가 되어야 한다"고 밝혔다.

윤 장관은 이날 'AI 딥페이크 탐지 분석 모델' 시연회 모두발언에서 "인공지능 기술이 빠르게 발전하며 사회 곳곳에 새로운 가능성을 만들고 있지만 그 이면에서 딥페이크와 같은 위협도 나타나고 있다"며 이같이 말했다.

특히 선거 시기에는 딥페이크 기술이 악용된 가짜뉴스가 유권자의 판단을 흐릴 위험이 커지고 있다고 강조했다.

중앙선거관리위원회 통계에 따르면 선거기간 딥페이크 영상 삭제 요청은 2024년 제22대 총선 당시 388건에서 2025년 대선에서는 1만510건으로 크게 증가했다. 윤 장관은 "딥페이크는 단순한 기술 문제가 아니라 민주주의를 흔들 수 있는 새로운 정보 범죄"라고 말했다.

행정안전부는 딥페이크 범죄 대응을 위해 2024년부터 국립과학수사연구원과 함께 AI 기반 딥페이크 탐지 분석 모델을 개발하고 지속적으로 고도화하고 있다. 이번 모델은 허위정보 탐지율이 약 92%로 이전 모델(76%)보다 크게 향상됐다.

윤 장관은 "6월 지방선거를 앞두고 AI를 악용한 허위정보 확산에 범정부 차원의 대응이 필요한 시점"이라며 "딥페이크로 의심되는 이미지나 영상이 발견되면 과학적 분석을 통해 조작 여부를 신속히 확인하고 관계기관이 함께 대응할 것"이라고 밝혔다.

정부는 해당 기술을 선거 과정에서의 허위정보 대응뿐 아니라 각종 디지털 범죄 수사에도 확대 활용할 계획이다.

윤 장관은 "행정안전부는 선관위, 경찰청, 국과수 등 관계기관과 긴밀히 협력해 허위·조작 정보에 적극 대응하고 국민이 신뢰할 수 있는 공명선거 환경을 만들겠다"며 "AI가 가짜뉴스를 만드는'나쁜 AI'가 아니라 민주주의를 지키는 '착한 AI'가 되도록 하겠다"고 말했다.

abc123@newspim.com