[서울=뉴스핌] 박찬제 기자 = 이재명 대통령은 16일 인공지능(AI) 기술을 이용한 딥페이크 영상의 악용 가능성을 지적하며 대비책을 주문했다.

이 대통령은 이날 오전 청와대 영빈관에서 열린 업무보고에서 과학기술정보통신부와 방송미디어통신위원회에 "지금은 (AI 생성) 영상이나 이런 건 너무 똑같다"며 "거의 실제 영상하고 구별이 안된다. 나는 구별이 안 되더라"고 말했다.

이 대통령은 "이것도 (규제·처벌을) 유예하거나 이러니까 또 악용하는 사람들도 많고, 고민을 좀 해야 될 것 같다"며 "만약 (AI 활용 제작)표시 안 된 부분을 잘라서 쓰면, 그 잘라서 쓴 사람에게 표시의무가 있는 것이냐"라고 따졌다.

이에 류제명 과기부 2차관은 "지금 인공지능 기본법상 표시의무는 인공지능 모델을 개발하는 사업자와 이용 사업자, 사업자에 대한 제재"라며 "유포자나 실제 유튜브에서 활용하는 사람들은 규제 대상이 아니다"라고 답했다.

류 차관은 대비책으로 "생성형 AI 표시를 훼손하거나 삭제하지 못하도록 하는 그런 법안들이 제안은 돼 있다"고 설명했다.

김종철 방송미디어통신위원장은 "개인정보 보호가 이제 필수 기반 비용이 된 것처럼 인공지능 오남용 방지와 산업 발전도 병행해야 한다"고 밝혔다. 현재 인공지능 생성물 표시 의무를 위반하면 3000만원 이하의 과태료를 부과하도록 규정 중이다. 다만, 정부는 제도의 현장 안착과 기업의 준비 기간 등을 고려해 과태료 부과를 1년간 유예하고 있다.

이 대통령은 "(국회에서) 어떻게 되는지 보고 있겠다 이러면 안 될 것 같다"며 "AI 창작물이 가지는 위험성이 지금도 이미 현실화되고 있지 않나"라고 짚었다. 그러면서 이 대통령은 관련 부처에 적극적 제도 정비 착수를 지시했다.

pcjay@newspim.com