[서울=뉴스핌] 양태훈 기자 = 카카오가 제22대 국회의원 선거를 앞두고 선거 관련 허위조작정보를 담은 콘텐츠의 제작과 유통을 근절하기 위해 다양한 정책과 기술적 조치를 마련했다고 13일 밝혔다.
이번 조치는 사용자들이 AI 생성물을 쉽게 식별하고, 조작된 정보의 유통에 주의를 기울이며, 적극적으로 신고할 수 있는 환경을 조성하기 위함이다. 카카오는 앞서 한국인터넷기업협회 회원사들과 함께 '악의적 선거 딥페이크 사용 방지를 위한 공동선언'을 채택, 제22대 국회의원 선거 기간 동안 주요 IT 기업들이 협력해 문제에 대응하기로 합의한 바 있다.
카카오는 AI 생성물에 대한 기술적 조치로 이미지 생성형 모델 '칼로(Karlo)'에 비가시성 워터마크를 도입, '비 디스커버(B^ DISCOVER)'에는 가시성 워터마크를 적용했다. 특히, 인물 기반 AI 생성물 공유가 활발한 '칼로 AI 프로필' 기능에는 비가시성 워터마크도 도입했다. 또한, 카카오는 언론사의 AI 생성 기사 상단에 '자동생성 알고리즘에 의해서 작성된 기사'라고 표기할 예정이다.
 |
| 카카오 로고. [사진=카카오] |
아울러 카카오는 건전한 선거 문화 정착을 위해 다음 카페, 티스토리, 카카오스토리, 브런치스토리, 다음 뉴스, 다음 총선 특집 페이지, 다음 채널 스튜디오 등을 통한 이용자 대상 캠페인을 지난 8일부터 진행 중이다. 악의적인 딥페이크를 포함한 선거 관련 허위정보를 발견한 경우, 공지문 링크나 신고하기 팝업 등을 통해 중앙선거관리위원회로 신고할 수 있다.
카카오톡 내에서도 공식 채널을 통한 이용자 유의사항 발송, 카카오 나우 배너와 오픈채팅 탭에서의 캠페인 배너 광고 등 다양한 캠페인을 진행할 예정이다.
허위조작정보 신고 및 조치와 관련해, 웹 게시글과 댓글, 카카오 TV 게시물, 뉴스 댓글 등에서 위반사항이 발견되면 이용자가 신고할 수 있도록 하며, 중앙선거관리위원회 신고센터로 바로 연결된다. 자체 신고센터도 24시간 운영해 빠른 모니터링과 조치가 가능하도록 한다. 허위정보 확산 및 불공정 선거보도 방지를 위해 다음 곳곳에 신고 배너를 게시하고, 이용자 참여 공간과 다음채널 스튜디오에서도 관련 캠페인을 진행한다.
카카오 측은 "앞으로 남은 선거 운동 기간 동안 악의적인 딥페이크를 비롯한 허위 조작 정보를 담은 콘텐츠가 유통되지 않도록 관계 당국과도 긴밀하고 적극적인 협의를 지속 이어나간다는 방침"이라고 전했다.
dconnect@newspim.com
