[편집자] 이 기사는 1월 23일 오후 5시14분 프리미엄 뉴스서비스'ANDA'에 먼저 출고됐습니다. 몽골어로 의형제를 뜻하는 'ANDA'는 국내 기업의 글로벌 성장과 도약, 독자 여러분의 성공적인 자산관리 동반자가 되겠다는 뉴스핌의 약속입니다.

[뉴스핌=최원진 기자] 소셜미디어(SNS)는 소셜 네트워크를 바탕으로 개인의 생각, 경험, 의견, 정보 등을 공유하고 타인과의 관계를 형성하고 확장할 수 있는 개방화된 온라인 플랫폼이다. 여기에는 페이스북, 트위터, 유튜브 등이 포함되는데, 개인이 자유롭게 글을 쓰고, 이것이 거의 동시에 공유되고 확산된다.

문제는 SNS에서 불법·사회적인 문제가 될 수 있는 콘텐츠 파급력이 크다는 것에 있다. 구글은 지난해 말 자살 주검을 촬영해 영상을 올린 로건 폴에 특단의 조처를 내렸다. 유튜브의 특별 광고 프로그램인 구글 선호 프로그램(Google Preferred Program)과 동영상 유료 서비스 유튜브 레드에서 로건 폴을 퇴출하기로 결정한 것이다. 로건 폴은 팔로워 400만명을 거느린 SNS 스타. 영상은 삽시간에 퍼졌고, 로건 폴을 향하던 여론의 뭇매는 모니터링을 하지 않은 유튜브에 향했다. 이는 비단 유튜브만의 문제가 아니다.

◆ 인공지능(AI) 시스템에 의존한 모니터링

유튜브를 비롯한 페이스북, 트위터 등 소셜미디어는 인공지능(AI)을 통한 데이터 분석에 의존하고 있다. AI 시스템은 심층 학습 알고리즘을 통해 소셜미디어 게시물, 태그를 데이터화하고, 특정 검색 필터를 통해 카테고리화 해 방대한 양의 정보를 처리한다. 사람이 일일이 작업하기 어려운 방대한 양의 정보를 추려 초안을 제시해주는 역할을 하는 것이다.

AI 기술은 크게 성장하고 있지만 아직 사람이 쓰고, 편집해 올리는 사진과 영상 모두를 세심하게 처리하진 못한다. 실제로 로건 폴 파문 같은 경우, 로건 폴이 직접 영상을 삭제할 때까지 아무런 조처를 하지 않았다.

영국의 비영리 인터넷 매체 프로퍼블리카의 기자들이 조사한 바에 따르면 크라우드소싱한 1000개의 게시물을 분석한 결과, 페이스북이 지역 사회 기준을 공평하게 적용하지 못했다고 배니티페어가 지난 2일 보도했다. 900개의 게시물 중 49개의 샘플을 페이스북에 직접 보냈는데, 페이스북은 모니터링 과정에서 22개의 경우 성차별이나 인종 차별에 대한 솔직한 대화를 편파적인 발언으로 잘못 해석하면서 실수를 범했다.

AI의 진화는 이제 막 시작 단계다. 선다 피차이 구글 최고경영자(CEO)는 22일(현지시간) 미국 MSNBC 방송과의 인터뷰에서 "AI 기술은 매우 중요하지만 동시에 걱정할 필요가 있다. 우리는 (AI 기술에 대해) 마냥 긍정적이라고만 말할 수 없다. 신중해야 한다는 입장"이라며 최고경영자 본인도 현재 AI 기술을 100% 신뢰할 수 없다는 입장을 드러냈다.

◆ 소셜미디어 단속에 나선 정부

소셜 미디어 파급력에 대한 사회의 경각심이 커지자 정부도 개입했다. 독일 정부는 페이스북, 트위터, 유튜브 등 소셜미디어 업계에 모니터링 관련 법안으로 압력을 가했다. 독일은 지난 1일, 게시된 불법 콘텐츠를 플랫폼에 방치할 경우 기업에 5000만유로(한화 약 656억3100만원)의 벌금을 물게 하는 '네트워크 시행법(NetzDG)'을 통과시켰다고 폭스비즈니스가 지난 10일(현지시간) 보도했다. 여기에는 명예훼손, 네오나치즘 프로파간다, 인종차별, 폭력성과 선정성을 띠는 글, 가짜뉴스 등이 포함된다.

페이스북은 작년 6월부터 추진된 NetzDG 법 시행 전, 부적절한 영상을 확인하고 삭제하는 콘텐츠 감독관 1만2000명을 고용하며 대비했다. 이는 평균 7500명인 다른 나라 감독관 인원보다 많은 인원이다. 전 세계 페이스북 이용자 중 독일의 사용자는 1.5%에 불과한 점을 감안하면, 이번 페이스북의 조치는 파격적으로 풀이된다.

영국은 페이스북의 미흡했던 초기 대응을 비난하며 수사 협조를 의뢰했다. 영국 의회는 지난 17일(현지시간) 페이스북이 영국의 유럽연합 탈퇴(브렉시트) 국민투표 당시 유통된 가짜뉴스에 대한 조사 확대에 동의했다고 밝혔다고 이날 더가디언지가 보도했다. 영국 의회는 브렉시트에 러시아가 개입했다는 의혹을 조사하는 과정에서 페이스북과 트위터에 러시아 선전 단체에 대한 추가 정보를 제공할 것을 요구했다. 이어 하원은, 페이스북과 트위터가 수사 협조에 불응시 제재를 가할 방침임을 알렸다. 

페이스북과 트위터를 향한 요구는 이번이 처음은 아니다. 당시 영국 선거관리위원회는 페이스북에 러시아 인터넷조사기관(Internet Research Agency, IRA)의 허위 계정들을 조사할 것을 요구했지만 페이스북은 러시아 선전 단체가 신청한 유료 광고 횟수가 적어, 영향력이 미미했다며 거부했기 때문이다. 이에 데미안 콜린스 하원의원은 페이스북이 러시아의 가짜 뉴스에 대한 초기 대응에 아무런 노력이 없었다고 지적했다. 

◆ 모니터링 개선이 불가피한 소셜미디어 업계

페이스북이 감독관을 추가 고용했다면 유튜브는 앞으로 로건 폴 사건과 같은 영상이 게재되지 않도록 유튜브 파트너 프로그램(YPP) 조건을 강화한다고 포브스가 지난 17일(현지시간) 보도했다. 기존에는 조회수 1만이 되면 YPP에 따라 광고를 게재해 수익을 창출할 수 있었다. 이젠 지난 12개월간 총 재생 시간 4000과 구독자 1000명 이상이란 기준이 더해졌다. 닐 모한 유튜브 CPO와 로버트 카인클 유튜브 CBO는 공동 블로그 포스트를 통해 "수익 창출에 대한 요구 조건을 강화함으로써 '나쁜' 유저들로부터 유튜브 환경을 보호할 것"이라고 말했다.

트위터도 사회적 이슈에 책임감을 느끼고 행동에 나섰다. 자살을 미끼로 한 범죄로 사회적 논란이 일었던 트위터 일본은 자살과 관련된 해시태그를 검색하면 검색 결과의 상단에 NPO인 '도쿄자살방지센터'의 안내를 뜨게 할 것이라고 일본 마이니치가 지난 18일 보도했다. 앞서 작년 11월 가나가와현의 한 아파트에서 9명의 시체가 발견됐는데, 살인 용의자는 트위터에 '자살 희망자'를 찾아 범행을 저지른 것으로 알려졌다. 이에 트위터는 일종의 자살 방지 캠페인을 통해 적극 대응에 나선 것으로 보인다.

잭 도시 트위터 최고경영자는 작년 11월 마이니치와 인터뷰에서 안전하고 투명한 유저 정책에 대해 이야기했다. 그는 "우리의 최우선시 되는 것은 트위터를 안전하고 또 안전하게 하는 일"이라며 "트위터는 개방된 공간이고 많은 정보가 빠르게 공유되고 확산된다. 우리는 유저들에 긍정적인 서비스를 위한 옳은 도구를 제공할 책임이 있다"고 기업윤리를 시사했다. 

[뉴스핌 Newspim] 최원진 기자 (wonjc6@newspim.com)