콘텐츠 관리 인력 2만 명 이상 투입
생성형 AI 관련 콘텐츠 관리에도 적극 대응 중
[서울=뉴스핌] 양태훈 기자 = "구글에서는 2만 명이 넘는 인력이 모든 플랫폼에 걸쳐서 콘텐츠 관리 검토 및 제거 관련 업무를 담당하고 있다. 하루 24시간 모든 시간대에 걸쳐서 평가 작업을 진행해 나가고 있으며,유튜브 영상의 94% 이상이 머신러닝 기술에 의해 먼저 감지되고 있다."
장 자크 사헬 구글 아태지역 콘텐츠 정책 총괄은 27일 서울 강남구 역삼동 구글코리아 사무실에서 열린 '구글 디코드 세션'에서 자사 콘텐츠 정책의 활동을 이 같이 소개했다.
장 자크 사헬 총괄은 "구글의 목표는 전 세계 정보를 체계화해 어디에서나 접근 가능하고 유용하게 만드는 것"이라며 "(이에 구글은) 유저와 사회에 끼쳐질 수 있는 유해함을 방지하고 낮은 품질의 정보의 전달을 제한하고자 노력해 왔으며, 각각의 제품과 서비스에 어떤 콘텐츠가 가용하게 제공돼야 하는지에 대해서도 세심하게 살펴 맞춰 나가는 작업을 진행하고 있다"고 강조했다.
장 자크 사헬(Jean-Jacques Sahel) 구글 아태지역 콘텐츠 정책 총괄. [사진=구글코리아] |
또 "(콘텐츠 정책의) 핵심적인 원칙은 첫 번째 법을 근간으로 해서 불법이거나 위법인 상황들을 찾아내는 것이고, 두 번째는 (내부적인) 회사의 정책"이라며 "구글은 자사 제품과 서비스가 운영되는 나라의 법을 기반으로 해서 이를 위반하는 콘텐츠가 나타나면 그것을 제한하는 형태로서 활동을 하고 있고, 동시에 운영 원칙을 개발·유지하면서 각각의 제품과 서비스 안에서 허용되는 그리고 허용할 수 없는 콘텐츠와 행위들을 명시해 나가고 있다"고 설명했다.
구체적으로 구글은 ▲ G메일이나 챗과 같은 메시징 제품 ▲ 구글 드라이브나 포토와 같은 콘텐츠 저장 제품 ▲ 유튜브와 같은 동영상 공유 서비스 ▲ 광고 수익화 제품인 애드 등 각종 제품과 서비스에 따라 다른 기준을 세워 콘텐츠를 관리하고 있다.
장 자크 사헬 총괄은 "각각의 구글 서비스들에 대해 제약의 정도는 낮은 수준에서부터 높은 수준에 이르기까지 다르게 적용이 되고 있는데, 구글 검색 같은 경우는 개방형 오픈 웹상의 모든 페이지들에 대한 일종의 목록 역할을 하는 만큼 제약의 정도가 좀 낮은 사례라고 볼 수 있다"며 "반면, 애드 제품들 같은 경우는 제약성이 높은 영역이라고도 볼 수 있다. 유해한 콘텐츠나 경험을 제공하는 사람들로부터 회사가 광고 수익을 얻고 싶지 않기 때문"이라고 전했다.
구글 로고. [사진=로이터 뉴스핌] |
이어 "각각의 플랫폼 유형에 적합한 규정이라든지 가이드라인들이 구축되어 있고, 보편적인 유해성의 경우 모든 제품과 서비스에 거쳐 전면적으로 금지될 수 있지만, 유해성을 평가해 봤을 때 그 정도가 제품과 서비스에 다른 모습으로 발현될 수 있다"며 "예를 들어 일반적으로 나체라든지 노골적인 성적 행위에 대한 구술 또는 시각적인 표현이나 묘사는 당연히 금지가 되지만, 예외적으로 교육적인 측면에서 활용된다든지 기록적 그리고 과학적 용도로 표현이 되는 이런 나체나 성적 행위에 대한 내용들은 예외가 될 수 있다"고 덧붙였다.
더불어 "구글은 새로 발현되는 유해 행위를 파악하고 구글의 기존 정책에 존재해야 하는 격차가 있다는 경우들에 대응하기 위해 전문가들의 인풋, 유저 피드백 그리고 신뢰 기반의 신고자들의 의견, 규제 당국의 가이던스 등 여러 도움들을 받아서 부족한 부분들을 파악해 나가고 있다"며 "현재 구글에서는 2만 명이 넘는 인력이 회사의 모든 플랫폼에 거쳐서 콘텐츠 관리 검토 및 제거 관련 업무를 담당하고 있으며, 한국어를 포함해서 다양한 언어를 구사하는 리뷰어들이 있는데, 법적 삭제 요청과 표시되어 있는 플래그들을 하루 24시간 모든 시간대에 걸쳐서 평가 작업을 진행해 나가고 있다"고 강조했다.
나아가 "(구글은) 머신러닝을 도입, 콘텐츠 관리 검토 관련돼 있는 수많은 작업들을 진행해 나가면서 회사가 파악하는 디텍션 레이트를 높였고, 유저들의 보호 조치도 강화시켜 나갈 수 있었다"며 "머신러닝은 분류하는 클래스들을 개발해 유튜브 정책에 위반되는 동영상들을 파악하는 그런 작업을 진행해 나가고 있고, 이런 작업들은 구글은 2017년부터 진행해 왔는데 2022년 4분기에 삭제된 유튜브 영상의 94% 이상이 머신러닝 기술에 의해 먼저 감지되었고, 이 중 71% 이상이 삭제되기 전 조회수 10회 이하를 기록했다"고 전했다.
오픈AI와 챗GPT 로고 [사진=뉴스핌DB] |
한편, 구글은 최근 생성형 AI를 활용한 콘텐츠가 증가하는 것과 대해 유해 콘텐츠를 관리하기 위한 프로세스 마련에 전념하겠다는 의지를 내비쳤다.
장 자크 사헬 총괄은 "먼저 생성형 AI 관련 콘텐츠에 대한 우려 부분에 대해서 언급하기에 앞서 기술 발전 측면에서 따져봤을 때 회사가 매우 기대가 되는 시기에 활동하고 있지 않는가라고 생각이 된다"며 "새로운 기술 발전을 위한 긍정적 측면들도 분명히 있다는 것을 저희가 먼저 이해를 하고 설명해야 할 것 같은데, 그럼에도 불구하고 회사가 아직도 이 기술 발전의 초기 단계에 있다보니까 이런 문제점들이 나타나는 것 같다"고 말했다.
이어 "구글에서는 이 콘텐츠 관련돼서 굉장히 큰 책임감을 느끼고 관련되어 있는 작업들을 책임감 있게 진행해 나가 왔다. 관련돼 있는 정책도 설립하고 그 정책들을 집행해 나가는 것도 진행, 꾸준히 이행해 왔고 머신러닝 기술들을 활용하는 것뿐만 아니라 시스템 구축하고 프로세스를 구축하고 또 관련돼 있는 인력들을 트레이닝 시켜서 유해 콘텐츠에 대응하기 위한 많은 노력들을 전개하고 있다"며 "새로운 기술을 기반으로 한 신규 제품들이 나옴에 따라서 저희는 또 동일한 원칙을 그대로 적용할 것"이라고 강조했다.
또한 "AI 기반의 테크놀로지들이 발전한다 할지라도 과거에 했었던 것처럼 꾸준히 열심히 콘텐츠 관련돼서는 노력을 하게 될 것이고 콘텐츠 관리와 주제에 대해서 저희가 많은 노력을 그대로 경주해 나갈 것"이라며 "유해한 부분들은 끊임없이 과거에 했었던 것처럼 엄격하고 또 열심히 다루어 나가도록 하겠지만 또한 동시에 이 신기술이 제공하는 기회들은 또 적극적으로 활용할 수 있게끔 도전 과제와 기회 양쪽을 다 잘 활용해 나가도록 노력할 것"이라고 덧붙였다.
dconnect@newspim.com