전체기사 최신뉴스 GAM 라씨로
KYD 디데이

구글 "규정 위반 영상, '머신러닝' 활용해 90% 이상 감지"

기사입력 : 2023년04월27일 13:57

최종수정 : 2023년04월27일 14:48

콘텐츠 관리 인력 2만 명 이상 투입
생성형 AI 관련 콘텐츠 관리에도 적극 대응 중

[서울=뉴스핌] 양태훈 기자 = "구글에서는 2만 명이 넘는 인력이 모든 플랫폼에 걸쳐서 콘텐츠 관리 검토 및 제거 관련 업무를 담당하고 있다. 하루 24시간 모든 시간대에 걸쳐서 평가 작업을 진행해 나가고 있으며,유튜브 영상의 94% 이상이 머신러닝 기술에 의해 먼저 감지되고 있다."

장 자크 사헬 구글 아태지역 콘텐츠 정책 총괄은 27일 서울 강남구 역삼동 구글코리아 사무실에서 열린 '구글 디코드 세션'에서 자사 콘텐츠 정책의 활동을 이 같이 소개했다.

장 자크 사헬 총괄은 "구글의 목표는 전 세계 정보를 체계화해 어디에서나 접근 가능하고 유용하게 만드는 것"이라며 "(이에 구글은) 유저와 사회에 끼쳐질 수 있는 유해함을 방지하고 낮은 품질의 정보의 전달을 제한하고자 노력해 왔으며, 각각의 제품과 서비스에 어떤 콘텐츠가 가용하게 제공돼야 하는지에 대해서도 세심하게 살펴 맞춰 나가는 작업을 진행하고 있다"고 강조했다.

장 자크 사헬(Jean-Jacques Sahel) 구글 아태지역 콘텐츠 정책 총괄. [사진=구글코리아]

또 "(콘텐츠 정책의) 핵심적인 원칙은 첫 번째 법을 근간으로 해서 불법이거나 위법인 상황들을 찾아내는 것이고, 두 번째는 (내부적인) 회사의 정책"이라며 "구글은 자사 제품과 서비스가 운영되는 나라의 법을 기반으로 해서 이를 위반하는 콘텐츠가 나타나면 그것을 제한하는 형태로서 활동을 하고 있고, 동시에 운영 원칙을 개발·유지하면서 각각의 제품과 서비스 안에서 허용되는 그리고 허용할 수 없는 콘텐츠와 행위들을 명시해 나가고 있다"고 설명했다.

구체적으로 구글은 ▲ G메일이나 챗과 같은 메시징 제품 ▲ 구글 드라이브나 포토와 같은 콘텐츠 저장 제품 ▲ 유튜브와 같은 동영상 공유 서비스 ▲ 광고 수익화 제품인 애드 등 각종 제품과 서비스에 따라 다른 기준을 세워 콘텐츠를 관리하고 있다.

장 자크 사헬 총괄은 "각각의 구글 서비스들에 대해 제약의 정도는 낮은 수준에서부터 높은 수준에 이르기까지 다르게 적용이 되고 있는데, 구글 검색 같은 경우는 개방형 오픈 웹상의 모든 페이지들에 대한 일종의 목록 역할을 하는 만큼 제약의 정도가 좀 낮은 사례라고 볼 수 있다"며 "반면, 애드 제품들 같은 경우는 제약성이 높은 영역이라고도 볼 수 있다. 유해한 콘텐츠나 경험을 제공하는 사람들로부터 회사가 광고 수익을 얻고 싶지 않기 때문"이라고 전했다.

구글 로고. [사진=로이터 뉴스핌]

이어 "각각의 플랫폼 유형에 적합한 규정이라든지 가이드라인들이 구축되어 있고, 보편적인 유해성의 경우 모든 제품과 서비스에 거쳐 전면적으로 금지될 수 있지만, 유해성을 평가해 봤을 때 그 정도가 제품과 서비스에 다른 모습으로 발현될 수 있다"며 "예를 들어 일반적으로 나체라든지 노골적인 성적 행위에 대한 구술 또는 시각적인 표현이나 묘사는 당연히 금지가 되지만, 예외적으로 교육적인 측면에서 활용된다든지 기록적 그리고 과학적 용도로 표현이 되는 이런 나체나 성적 행위에 대한 내용들은 예외가 될 수 있다"고 덧붙였다.

더불어 "구글은 새로 발현되는 유해 행위를 파악하고 구글의 기존 정책에 존재해야 하는 격차가 있다는 경우들에 대응하기 위해 전문가들의 인풋, 유저 피드백 그리고 신뢰 기반의 신고자들의 의견, 규제 당국의 가이던스 등 여러 도움들을 받아서 부족한 부분들을 파악해 나가고 있다"며 "현재 구글에서는 2만 명이 넘는 인력이 회사의 모든 플랫폼에 거쳐서 콘텐츠 관리 검토 및 제거 관련 업무를 담당하고 있으며, 한국어를 포함해서 다양한 언어를 구사하는 리뷰어들이 있는데, 법적 삭제 요청과 표시되어 있는 플래그들을 하루 24시간 모든 시간대에 걸쳐서 평가 작업을 진행해 나가고 있다"고 강조했다.

나아가 "(구글은) 머신러닝을 도입, 콘텐츠 관리 검토 관련돼 있는 수많은 작업들을 진행해 나가면서 회사가 파악하는 디텍션 레이트를 높였고, 유저들의 보호 조치도 강화시켜 나갈 수 있었다"며 "머신러닝은 분류하는 클래스들을 개발해 유튜브 정책에 위반되는 동영상들을 파악하는 그런 작업을 진행해 나가고 있고, 이런 작업들은 구글은 2017년부터 진행해 왔는데 2022년 4분기에 삭제된 유튜브 영상의 94% 이상이 머신러닝 기술에 의해 먼저 감지되었고, 이 중 71% 이상이 삭제되기 전 조회수 10회 이하를 기록했다"고 전했다.

오픈AI와 챗GPT 로고 [사진=뉴스핌DB]

한편, 구글은 최근 생성형 AI를 활용한 콘텐츠가 증가하는 것과 대해 유해 콘텐츠를 관리하기 위한 프로세스 마련에 전념하겠다는 의지를 내비쳤다.

장 자크 사헬 총괄은 "먼저 생성형 AI 관련 콘텐츠에 대한 우려 부분에 대해서 언급하기에 앞서 기술 발전 측면에서 따져봤을 때 회사가 매우 기대가 되는 시기에 활동하고 있지 않는가라고 생각이 된다"며 "새로운 기술 발전을 위한 긍정적 측면들도 분명히 있다는 것을 저희가 먼저 이해를 하고 설명해야 할 것 같은데, 그럼에도 불구하고 회사가 아직도 이 기술 발전의 초기 단계에 있다보니까 이런 문제점들이 나타나는 것 같다"고 말했다.

이어 "구글에서는 이 콘텐츠 관련돼서 굉장히 큰 책임감을 느끼고 관련되어 있는 작업들을 책임감 있게 진행해 나가 왔다. 관련돼 있는 정책도 설립하고 그 정책들을 집행해 나가는 것도 진행, 꾸준히 이행해 왔고 머신러닝 기술들을 활용하는 것뿐만 아니라 시스템 구축하고 프로세스를 구축하고 또 관련돼 있는 인력들을 트레이닝 시켜서 유해 콘텐츠에 대응하기 위한 많은 노력들을 전개하고 있다"며 "새로운 기술을 기반으로 한 신규 제품들이 나옴에 따라서 저희는 또 동일한 원칙을 그대로 적용할 것"이라고 강조했다.

또한 "AI 기반의 테크놀로지들이 발전한다 할지라도 과거에 했었던 것처럼 꾸준히 열심히 콘텐츠 관련돼서는 노력을 하게 될 것이고 콘텐츠 관리와 주제에 대해서 저희가 많은 노력을 그대로 경주해 나갈 것"이라며 "유해한 부분들은 끊임없이 과거에 했었던 것처럼 엄격하고 또 열심히 다루어 나가도록 하겠지만 또한 동시에 이 신기술이 제공하는 기회들은 또 적극적으로 활용할 수 있게끔 도전 과제와 기회 양쪽을 다 잘 활용해 나가도록 노력할 것"이라고 덧붙였다.

dconnect@newspim.com

CES 2025 참관단 모집

[뉴스핌 베스트 기사]

사진
尹지지율 2%p↓, 26.9%…"김 여사 논란 등 영향" [서울=뉴스핌] 박성준 기자 = 윤석열 대통령의 지지율이 소폭 하락해 20%대 중후반을 기록했다는 여론조사 결과가 31일 발표됐다. 종합뉴스통신사 뉴스핌 의뢰로 여론조사 전문업체 미디어리서치가 지난 28일~29일 이틀간 전국 만 18세 이상 남녀 1001명에게 물은 결과 윤 대통령의 국정운영에 대한 긍정평가는 26.9%로 집계됐다. 부정평가는 71.9%로 나타났다. '잘 모름'에 답한 비율은 1.2%다. 지난 조사 대비 긍정평가는 2.0%포인트(p) 하락했고 부정평가는 3.5%p 상승했다. 긍정평가와 부정평가 간 격차는 45.0%p다. 연령별로 보면 40대에서 긍·부정 평가 격차가 극명하게 드러났다. 만 18세~29세에서 '잘함'은 19.9% '잘 못함' 80.1%였고, 30대에서는 '잘함' 29.6% '잘 못함' 68.3%였다. 40대는 '잘함' 16.1% '잘 못함' 82.9%, 50대는 '잘함' 25.7% '잘 못함' 74.3%로 집계됐다. 60대는 '잘함' 32.2% '잘 못함' 67.3%였고, 70대 이상에서는 '잘함' 40.5% '잘 못함' 54.9%로 집계됐다. 지역별로는 서울 '잘함' 25.1%, '잘 못함'은 74.0%로 집계됐다. 경기·인천 '잘함' 27.8% '잘 못함' 70.8%, 대전·충청·세종 '잘함' 21.3% '잘 못함' 77.9%, 강원·제주 '잘함' 32.7% '잘 못함' 64.9%로 조사됐다. 부산·울산·경남 '잘함' 32.1% '잘 못함' 67.1%, 대구·경북은 '잘함' 36.8% '잘 못함' 62.1%로 집계됐다. 전남·광주·전북은 '잘함' 13.2% '잘 못함' 85.0%로 나타났다. 성별로도 남녀 모두 부정평가가 우세했다. 남성은 '잘함' 26.3% '잘 못함' 72.1%, 여성은 '잘함' 27.5% '잘 못함' 71.6%였다. 김대은 미디어리서치 대표는 여론조사 결과에 대해 "도이치모터스·명품백 논란, 선거 관련 의혹 등 김건희 여사 리스크가 증폭됐고, 한동훈 국민의힘 대표와 '빈손 회동'이후 당정 갈등 심화로 전통적인 핵심 지지층인 70대 이상과 영남권에서도 지지율이 하락했다"고 분석했다. 신율 명지대 정치외교학과 교수는 "(윤 대통령 지지율 하락의) 근본적인 원인은 불통 이미지 때문"이라며 "불통이라는 것은 여론에 대한 반응성이 떨어진다는 이야기다. 김건희 여사와 관련한 논란이 대표적인 사례"라고 평가했다. 그는 "김 여사 관련한 사과를 하는 것도 이미 늦었다"며 "윤 대통령은 법조인 출신이라 법적으로 문제가 없으면 괜찮다고 생각하는 것 같은데 국민 인식은 그렇지 않다"고 설명했다. 그러면서 "김 여사 문제에 대해 제대로 된 해결책을 제시하면 지지율이 오를 수 있지만 그렇게 하지 않으면 지지율 반등은 힘들어 보인다"고 덧붙였다. 이번 여론조사는 성·연령·지역별 인구비례 할당 추출 방식으로 추출된 표본을 구조화된 설문지를 이용한 무선(100%) ARS 전화조사 방식으로 실시했으며 응답률은 3.3%, 표본오차는 95% 신뢰수준에 ±3.1%p다. 통계보정은 2024년 1월말 행정안전부 주민등록 인구통계를 기준으로 성별 연령별 지역별 가중 값을 부여(셀가중)했다. 자세한 내용은 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. parksj@newspim.com 2024-10-31 06:00
사진
국민 3명 중 2명 "김건희 여사 특검 실시해야" [서울=뉴스핌] 지혜진 기자 = 국민 3명 중 2명은 윤석열 대통령 부인 김건희 여사의 각종 의혹에 대해 특별검사법 실시의 필요성을 인식한다는 여론조사 결과가 31일 발표됐다. 여론조사 전문기관 미디어리서치가 종합뉴스통신사 뉴스핌의 의뢰로 지난 28~29일 이틀간 전국 만 18세 이상 남녀 1001명을 대상으로 ARS(자동응답시스템) 조사 결과 '더불어민주당에서 김건희 여사의 도이치모터스 주가조작, 공천 개입 등이 포함된 총 14가지 의혹들에 대해 특검법을 재발의했다. 김 여사 특검 실시에 대해 어떻게 생각하느냐'는 질문에 '실시해야 한다' 66.2%, '실시해서는 안 된다' 26.0%, '잘 모름'은 7.9%로 응답했다. 연령별로는 40대, 만18세~29세, 50대 순으로 실시해야 한다는 의견이 높았다. 70대 이상을 제외하고는 실시해야 한다는 의견이 과반을 차지했다. 40대는 '실시해야 한다'고 응답한 비율이 81.2%에 달했다. 반면 '실시해서는 안 된다'는 12.7%에 그쳤다. 만18세~29세는 '실시해야 한다' 76.5%, '실시해서는 안 된다' 19.0%, '잘 모름'은 4.5%로, 50대는 '실시해야 한다' 69.9%, '실시해서는 안 된다' 25.0%, '잘 모름'은 5.1%로 나타났다. 30대는 '실시해야 한다' 62.0%, '실시해서는 안 된다' 34.3%, '잘 모름'은 3.7%로, 60대는 '실시해야 한다' 57.5%, '실시해서는 안 된다' 33.7%, '잘 모름'은 8.8%로 응답했다. 70대는 '실시해야 한다' 45.5%, '실시해서는 안 된다' 33.7%, '잘 모름'은 20.8%였다. 지역별로는 광주·전남·전북, 대전·충청·세종, 서울, 경기·인천, 부산·울산·경남, 강원·제주, 대구·경북 순으로 실시해야 한다는 여론이 우세했다. 대구·경북을 제외한 모든 지역에서 김 여사 특검법에 찬성하는 의견이 절반 이상으로 집계됐다. 광주·전남·전북은 '실시해야 한다' 78.4%, '실시해서는 안 된다' 15.4%, '잘 모름'은 6.2%, 대전·충청·세종은 '실시해야 한다' 72.9%, '실시해서는 안 된다' 24.6%, '잘 모름'은 2.5%로 나타났다. 서울은 '실시해야 한다' 68.7%, '실시해서는 안 된다' 24.8%, '잘 모름'은 6.5%, 경기·인천은 '실시해야 한다' 67.4%, '실시해서는 안 된다' 25.6%, '잘 모름'은 7.0%였다. 부산·울산·경남은 '실시해야 한다' 62.5%, '실시해서는 안 된다' 27.5%, '잘 모름'은 10.1%로, 강원·제주는 '실시해야 한다' 59.3%, '실시해서는 안 된다' 21.2%, '잘 모름'은 19.5%로 응답했다. 대구·경북은 '실시해야 한다' 46.3%, '실시해서는 안 된다' 41.1%, '잘 모름'은 12.6%였다. 지지 정당별로는 국민의힘을 제외한 모든 정당에서 실시해야 한다는 의견이 압도적이었다. 더불어민주당 지지층은 '실시해야 한다' 95.5%, '실시해서는 안 된다' 2.7%, '잘 모름'은 1.8%, 조국혁신당 지지층은 '실시해야 한다' 90.8%, '실시해서는 안 된다' 5.8%, '잘 모름'은 3.3%로 나타났다. 진보당 지지자들은 '실시해야 한다' 77.0%, '실시해서는 안 된다' 23.0%, '잘 모름'은 0%였다. 보수 성향의 개혁신당 지지층은 '실시해야 한다' 87.6%, '실시해서는 안 된다' 6.4%, '잘 모름'은 6.0%였다. 지지정당이 없다고 응답한 층도 '실시해야 한다' 79.1%, '실시해서는 안 된다' 15.0%, '잘 모름'은 5.9%로 특검에 찬성하는 여론이 더 컸다. 국정 지지별로는 응답층의 의견이 극명하게 엇갈렸다. 윤석열 정부가 잘 못하고 있다고 답한 이들은 김건희 특검법에 대해 '실시해야 한다'고 응답한 이들이 88.8%에 달한 반면, 정부가 잘하고 있다고 평가한 응답층은 '실시해서는 안 된다'가 78.6%로 나타났다. 한편, 성별로는 차이가 두드러지지 않았다. 남녀 각각 '실시해야 한다'고 응답한 이들이 67.4%, 64.9%로 나타났다. 김대은 미디어리서치 대표는 "전통적인 보수 지지층인 60~70대 이상과 영남권에서 조차 김 여사 특검을 실시해야 한다는 응답이 높게 나오면서 특검이 대세로 굳어지고 있다"며 "최근 한동훈 국민의힘 대표가 특별감찰관 추천을 대안으로 제시했지만 특감은 한계가 있는 등 국민 다수가 원하는 건 '특감'이 아니라 '특검'이라는 결과"라고 분석했다. 이번 조사는 무선 RDD 활용, ARS를 통해 진행됐다. 신뢰 수준은 95%, 표본 오차는 ±3.1%p, 응답률은 3.3%다. 자세한 조사 개요 및 내용은 미디어리서치 홈페이지와 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. heyjin@newspim.com 2024-10-31 06:00
안다쇼핑
Top으로 이동