전체기사 최신뉴스 GAM 라씨로
KYD 라이브
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 기술에 책임을 요구할 권리

기사입력 : 2024년04월01일 08:34

최종수정 : 2024년04월01일 09:06

하민회 이미지21대표(코가로보틱스 마케팅자문)

'전례 없는 청소년 정신 건강 위기 초래'. 캐나다 학교들이 최근 메타(구 페이스북)와 틱톡, 스냅 등 소셜 미디어(SNS)기업들을 상대로 제기한 손해 배상 소송의 이유다. 이들 학교들은 'SNS 기업들이 중독성 행동을 유발하기 위해 고의로 제품을 설계해 교실에서 혼란을 초래하고 성적 학대와 착취에 더 취약하게 만든다.'고 주장했다. 배상액은 45억 캐나다 달러, 우리 돈 약 4조 5000억 원에 달한다.

청소년의 뇌가 취약한 만큼 SNS에 의해 충분히 조작, 중독될 수 있음을 사전에 인지했음에도 불구하고 보호조치는 커녕 오히려 상업적으로 이용했다는 것이다.

SNS기업에 대한 소송은 최근 몇 년간 꾸준히 지속되고 있다. 지난 해 10월 메타는 미국 41개 주정부로부터 캐나다 학교들과 비슷한 이유로 소송을 당했고 올 2월엔 뉴욕시가 메타, 스냅, 유튜브, 틱톡 등을 중과실, 공공방해 명목으로 고소했다.

소송에 등장하는 공통된 키워드는 '고의성'과 '중독성' 그리고 '기업 책임성'이다.

미국 41개 주정부를 대표해 소송을 주도한 콜로라도 주 법무장관은 메타를 '대중의 건강을 희생' 해 '이익을 극대화하는 기업'으로 질타하며 금전적 배상은 물론 청소년에게 해악을 끼치는 중독성 알고리즘을 즉시 제거할 것을 요청했다.

하민회 이미지21 대표.

이들이 지적한 중독 알고리즘은 다음과 같다.

좋아요와 댓글이 많을수록 상단에 드러나도록 해서 경쟁을 부추기는 '참여기반 노출', 끝없이 계속 게시물을 보여줌으로써 사용자를 SNS에 오래 붙잡아 두는 '무한 스크롤', 새로운 게시물이나 반응을 알려주어 확인 욕구를 자극하는 '푸시 알림'. 게시 후 24시간이 지나면 볼 수 없는 '스토리'와 실시간 시청만 가능한 '라이브' 역시 지금 당장 꼭 SNS를 봐야 할 것 같은 불안감을 조성한다.

이 같은 알고리즘은 도파민을 조종한다. 사용자가 스스로 인지하지 못한 상태에서 '좋아요'의 숫자에 대한 동경과 집착을 만들고 '좋아요'를 하나라도 더 받기 위해 자극적인 게시물을 올리고 이를 위해 위험천만한 행동을 마지않게 만든다.

2017년 미국역학저널에 실린 대규모 연구에 따르면 페이스북을 더 많이 사용할수록 신체 건강, 정신 건강, 삶의 만족도가 악화했다. 이는 5천명 이상의 페이스북 사용자를 3년 동안 추적한 결과다.

2010년 미국 의대 연구진이 고등학생 4천명 이상을 대상으로 SNS 습관을 관찰한 결과도 눈여겨볼만하다. 평일 하루 3시간 이상 SNS를 사용하는 '초네트워커(hypernetworkers)' 11.5%가 우울증, 약물남용, 수면 부족, 스트레스, 성적 부진을 보이며 자살 비율이 대조군인 일반 학생보다 훨씬 더 높은 것으로 나타났다.

인스타그램 로고.[사진=로이터 뉴스핌] 2024.03.29 mj72284@newspim.com

2000년 초반 SNS가 등장 한 이후 10여년이 지났을 무렵부터 SNS 유해성 논란이 시작되었다. 하지만 소비자가 직접 소송 등의 법률적 행위에 나서기까지 10여 년이 더 흘러갔다. 그 시간 동안 SNS가 중독 알고리즘 외에도 편견과 증오를 키우고 우울증을 유발하는 등의 부작용을 일으킨다는 다수의 연구 결과가 이어졌다.

심지어 메타에서 데이터과학자로 일했던 내부고발자도 등장했다. 그는 메타가 지난 대선 이후 허위 정보 등을 차단하는 공공 윤리(civic integrity) 부서를 해체하고 사용자들의 이용시간을 늘리기 위해 혐오조장 콘텐츠를 막지 않았다고 밝혔다. 메타는 알고리즘을 안전한 방식으로 바꾸면 사용자 시간이 줄어들고 이익이 줄어들 것임을 알고 있다며 '공익을 저버렸음'을 강조했다.

SNS 기업들의 책임성을 거론하기까지 무려 20여년의 시간이 걸렸고 수많은 이들이 위험성에 노출된 채 부작용에 시달리는 피해를 입었다. 확실히 소 잃고 외양간 고치는 형국이지만 지금이라도 고치려 드니 그나마 다행이다.

확산 속도가 빠르고 대중적 선호가 높은 기술일수록 잠재적 위험성도 클 수 있다. SNS가 등장하고 얼마 지나지 않아 그 위험성에 대한 경고가 있었지만 귀 기울이지 않았다. 경험해보지 못한 SNS의 재미와 자극에 현혹당했기 때문이다.

지금 우리는 다시 한번 SNS 등장기와 유사한 시기를 맞았다. 생성형AI가 뚝딱 만들어내는 문장, 이미지, 영상의 놀라운 생산성과 유용함에 압도당해 훤히 내다 보이는 위험성조차 간과하고 있다.

AI를 형상화한 이미지 [자료=블룸버그]

대표적인 것이 딥 페이크다. 딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어인 딥 페이크는 AI기술로 만들어진 진짜와 구분하기 어려울 정도로 정교한 사진과 영상을 말한다. 전 세계 정치, 사회, 산업, 예술 등 거의 모든 분야에서 가짜 뉴스와 허위 정보에 이용되며 혼란을 일으키고 있다. 기술 자체를 유해하다 보기 어렵지만 워낙 악용의 우려가 크고 심각한 폐해를 일으키는 만큼 사용에 대한 지침이 필수적으로 규정되어야 하며 강력한 규제와 처벌 또한 신속하게 정해져야 할 상황이다.

불완전한 AI 역시 위험하다. 얼마 전 구글 제미나이가 미국 건국자나 아인슈타인 같은 역사적 인물을 유색인종으로 그려 질타를 받았다. 이후 메타의 이미지 생성기 역시 교황 이미지를 흑인으로 바꿔 그리는 오류가 확인됐다. 전문가들은 프롬프트 예측성과 결과물 통제성의 부족, AI편향 조정방법 등이 맞물린 AI 업계 모두가 해결하지 못하고 있는 생성형 AI의 공통된 문제로 진단했다.

MS의 이미지 생성기 '코파일럿 디자이너'에 대한 내부고발도 나왔다. 사내에서 기술을 테스트하고 문제를 점검하는 레드팀의 일원이었던 셰인 존스는 '코파일럿 디자이너'가 선정적이고 위험한 이미지가 여과없이 생성되는 '안전하지 않은' 모델임을 MS에 알리고 이용 등급 변경, 시판 연기를 제안했지만 회사는 일체 거절했다고 밝혔다.

[서울=뉴스핌] 정윤영 기자 = 지난해 5월 삼성전자와 러시아 인공지능연구소가 사진 이미지 한장을 이용해 자연스러운 딥페이크 영상을 만들어냈다. [제공=삼성전자] 2020.04.01 yoonge93@newspim.com

업과 일상에 스며들고 있지만 여전히 불안정한 기술이다. 아직은 전적으로 신뢰하거나 의존하기 어려우며 개발과정에 사람의 검토와 개입이 요구된다.

무엇보다 중요한 건 AI기술이 진정으로 영향력을 미치려면 AI에 대한 대중적인 이해가 필요하다는 점이다. 향후 등장할 다양한 AI기술들은 '무엇을 위해' 만들어졌으며 '어떻게 사용되어야' 하는지 남용이나 오용이 되면 '어떤 위험성과 부작용'이 생길 수 있는지 충분히 이해하는 것이 필요하다. 강력하고 혁신적이면서도 낯선 기술은 사용법을 충분히 익히기 전까지 안심하긴 어렵기 때문이다.

재미와 편의 앞에서 우리는 취약해지기 쉽다. 우리 사회에 등장한 AI를 단순히 흥미로운 도구로 여기지 않아야 한다. 내러티브를 형성하고 결정에 영향을 미치고 사회 전반에 거친 인식을 만들어내는 시스템으로 명확히 인식해야 한다. 강력하고 효율적인 것 이상의 '책임감'을 요구해야 한다.

그리고 그 책임감은 AI의 안전성과 AI기업의 투명성에 대한 확인을 게을리하지 않으며 꾸준히 요구해야 할 우리의 권리기도 하다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

CES 2025 참관단 모집

[뉴스핌 베스트 기사]

사진
[단독] 김정은 참관때 '고물 로켓포' ... 北 관련영상 삭제했다 [서울=뉴스핌] 이영종 통일전문기자 = 김정은 국무위원장의 대남 특수부대 훈련 참관 때 고물 로켓포가 포착됐다는 본보의 지적(10월 4일 자 보도) 직후 북한 당국이 관련 영상을 삭제한 것으로 파악됐다. [서울=뉴스핌] 김정은 북한 국무위원장이 지난 2일 방문한 군 특수작전부대 요원들이 RPG-7 로켓포로 사격훈련을 하고 있다. 로켓포의 목재 부분이 깨지고(붉은 사각형) 심하게 녹슬거나 찌그러진 모습이 드러난다. [사진=조선중앙통신] 2024.10.07 북한 관영 조선중앙통신은 4일 오전 보도에서 김정은이 지난 2일 서부지구 군 특수작전부대 훈련 기지를 현지 시찰했다면서 관련 영상을 공개했다. 여기에는 낙하산을 이용한 공중강습과 수중침투 등을 벌이는 특수부대 요원들의 모습과 함께 RPG-7 로켓포 10여기를 일제히 사격하는 장면이 포함됐다. 그런데 나무 재질로 된 로켓포의 일부분이 깨지고 금속 부분은 새까맣게 녹슬거나 찌그러진 모습이 그대로 드러났다. 뉴스핌은 북한이 공개한 영상을 정밀 분석하는 과정에서 이를 포착해 즉시 '김정은 찾은 최정예 부대에 깨지고 녹슨 로켓포'라는 제목과 함께 보도했다. [서울=뉴스핌] 김정은이 지난 2일 참관한 훈련에 고물 RPG-7 로켓포가 드러났다는 뉴스핌의 보도 직후 북한은 사진 맨 아랫부분에 있던 문제의 깨진 로켓포 모습을 삭제한 뒤 조선중앙TV로 내보냈다. [사진=조선중앙TV 화면 캡처] 2024.10.07 조선중앙통신은 이날 훈련에 대해 "유사시 임무가 부여되면 일격에 적들의 심장부를 타고 앉아 전투 목적을 완수할 확고한 의지와 충천한 기세를 선보이며 명실공히 최정예부대로서의 위력과 본때를 남김없이 보여줬다"고 주장했지만, 본보는 노후화된 장비 문제 등을 지적하면서 "깨지고 녹슨 무기는 김정은의 언급마저 설득력을 잃게 만들고 경제난에 시달려온 북한이 재래식 무기체계에서 낙후된 상태에 있음을 드러냈을 뿐"이라고 지적했다. 이를 의식한 듯 북한 조선중앙TV는 이날 오후 관련 소식을 전하면서 문제의 사진에서 아랫부분에 보이는 깨진 RPG-7을 삭제했다. 북한 당국이 주민이 시청할 수 있는 TV에서는 삭제했지만 외부에서만 볼 수 있는 조선중앙통신과 노동신문 인터넷 사이트에는 그대로 둔 것으로 볼 때 내부의 시선을 더 의식하는 것으로 보인다는 지적도 제기된다. [서울=뉴스핌] 김정은 북한 국무위원장이 지난 2일 서부지구 특수작전부대 훈련을 참관하고 있다. 오른쪽은 특수작전사령관 출신의 부총장모장 김영복. 왼쪽 김정은의 손에 가려진 인물은 리영길 총참모장. [사진=조선중앙통신] 2024.10.07 북한이 이런 발빠른 반응을 보인 건 김정은이 참관한 훈련에 고물 무기가 등장한 점을 한국 언론으로부터 지적받은 데 따른 것으로 분석된다. 대북정보 관계자는 7일 "북한이 우리 언론의 보도에 이처럼 즉각 대응하고 나선 것은 이례적"이라며 "그만큼 김정은의 동정과 관련한 여론에 촉각을 곤두세우고 민감하게 대처하고 있음을 보여준다"고 말했다. 1일 국군의 날 76주년 행사에서 8톤 탄두에 마하 10(음속의 10배) 이상의 속도로 적 지하벙커 100m 깊이까지 초토화 할 수 있는 현무-5 탄도미사일이 전격 공개되자 김정은이 서둘러 대남 특수부대를 찾아 맞대응 위협을 가하는 제스처를 취했지만 고물 무기로 망신을 자초했다는 지적도 나온다. yjlee@newspim.com 2024-10-07 06:22
사진
지연·황재균, 결혼 2년 만에 파경 [서울=뉴스핌] 장환수 스포츠전문기자= 걸그룹 티아라의 지연과 프로야구 kt 내야수 황재균이 결혼 1년 10개월 만에 파경을 맞았다. 지연은 5일 법률대리인을 통한 입장문에서 "저희는 서로 합의하에 이혼을 위한 조정 절차를 진행하게 되었다"며 "빠르게 입장 표명하지 못한 점 양해를 부탁드린다. 향후 더 좋은 모습으로 인사드릴 수 있도록 노력하겠다"고 밝혔다. 티아라 지연. [사진=지연] 지연의 법률대리인은 두 사람이 서로의 다툼을 극복하지 못해 별거 끝에 이혼에 합의했다고 전했다. 현재 서울가정법원에 이혼 조정 신청서가 제출된 상황이다. 이들의 이혼설은 지난 6월 처음 나왔다. 부산 경남권 방송 KNN 라디오로 야구 중계를 하던 이광길 해설위원이 방송이 안 되는 줄 알고 "황재균, 이혼한 거 아냐"라고 사담을 한 것이 전파를 타게 되면서다. 지난달 초에는 서울 강남의 한 술집에서 황재균이 늦게까지 지인들과 어울리는 영상이 SNS에서 확산되면서 다시 이혼설이 제기됐다. 황재균. [사진=kt] 두 사람은 2022년 12월 결혼식을 올렸다. 지연은 2009년 티아라로 데뷔해 '거짓말', '보핍보핍', '롤리폴리' 등의 히트곡으로 활동했다. 황재균은 2006년 현대 유니콘스에서 프로 생활을 시작했고, 현재 소속팀 kt는 LG와 준플레이오프를 치르고 있다. 5일 1차전에 7번 3루수로 출전한 황재균은 삼진 2개 포함해 3타수 무안타에 그쳤다. zangpabo@newspim.com 2024-10-05 18:31
안다쇼핑
Top으로 이동