'전례 없는 청소년 정신 건강 위기 초래'. 캐나다 학교들이 최근 메타(구 페이스북)와 틱톡, 스냅 등 소셜 미디어(SNS)기업들을 상대로 제기한 손해 배상 소송의 이유다. 이들 학교들은 'SNS 기업들이 중독성 행동을 유발하기 위해 고의로 제품을 설계해 교실에서 혼란을 초래하고 성적 학대와 착취에 더 취약하게 만든다.'고 주장했다. 배상액은 45억 캐나다 달러, 우리 돈 약 4조 5000억 원에 달한다.

청소년의 뇌가 취약한 만큼 SNS에 의해 충분히 조작, 중독될 수 있음을 사전에 인지했음에도 불구하고 보호조치는 커녕 오히려 상업적으로 이용했다는 것이다.

SNS기업에 대한 소송은 최근 몇 년간 꾸준히 지속되고 있다. 지난 해 10월 메타는 미국 41개 주정부로부터 캐나다 학교들과 비슷한 이유로 소송을 당했고 올 2월엔 뉴욕시가 메타, 스냅, 유튜브, 틱톡 등을 중과실, 공공방해 명목으로 고소했다.

소송에 등장하는 공통된 키워드는 '고의성'과 '중독성' 그리고 '기업 책임성'이다.

미국 41개 주정부를 대표해 소송을 주도한 콜로라도 주 법무장관은 메타를 '대중의 건강을 희생' 해 '이익을 극대화하는 기업'으로 질타하며 금전적 배상은 물론 청소년에게 해악을 끼치는 중독성 알고리즘을 즉시 제거할 것을 요청했다.

이들이 지적한 중독 알고리즘은 다음과 같다.

좋아요와 댓글이 많을수록 상단에 드러나도록 해서 경쟁을 부추기는 '참여기반 노출', 끝없이 계속 게시물을 보여줌으로써 사용자를 SNS에 오래 붙잡아 두는 '무한 스크롤', 새로운 게시물이나 반응을 알려주어 확인 욕구를 자극하는 '푸시 알림'. 게시 후 24시간이 지나면 볼 수 없는 '스토리'와 실시간 시청만 가능한 '라이브' 역시 지금 당장 꼭 SNS를 봐야 할 것 같은 불안감을 조성한다.

이 같은 알고리즘은 도파민을 조종한다. 사용자가 스스로 인지하지 못한 상태에서 '좋아요'의 숫자에 대한 동경과 집착을 만들고 '좋아요'를 하나라도 더 받기 위해 자극적인 게시물을 올리고 이를 위해 위험천만한 행동을 마지않게 만든다.

2017년 미국역학저널에 실린 대규모 연구에 따르면 페이스북을 더 많이 사용할수록 신체 건강, 정신 건강, 삶의 만족도가 악화했다. 이는 5천명 이상의 페이스북 사용자를 3년 동안 추적한 결과다.

2010년 미국 의대 연구진이 고등학생 4천명 이상을 대상으로 SNS 습관을 관찰한 결과도 눈여겨볼만하다. 평일 하루 3시간 이상 SNS를 사용하는 '초네트워커(hypernetworkers)' 11.5%가 우울증, 약물남용, 수면 부족, 스트레스, 성적 부진을 보이며 자살 비율이 대조군인 일반 학생보다 훨씬 더 높은 것으로 나타났다.

2000년 초반 SNS가 등장 한 이후 10여년이 지났을 무렵부터 SNS 유해성 논란이 시작되었다. 하지만 소비자가 직접 소송 등의 법률적 행위에 나서기까지 10여 년이 더 흘러갔다. 그 시간 동안 SNS가 중독 알고리즘 외에도 편견과 증오를 키우고 우울증을 유발하는 등의 부작용을 일으킨다는 다수의 연구 결과가 이어졌다.

심지어 메타에서 데이터과학자로 일했던 내부고발자도 등장했다. 그는 메타가 지난 대선 이후 허위 정보 등을 차단하는 공공 윤리(civic integrity) 부서를 해체하고 사용자들의 이용시간을 늘리기 위해 혐오조장 콘텐츠를 막지 않았다고 밝혔다. 메타는 알고리즘을 안전한 방식으로 바꾸면 사용자 시간이 줄어들고 이익이 줄어들 것임을 알고 있다며 '공익을 저버렸음'을 강조했다.

SNS 기업들의 책임성을 거론하기까지 무려 20여년의 시간이 걸렸고 수많은 이들이 위험성에 노출된 채 부작용에 시달리는 피해를 입었다. 확실히 소 잃고 외양간 고치는 형국이지만 지금이라도 고치려 드니 그나마 다행이다.

확산 속도가 빠르고 대중적 선호가 높은 기술일수록 잠재적 위험성도 클 수 있다. SNS가 등장하고 얼마 지나지 않아 그 위험성에 대한 경고가 있었지만 귀 기울이지 않았다. 경험해보지 못한 SNS의 재미와 자극에 현혹당했기 때문이다.

지금 우리는 다시 한번 SNS 등장기와 유사한 시기를 맞았다. 생성형AI가 뚝딱 만들어내는 문장, 이미지, 영상의 놀라운 생산성과 유용함에 압도당해 훤히 내다 보이는 위험성조차 간과하고 있다.

대표적인 것이 딥 페이크다. 딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어인 딥 페이크는 AI기술로 만들어진 진짜와 구분하기 어려울 정도로 정교한 사진과 영상을 말한다. 전 세계 정치, 사회, 산업, 예술 등 거의 모든 분야에서 가짜 뉴스와 허위 정보에 이용되며 혼란을 일으키고 있다. 기술 자체를 유해하다 보기 어렵지만 워낙 악용의 우려가 크고 심각한 폐해를 일으키는 만큼 사용에 대한 지침이 필수적으로 규정되어야 하며 강력한 규제와 처벌 또한 신속하게 정해져야 할 상황이다.

불완전한 AI 역시 위험하다. 얼마 전 구글 제미나이가 미국 건국자나 아인슈타인 같은 역사적 인물을 유색인종으로 그려 질타를 받았다. 이후 메타의 이미지 생성기 역시 교황 이미지를 흑인으로 바꿔 그리는 오류가 확인됐다. 전문가들은 프롬프트 예측성과 결과물 통제성의 부족, AI편향 조정방법 등이 맞물린 AI 업계 모두가 해결하지 못하고 있는 생성형 AI의 공통된 문제로 진단했다.

MS의 이미지 생성기 '코파일럿 디자이너'에 대한 내부고발도 나왔다. 사내에서 기술을 테스트하고 문제를 점검하는 레드팀의 일원이었던 셰인 존스는 '코파일럿 디자이너'가 선정적이고 위험한 이미지가 여과없이 생성되는 '안전하지 않은' 모델임을 MS에 알리고 이용 등급 변경, 시판 연기를 제안했지만 회사는 일체 거절했다고 밝혔다.

업과 일상에 스며들고 있지만 여전히 불안정한 기술이다. 아직은 전적으로 신뢰하거나 의존하기 어려우며 개발과정에 사람의 검토와 개입이 요구된다.

무엇보다 중요한 건 AI기술이 진정으로 영향력을 미치려면 AI에 대한 대중적인 이해가 필요하다는 점이다. 향후 등장할 다양한 AI기술들은 '무엇을 위해' 만들어졌으며 '어떻게 사용되어야' 하는지 남용이나 오용이 되면 '어떤 위험성과 부작용'이 생길 수 있는지 충분히 이해하는 것이 필요하다. 강력하고 혁신적이면서도 낯선 기술은 사용법을 충분히 익히기 전까지 안심하긴 어렵기 때문이다.

재미와 편의 앞에서 우리는 취약해지기 쉽다. 우리 사회에 등장한 AI를 단순히 흥미로운 도구로 여기지 않아야 한다. 내러티브를 형성하고 결정에 영향을 미치고 사회 전반에 거친 인식을 만들어내는 시스템으로 명확히 인식해야 한다. 강력하고 효율적인 것 이상의 '책임감'을 요구해야 한다.

그리고 그 책임감은 AI의 안전성과 AI기업의 투명성에 대한 확인을 게을리하지 않으며 꾸준히 요구해야 할 우리의 권리기도 하다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등