전체기사 최신뉴스 GAM
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 기술에 책임을 요구할 권리

기사입력 : 2024년04월01일 08:34

최종수정 : 2024년04월01일 09:06

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

하민회 이미지21대표(코가로보틱스 마케팅자문)

'전례 없는 청소년 정신 건강 위기 초래'. 캐나다 학교들이 최근 메타(구 페이스북)와 틱톡, 스냅 등 소셜 미디어(SNS)기업들을 상대로 제기한 손해 배상 소송의 이유다. 이들 학교들은 'SNS 기업들이 중독성 행동을 유발하기 위해 고의로 제품을 설계해 교실에서 혼란을 초래하고 성적 학대와 착취에 더 취약하게 만든다.'고 주장했다. 배상액은 45억 캐나다 달러, 우리 돈 약 4조 5000억 원에 달한다.

청소년의 뇌가 취약한 만큼 SNS에 의해 충분히 조작, 중독될 수 있음을 사전에 인지했음에도 불구하고 보호조치는 커녕 오히려 상업적으로 이용했다는 것이다.

SNS기업에 대한 소송은 최근 몇 년간 꾸준히 지속되고 있다. 지난 해 10월 메타는 미국 41개 주정부로부터 캐나다 학교들과 비슷한 이유로 소송을 당했고 올 2월엔 뉴욕시가 메타, 스냅, 유튜브, 틱톡 등을 중과실, 공공방해 명목으로 고소했다.

소송에 등장하는 공통된 키워드는 '고의성'과 '중독성' 그리고 '기업 책임성'이다.

미국 41개 주정부를 대표해 소송을 주도한 콜로라도 주 법무장관은 메타를 '대중의 건강을 희생' 해 '이익을 극대화하는 기업'으로 질타하며 금전적 배상은 물론 청소년에게 해악을 끼치는 중독성 알고리즘을 즉시 제거할 것을 요청했다.

하민회 이미지21 대표.

이들이 지적한 중독 알고리즘은 다음과 같다.

좋아요와 댓글이 많을수록 상단에 드러나도록 해서 경쟁을 부추기는 '참여기반 노출', 끝없이 계속 게시물을 보여줌으로써 사용자를 SNS에 오래 붙잡아 두는 '무한 스크롤', 새로운 게시물이나 반응을 알려주어 확인 욕구를 자극하는 '푸시 알림'. 게시 후 24시간이 지나면 볼 수 없는 '스토리'와 실시간 시청만 가능한 '라이브' 역시 지금 당장 꼭 SNS를 봐야 할 것 같은 불안감을 조성한다.

이 같은 알고리즘은 도파민을 조종한다. 사용자가 스스로 인지하지 못한 상태에서 '좋아요'의 숫자에 대한 동경과 집착을 만들고 '좋아요'를 하나라도 더 받기 위해 자극적인 게시물을 올리고 이를 위해 위험천만한 행동을 마지않게 만든다.

2017년 미국역학저널에 실린 대규모 연구에 따르면 페이스북을 더 많이 사용할수록 신체 건강, 정신 건강, 삶의 만족도가 악화했다. 이는 5천명 이상의 페이스북 사용자를 3년 동안 추적한 결과다.

2010년 미국 의대 연구진이 고등학생 4천명 이상을 대상으로 SNS 습관을 관찰한 결과도 눈여겨볼만하다. 평일 하루 3시간 이상 SNS를 사용하는 '초네트워커(hypernetworkers)' 11.5%가 우울증, 약물남용, 수면 부족, 스트레스, 성적 부진을 보이며 자살 비율이 대조군인 일반 학생보다 훨씬 더 높은 것으로 나타났다.

인스타그램 로고.[사진=로이터 뉴스핌] 2024.03.29 mj72284@newspim.com

2000년 초반 SNS가 등장 한 이후 10여년이 지났을 무렵부터 SNS 유해성 논란이 시작되었다. 하지만 소비자가 직접 소송 등의 법률적 행위에 나서기까지 10여 년이 더 흘러갔다. 그 시간 동안 SNS가 중독 알고리즘 외에도 편견과 증오를 키우고 우울증을 유발하는 등의 부작용을 일으킨다는 다수의 연구 결과가 이어졌다.

심지어 메타에서 데이터과학자로 일했던 내부고발자도 등장했다. 그는 메타가 지난 대선 이후 허위 정보 등을 차단하는 공공 윤리(civic integrity) 부서를 해체하고 사용자들의 이용시간을 늘리기 위해 혐오조장 콘텐츠를 막지 않았다고 밝혔다. 메타는 알고리즘을 안전한 방식으로 바꾸면 사용자 시간이 줄어들고 이익이 줄어들 것임을 알고 있다며 '공익을 저버렸음'을 강조했다.

SNS 기업들의 책임성을 거론하기까지 무려 20여년의 시간이 걸렸고 수많은 이들이 위험성에 노출된 채 부작용에 시달리는 피해를 입었다. 확실히 소 잃고 외양간 고치는 형국이지만 지금이라도 고치려 드니 그나마 다행이다.

확산 속도가 빠르고 대중적 선호가 높은 기술일수록 잠재적 위험성도 클 수 있다. SNS가 등장하고 얼마 지나지 않아 그 위험성에 대한 경고가 있었지만 귀 기울이지 않았다. 경험해보지 못한 SNS의 재미와 자극에 현혹당했기 때문이다.

지금 우리는 다시 한번 SNS 등장기와 유사한 시기를 맞았다. 생성형AI가 뚝딱 만들어내는 문장, 이미지, 영상의 놀라운 생산성과 유용함에 압도당해 훤히 내다 보이는 위험성조차 간과하고 있다.

AI를 형상화한 이미지 [자료=블룸버그]

대표적인 것이 딥 페이크다. 딥러닝(deep learning)과 가짜를 뜻하는 페이크(fake)의 합성어인 딥 페이크는 AI기술로 만들어진 진짜와 구분하기 어려울 정도로 정교한 사진과 영상을 말한다. 전 세계 정치, 사회, 산업, 예술 등 거의 모든 분야에서 가짜 뉴스와 허위 정보에 이용되며 혼란을 일으키고 있다. 기술 자체를 유해하다 보기 어렵지만 워낙 악용의 우려가 크고 심각한 폐해를 일으키는 만큼 사용에 대한 지침이 필수적으로 규정되어야 하며 강력한 규제와 처벌 또한 신속하게 정해져야 할 상황이다.

불완전한 AI 역시 위험하다. 얼마 전 구글 제미나이가 미국 건국자나 아인슈타인 같은 역사적 인물을 유색인종으로 그려 질타를 받았다. 이후 메타의 이미지 생성기 역시 교황 이미지를 흑인으로 바꿔 그리는 오류가 확인됐다. 전문가들은 프롬프트 예측성과 결과물 통제성의 부족, AI편향 조정방법 등이 맞물린 AI 업계 모두가 해결하지 못하고 있는 생성형 AI의 공통된 문제로 진단했다.

MS의 이미지 생성기 '코파일럿 디자이너'에 대한 내부고발도 나왔다. 사내에서 기술을 테스트하고 문제를 점검하는 레드팀의 일원이었던 셰인 존스는 '코파일럿 디자이너'가 선정적이고 위험한 이미지가 여과없이 생성되는 '안전하지 않은' 모델임을 MS에 알리고 이용 등급 변경, 시판 연기를 제안했지만 회사는 일체 거절했다고 밝혔다.

[서울=뉴스핌] 정윤영 기자 = 지난해 5월 삼성전자와 러시아 인공지능연구소가 사진 이미지 한장을 이용해 자연스러운 딥페이크 영상을 만들어냈다. [제공=삼성전자] 2020.04.01 yoonge93@newspim.com

업과 일상에 스며들고 있지만 여전히 불안정한 기술이다. 아직은 전적으로 신뢰하거나 의존하기 어려우며 개발과정에 사람의 검토와 개입이 요구된다.

무엇보다 중요한 건 AI기술이 진정으로 영향력을 미치려면 AI에 대한 대중적인 이해가 필요하다는 점이다. 향후 등장할 다양한 AI기술들은 '무엇을 위해' 만들어졌으며 '어떻게 사용되어야' 하는지 남용이나 오용이 되면 '어떤 위험성과 부작용'이 생길 수 있는지 충분히 이해하는 것이 필요하다. 강력하고 혁신적이면서도 낯선 기술은 사용법을 충분히 익히기 전까지 안심하긴 어렵기 때문이다.

재미와 편의 앞에서 우리는 취약해지기 쉽다. 우리 사회에 등장한 AI를 단순히 흥미로운 도구로 여기지 않아야 한다. 내러티브를 형성하고 결정에 영향을 미치고 사회 전반에 거친 인식을 만들어내는 시스템으로 명확히 인식해야 한다. 강력하고 효율적인 것 이상의 '책임감'을 요구해야 한다.

그리고 그 책임감은 AI의 안전성과 AI기업의 투명성에 대한 확인을 게을리하지 않으며 꾸준히 요구해야 할 우리의 권리기도 하다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
李정부, 123개 국정과제 공식 확정 [세종=뉴스핌] 양가희 기자 = 정부가 향후 5년간 국정 운영의 핵심 로드맵이 될 123대 국정과제를 본격 추진한다. 정부는 16일 정부세종청사에서 국무회의를 열고 국정과제를 포함한 국정과제 관리계획을 확정했다고 밝혔다. 국무회의에서 확정된 123대 국정과제는 지난달 13일 국정기획위원회에서 제안한 '이재명 정부 국정운영 5개년 계획(안)'을 정부 차원의 검토 및 조정·보완을 거쳐 확정한 것이다. 이재명 대통령이 16일 오전 취임 후 처음으로 정부세종청사에서 국무회의를 직접 주재하면서 국가균형발전에 대한 발언을 하고 있다. [사진=KTV] 최종 확정된 국정과제 체계는 '국민이 주인인 나라, 함께 행복한 대한민국'이라는 국가비전 아래 5대 국정목표, 23대 추진전략, 123대 과제로 구성됐다. 5대 국정목표는 ▲국민이 하나되는 정치 ▲세계를 이끄는 혁신경제 ▲모두가 잘사는 균형성장 ▲기본이 튼튼한 사회 ▲국익 중심의 외교안보다. 우선 정부는 국민주권 실현 및 대통령 책임 강화를 위한 개헌을 추진한다. 4년 연임제 및 결선투표제 도입, 감사원 국회 소속 이관, 대통령 거부권 제한, 국무총리 국회추천제 도입 등이 개헌안에 담길 전망이다. 권력기관 개혁을 통한 민주주의 확립, 독자 인공지능(AI) 생태계 및 AI고속도로 구축, 5극3특 중심 혁신·일자리 거점 조성, 경제협력개발기구(OECD) 수준 산재 감축 등의 내용도 국정과제에 담겼다. 또 이재명 정부 임기 내 전시작전통제권 전환을 완료하는 강군 육성 방안도 포함됐다. 행정수도 세종 완성과 2차 공공기관 이전도 차질없이 진행할 계획이다.  이재명 대통령이 16일 오전 취임 후 처음으로 정부세종청사에서 국가균형발전 관련 국무회의를 직접 주재하고 있다. [사진=KTV] 국정과제 이행을 위한 범정부 추진체계도 구축한다. 온라인 국정관리시스템과 오프라인 범부처 협의체를 운영, 국정과제 추진상황을 지속 관리한다. 입법성과 조기 창출을 위해 법제처에 국정입법상황실을 두고, 국정과제 입법 전주기를 밀착 관리한다. 국정과제 중 입법조치가 필요한 사항은 법률 751건, 하위법령 215건 등 총 966건으로 나타났다. 이 중 법률안 110건은 연내 국회 제출하고, 하위법령 66건 올해 제·개정한다는 계획이다. 국정과제 추진과정에서 국민과의 소통을 강화하고, 정책성과를 국민이 실질적으로 체감할 수 있도록 한다. 온라인 소통창구인 '국정과제 소통광장'을 마련, 국민이 제기한 의견을 정부가 신속히 답하는 쌍방향 소통채널을 만든다. 국민만족도 조사는 주기적으로 실시하고 민생 관련 중요 국정과제는 민관합동 현장점검을 실시한다. 국정과제 추진성과를 평가하기 위한 '정부업무평가 기본계획('25~'27)' 및 '2025년도 정부업무평가 시행계획 수정안'도 이날 국무회의에서 확정됐다. 올해는 미래 전략산업 육성 등 각 부처가 역점 추진하는 정책과제, 신산업 등 규제 합리화, AI 활용 일하는 방식 혁신, 디지털 소통·홍보 노력 강화 등을 중점 평가할 예정이다. 국민주권정부에 걸맞게 평가 과정에 국민 참여를 확대하고, 국민 만족도 조사 결과도 비중 있게 반영한다. 국무조정실은 "향후 국정과제 추진과정에서 국민의견을 수시로 청취하고 소통을 강화해 나갈 예정"이라며 "국민요구와 정책여건 변화를 반영해 이행계획도 지속 보완하며 추진할 계획"이라고 밝혔다. sheep@newspim.com 2025-09-16 14:04
사진
코어위브, 엔비디아와 8조원대 계약 [서울=뉴스핌]박공식 기자 = 데이터센터 운영업체인 코어위브(종목코드: CRWV)는 인공지능(AI) 칩 선두 주자 엔비디아와 63억 달러(8조7160억원) 규모의 클라우드 컴퓨팅 용량 주문 계약을 체결했다고 15일(현지시간) 밝혔다. 엔비디아는 이번 계약을 통해 2032년 4월 13일 까지 코어위브가 고객에게 판매하지 않은 모든 클라우드 용량을 구매하기로 했다. 엔비디아와 수주 계약 체결 소식이 전해진 후 코어위브 주가는 뉴욕 정규장 거래에서 8% 상승했다. 지난 3월 상장 이후 이 회사 주가는 3배 뛰었다. 코어위브는 미국과 유럽에서 엔비디아의 GPU 칩을 탑재한 대규모 데이터센터를 운영하며 이를 임대하거나 클라우드 컴퓨팅 용량을 판매하고 있다. 이번 계약으로 코어위브는 엔비디아의 핵심 클라우드 파트너로서의 입지를 공고히 하고 AI 컴퓨팅 용량 수요 감소 가능성에 대한 완충장치를 마련하게 됐다고 로이터 통신은 평가했다. 코어위브는 일찌감치 엔비디아의 눈도장을 받아 2023년 투자를 받았다. 엔비디아는 코어위브 지분을 6% 넘게 보유하고 있다. 코어위브는 지난 3월 공모가 40달러에 뉴욕 증시에 상장한 후 AI 열풍에 따른 클라우드 서비스 수요 급증에 힘입어 주가가 급등했다. 투자은행 바클레이즈는 "이번 계약은 최종 고객과 상관없이 용량이 활용될 것을 보장함으로써 코어위브의 안전장치 역할을 한다"며 "투자자들은 코어위브가 최대 고객사 2곳(마이크로소프트와 오픈AI) 외에 데이터센터 용량을 채울 수 있을지 우려해왔는데, 이번 계약으로 이런 우려가 사라졌다"고 분석했다.  코어위브 로고 [서울=뉴스핌]박공식 기자 = 2025.09.16 kongsikpark@newspim.com 코어위브는 지난 3월 챗GPT 개발사 오픈AI와 119억 달러 규모의 5년 계약에 합의하며, 클라우드 컴퓨팅 용량을 제공하기로 한 바 있다. 오픈AI는 2029년 4월까지 40억 달러까지 지급하기로 약속하는 추가 협정을 맺었다. kongsikpark@newspim.com 2025-09-16 13:03
기사 번역
결과물 출력을 준비하고 있어요.
기사제목
기사가 번역된 내용입니다.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동