전체기사 최신뉴스 GAM 라씨로
KYD 디데이

[기고] 짚고 또 짚어야 할 AI 안전성

기사입력 : 2024년06월24일 08:33

최종수정 : 2024년06월25일 07:09

하민회 이미지21대표(코가로보틱스 마케팅자문)

AI, 과연 안전할까?

오픈AI가 'GPT-4o'를 공개하는 날 '오픈 AI의 영혼'이 회사를 떠났다. 오픈 AI의 공동창업자이자 수석과학자 그리고 5일 천하로 끝난 '올트만 축출 사태'의 주역이었던 일리아 수츠케버다.

챗GPT 개발에 핵심적인 역할을 한 일리아 수츠케버는 샘 올트만과 일론 머스크로부터 '오픈 AI의 영혼'으로 불렸다. 그러나 기술 신중론자인 수츠케버는 AI 개발 속도와 안전성 문제를 두고 올트만CEO와 이견을 보였고, 지난해 11월 올트만 해임에 앞장섰다가 이사회에서 물러났다. 수츠케버가 이끌었던 오픈AI의 안전 윤리담당부서 '수퍼얼라인먼트(Super Alignment)'팀은 'GPT-4o' 출시 전에 해체됐다. 

수츠케버는 최근 "안전한 초지능 구축"을 목적으로 하는 AI 스타트업 SSI(Safe Superintelligence)를 설립했다. 그는 "기본적으로 인류에게 대규모 피해를 주지 않는 안전한 초지능(SSI) 구축이야 말로 우리 시대의 가장 중요한 기술적 문제"임을 강조했다.

하민회 이미지21 대표.

AI기술의 안전성을 우려하는 업계 전문가와 석학들이 늘고 있다.

AI 안전성은 AI 시스템이 예측 가능한 방식으로 작동하고, 인간에게 해가 되지 않는 것을 의미한다. AI가 잘못된 결정을 내리거나 의도하지 않은 결과를 초래하지 않아야 한다.

최근 들어 이렇게 AI 안전성이 강조되는 건 크게 두 가지 이유 때문이다. AI 기술 발전 속도가 예상 범주를 넘어설 만큼 빨라지고 의료, 자율자동차, 금융 등 확산분야가 늘고 있다는 점 그리고 텍스트·이미지·오디오·비디오 등 다양한 형태의 데이터 정보를 동시에 이해해 사용자의 감정, 행동의 맥락, 주변 환경 등에 정확하게 반응하는 '멀티모달(Multi-modal)'기술이 일반화되면서 사용자와 AI의 상호작용의 접점이 현저하게 늘어났기 때문이다.

멀티모달의 안전성은 단순히 '세종대왕 맥북 사건'이나 '1일 1돌 섭취' 같은 엉뚱한 대답으로 웃어넘길 수 있는 차원의 문제가 아니다. 의료 분야의 AI가 잘못된 데이터를 학습하거나 알고리즘 오류로 잘못된 진단을 내릴 경우 환자의 생명이 위태로워질 수 있고 자율주행차가 교통 환경을 잘못 인식하거나 예기치 못한 상황에서 부적절하게 반응하면 치명적인 사고를 유발할 수도 있다. 그 만큼 정확성과 신뢰도가 확보되어야 부작용 없이 사용할 수 있다.

멀티모달 AI가 적용된 '스마트렌즈' 서비스. [자료=네이버]

AI 기술의 위험성을 경고하는 AI두머(doomer)의 대표주자인 'AI의 대부' 제프리 힌튼 교수는 최근 BBC와의 인터뷰를 통해 "AI의 안전에 대한 충분한 고려가 이뤄지지 않고 있다"고 지적했고 <사피엔스>의 저자 유발 하라리, 노벨경제학상 수상자 대니얼 카너먼 교수 등 세계적인 석학 25명도 최근 사이언스에 '급격한 진보 속 AI의 극단적 위험 관리'라는 글을 공동으로 기고해 AI 안전성에 대한 우려를 전했다.

오픈AI와 구글 전·현직 직원 13명이 '최첨단 AI에 대한 경고 권리'라는 성명을 통해 "AI가 인류에 전례 없는 혜택을 제공할 수 있는 잠재력을 갖고 있지만, 동시에 AI 기술로 야기되는 심각한 위험을 우리는 알고 있다"며, "이런 위험은 사회 불평등 심화부터 조작·가짜뉴스 등을 통환 사회 전복, 나아가 인류의 멸종을 초래하는 자율적인 AI 시스템의 통제 상실로 까지 이어질 것"이라고 지적했다. 또 "AI 글로벌 빅테크들이 AI의 위험성을 인지하고 있음에도 불구하고 이윤 추구 목표 때문에 적절한 조치나 제대로 된 감독을 하지 않고, 그 위험성을 원활하게 공유하지도 않는다"고 주장했다.

빅테크의 안전 불감증은 심각한 상태다. '안전'보다 '성능'에 초점을 맞추고 '시장 선점'에 매진한다. '선점' 한 자가 '독식'하는 AI 기술 속성 탓 이다.

오픈AI의 폭주가 대표적이다. 멀티모달 GPT-4o 출시 일정을 맞추기 위해 안전 윤리담당팀을 해체한 오픈AI는 GPT-4o 공개 직후 '스칼렛 요한슨 목소리 도용' 논란에 휩싸였다. 데이터 관리에 문제가 있음을 보여주는 사례였다.

오픈AI와 챗GPT 로고 [사진=뉴스핌DB]

해커가 GPT-4o를 탈옥시켜 끔찍한 답을 얻어내는 일도 발생했다. 탈옥(Jail breaking)은 정보기술(IT) 업계에서 AI 모델의 제한된 기능을 우회하여 AI가 본래 금지된 작업을 수행하게 만드는 행위로 주로 AI 시스템이 제공하지 않도록 설정된 정보나 서비스를 접근하거나, 비윤리적이고 위험한 행동을 하도록 유도하는 것을 의미한다. AI 모델의 윤리적 안전장치를 깨뜨리는 행위인 셈이다.

최근 해커 플리니 프롬프터(Pliny the Prompter)는 GPT-4o 모델을 탈옥시켜, 폭탄 제조 방법과 메스암페타민(필로폰) 제조 방법을 단계적으로 설명하게 하고, 자동차 탈취 방법, 욕설 등을 생성해 충격을 안겼다. GPT-4o가 안전장치가 취약한 상태로 세상에 나왔음을 보였기 때문이다.

AI 안전성을 높이려면 AI기업들의 진지하고 성실한 노력이 필요하다. 안전 윤리기준을 확립하고 몇 가지 사항에 대해선 지속적으로 업데이트 해 나가야 한다.

▲무엇보다 데이터 관리가 잘 되어야 한다. 편향되거나 잘못된 정보가 포함되지 않은, 다양하면서도 신뢰할 수 있는 데이터를 합법적으로 확보하고 사용해야 한다. ▲ AI 가 어떻게 결정을 내리는지 설명할 수 있는 알고리즘의 투명성도 확보되어야 한다. ▲ AI 시스템 도입 전 다양한 상황에서 테스트하고 검증함으로써 예기치 않은 오류나 위험을 최소화하는 노력도 기울어야 한다.

▲ 회사의 역량 중 많은 부분을 보안, 모니터링, 안전 등에 집중해야 한다. ▲ 아울러 AI 기업 직원들이 목소리를 낼 수 있도록 내부고발자에 대한 보호 조치가 마련돼야 한다. AI의 위험과 관련된 비판을 막는 계약 금지, 회사와 관계없는 독립 기관에 AI의 위험 관련 우려사항을 제기할 수 있는 익명 절차 마련, 내부고발자에 대한 보복 금지 등이 해당된다.

21일(현지시간) 마이크로소프트(MS) 연례 개발자 회의 '빌드'(Build)에서 연설하는 사티아 나델라 MS CEO. [사진=로이터 뉴스핌]

AI 안전성 확보는 마치 위험 물질을 다루듯 조심스럽고 신중하게 재차 확인하며 개발해가는 '정성과품이 드는 과정'이다.

이제 AI는 주어진 명령을 수행하는 데 그치지 않고 중간에 필요한 업무를 스스로 찾아내 결과물을 도출하는 'AI에이전트'로 진화하고 있다. 업계에선 AI의 여기서 한 단계 더 발전한 것을 '인공일반지능(AGI)'으로 보고 있다. AGI는 주어진 모든 상황에서 인간처럼 추론, 학습하고 문제를 해결하는 능력을 갖춘 AI로 굳이 인간의 명령이나 지시가 없이도 스스로 판단하고 일할 수 있다.

인구감소와 고령화로 인해 필연적으로 다가오는 축소사회는 어차피 AI와 로봇과 더불어 살아가게 될 것이다. 빅테크에게만 AI 안전성을 강제하긴 무리가 따른다. 국가적 규제가 시급하다. 여전히 안개속에 있는 'AI기본법' 제정부터 속도를 내야 한다.

인간보다 똑똑한 지적 존재를 만드는 일은 분명 위험한 일이다. 미래로 가는 AI라는 돌다리가 안전한지 백번 두드려 확인해도 모자람이 없지 않을까?

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
푸틴, 김정은에 A-50 조기경보기 줬다 [서울=뉴스핌] 이영종 통일전문기자 = 북한이 공중조기경보통제기(AWACS) 형태의 항공기를 27일 전격 공개하면서 푸틴 러시아 대통령이 우크라이나전 북한군 참전의 대가로 김정은에게 해당 시스템을 제공했을 가능성이 제기되고 있다. [서울=뉴스핌] 이영종 통일전문기자 = 북한 관영 조선중앙통신이 27일 공개한 공중조기경보통제기 형태의 사진. [사진=조선중앙통신] 2025.03.27 yjlee@newspim.com 이날 북한 관영매체인 조선중앙통신은 김정은 국무위원장이 지난 25~26일 이틀간 무인정찰기와 자폭드론 개발과 성능시험 현장을 참관했다고 전했다. 북한은 김정은이 노동당과 군부 핵심 측근과 함께 공중조기경보통제기 형태의 항공기에 올라 내부를 돌아보는 모습도 공개했다. 김정은은 "이런 장비들은 우리 군대의 각종 정보수집 작전능력을 제고해 주고 적의 각이한 전투수단을 무력화시키는 데 충분한 위력을 발휘할 것"이라고 말했다. 사진을 분석해보면 동체 위에 지름 9m의 회전 레이돔(rotodome)을 장착한 특징이 드러나는데, 이는 러시아 일류신(IL)사가 만든 조기경보기 A-50(베리예프)과 동일한 것으로 파악된다 [서울=뉴스핌] 이영종 통일전문기자 = 러시아 일류신(IL)사가 만든 조기경보기 A-50(베리예프). 동체 위에  지름 9m의 회전 레이돔(rotodome)을 장착한 특징이 드러난다. [사진=뉴스핌 자료] 2025.03.27 A-50은 구 소련 시절인 1974년 6월 공군에 첫 인도된 조기경보기로 IL-76 수송기 기체에 레이더시스템을 탑재한 기종이다. A-50은 길이 56.59m, 날개길이 50.5m로 순항 속도는 700km, 항속거리 6700km에 이른다. 15명의 승무원이 탈 수 있고 대당 가격은 3억3000만 달러(한화 약 4800억원) 인 것으로 알려 지고 있다. 러시아 공군이 28대 정도를 보유한 것으로 알려져 왔으며 우크라이나전 과정에서 일부가 격추된 것으로 보도됐다. 우리 군에서는 북한이 A-50을 도입한다 해도 당장 구형 미그기와의 합동작전에 한계가 있을 수 있지만, 한국 공군의 전투기를 정밀 추적할 수 있게 된다는 점에서 향후 작전계획을 변경해야 할 상황이 올 수 있다는 우려가 제기돼 왔다. 일각에서는 푸틴이 대륙간탄도미사일(ICBM) 기술에 전용될 수 있는 군사정찰위성 보다 공중조기경보통제기를 김정은에게 주는 쪽으로 가닥을 잡은 것이란 평가가 나온다. [서울=뉴스핌] 이영종 통일전문기자 = 북한 관영매체들은 27일 김정은 국무위원장이 25~26일 이틀 간에 걸쳐 무인정찰기와 자폭드론 개발과 성능시험 현장을 참관했다고 전했다. 사진은 김정은이 공중조기경보통제기 형태의 항공기 내부를 돌아보는 모습. [사진=노동신문] 2025.03.27 yjlee@newspim.com 북한이 공개한 조기경보통제기와 관련해 러시아가 보유한 기종을 직접 줬을 가능성과 함께 북한이 기존에 보유했던 IL-76에 레이더와 정찰 관련 시스템을 장착하는 기술과 자재·장비 지원을 러시아가 기술진 등을 파견해 수행했을 것이란 관측도 제기된다. 북한 자체 기술로 조기경보통제기를 개발하거나 운용한다는 건 무리일 것이란 측면에서다. 한미 정보 당국은 지난해 10월 북한이 평양 순안공항에서 IL-76으로 추정되는 항공기에 대한 개조작업을 진행 중인 정황을 파악한 바 있다. yjlee@newspim.com 2025-03-27 08:57
사진
작년 고위공직자 70% 재산 늘었다 [세종 = 뉴스핌] 김범주 기자 = 지난해 정부공직자윤리위원회 관할 재산공개 대상 고위 공직자 재산이 평균 20억원을 넘어섰다. 전년도와 비교했을때 평균 약 6201만원이 늘었다. 정부공직자윤리위원회는 27일 이 같은 내용을 포함한 '2025년 공직자 정기 재산변동사항'을 공개했다. 이번 재산공개 대상자는 2047명이다. 정부공직자윤리위원회가 27일 '2025년 공직자 정기 재산변동사항'을 공개했다. 사진은 재산변동사항 내역 책자/김범주 기자 재산 공개 대상자는 행정부 소속 정무직, 고위공무원단 가등급, 국립대학총장, 공직유관단체장, 광역·기초 지방자치단체장, 광역의회 의원, 시·도 교육감 등이다. 신고일은 지난해 12월 31일 기준이다. 국회, 대법원, 헌법재판소, 중앙선거관리위원회 등의 재산공개는 각 공직자윤리위원회에서 별도로 공개한다. 총액 기준으로 재산공개 대상자 중 70.3%인 1440명이 기존보다 재산이 증가했다고 신고했다. 재산 감소자는 607명(29.7%)이었다. 평균 재산금액 20억원을 신고한 재산공개 대상자가 644명(31.5%)으로 가장 많았고, 10억~20억원이 610명(29.8%), 5억~10억원이 373명(18.2%), 1억~5억원이 352억원(17.2%), 1억원 미만은 68명(3.3%) 순이었다. 현재 탄핵심판 절차가 진행 중인 윤석열 대통령의 재산신고액이 이번 재산공개 내역에는 포함되지 않았다. 공직자 재산신고 시점에 윤 대통령이 구속돼 이번 공개 대상에서는 제외됐다는 것이 인사처 측의 설명이다. 지난해 윤 대통령은 2023년 말 기준으로 74억 8112만원을 신고했다. 재산 대부분은 김건희 여사 명의였다. 공직자윤리법 제6조의3 제2항은 재산신고 대상자가 구속, 구금 등을 이유로 신고가 불가능한 경우 정기 변동 신고 유예 또는 면제하도록 규정하고 있다. 윤 대통령은 지난 1월 15일부터 3월 8일까지 구속 상태로 정기 변동 신고를 할 수 없는 상황이었다. 다만 최근 구속에서 풀려난 윤 대통령은 오는 6월 1일까지 재산 변경 사항을 신고를 해야 한다. 중앙부처 공직자 중에서는 이북5도위원회 이세웅 평안북도지사가 가장 많은 1046억 8588만원을 신고했다. 변필건 법무부 기획조정실장은 477억 6129만원, 최지영 국제경제관리관이 410억 9040만원, 이원모 공직기강비서관은 397억 8948만원 순으로 각각 신고했다. 기초자치단체장 중에서는 조성명 서울 강남구 구청장이 가장 많은 482억 507만원을, 광역시‧도의원 중에서는 경기도 김성수 의원이 250억 836만원을, 공직유관단체 중에서는 김대진 한국예술종합학교 총장이 221억7715만원을 각각 신고했다. 재산 증가 원인으로는 토지·건물의 공시가액 상승과 저축, 상속 등이 꼽혔다. 지난해 개별공시지가는 전년대비 1.21%, 공동주택공시가격은 1.52%, 단독주택공시가격은 0.57%가 각각 상승했다. 반면 종합주가지수는 지난해 말 종가가 2399포인트(P)로 2023년(2655P)보다 낮았다. 고위공직자 재산 총액 상위자(단위 : 억원)/제공=인사혁신처 한편 윤리위는 재산공개 후 3개월 이내에 재산공개대상자 전원을 대상으로 재산 형성 과정 등 집중 심사할 예정이다. 거짓 기재, 중대 과실 등에 대해서는 해임, 징계의결 요구 등 조치를 취한다. 지난해 심사에서는 징계의결 요구 32건, 과태료 부과 267건, 경고 및 시정조치 1516건 등의 법적 조치가 있었다. 정부공직자윤리위원회 간사인 천지윤 인사처 윤리복무국장은 "국민 상식에 부합하고 신뢰받는 공직사회를 구현하기 위해 공직자의 성실한 재산등록을 지원할 것"이라며 "등록한 재산 사항에 대해서 엄정하게 심사할 예정"이라고 말했다. wideopen@newspim.com 2025-03-27 00:00
안다쇼핑
`
Top으로 이동