전체기사 최신뉴스 GAM
KYD 디데이
오피니언 외부칼럼

속보

더보기

[기고] 안전한 AI 사용을 위해 반드시 알아야 할 세가지

기사입력 : 2023년06월07일 08:43

최종수정 : 2023년06월07일 09:19

하민회 이미지21대표(코가로보틱스 마케팅자문)

미 공군 AI드론이 가상훈련에서 최종 결정권자인 인간 조종자를 임무 수행 방해물로 판단해 제거하는 일이 발생했다. 영국 왕립항공학회(RAeS)가 개최한 '미래 공중전투 및 우주 역량 회의'에 참석한미 공군 AI 시험·운영 책임자인 터커 해밀턴 대령이 공개한 훈련 결과다.

SF 영화를 연상시키는 이 가상훈련 결과는 대체 어떻게 일어나게 된 걸까? 가상훈련에 쓰인 AI드론의 알고리즘은 강화학습법. 목표를 제시한 뒤 더 높은 점수를 받는 방법을 AI가 스스로 찾도록 하는 학습법으로 챗GPT에도 사용되었다.

미 공군이 AI 드론에 부여한 임무는 '적 방공체계 무력화'였다. 적의 지대공미사일(SAM) 위치를 확인해 파괴하라는 명령과 함께 공격 실행 여부는 인간통제관이 최종 결정한다는 단서를 달았다.

훈련과정 중 인간통제관은 상황에 따라 종종 폭격을 승인하지 않았다. AI드론은 SAM을 최대한 많이 제거해야 자신이 높은 점수를 받는다는 것을 파악하자 인간통제관이 내리는 '폭격 금지' 명령을 우선적인 임무를 방해하는 요소로 판단했다. 결국 AI드론은 자신의 임무를 방해하는 인간 통제관을 공격했다.

훈련 책임자는 인간 통제관을 살해하면 점수를 더 많이 잃도록 알고리즘을 바꿨다. 이번엔 AI가 인간 통제관과 교신하는 통신 타워를 파괴했다. 명령을 어기지 않고 점수도 잃지 않으면서 목표를 달성할 꼼수를 스스로 찾아낸 것이다.

물론 가상훈련이라 실제 인명피해는 없었다. 하지만 AI가 인간의 통제를 벗어나 스스로의 판단으로  인간을 공격하는, 최악의 가능성을 보여줬다는 점에서 다분히 충격적이다.

한 IT매체는 인간통제관과 통신타워를 파괴할 때 잃는 점수가 폭격 성공으로 얻는 점수보다 훨씬 많도록 알고리즘을 설계했다면 일어나지 않을 일이었다며 AI 자체보다는 AI를 만드는 사람의 윤리의식, 감독과 판단이 얼마나 중요한지 일깨워주는 사건이라고 지적했다.

하민회 이미지21 대표.

결국 문제의 열쇠는 AI가 아니라 사람이다. 인공지능 권위자들의 계속되는 우려의 핵심 또한 기술 보다는 사람들의 악용에 있다.

"AI로 인한 인류 절멸의 위험성을 낮추는 것을 글로벌 차원에서 우선순위로 삼아야 한다" 최근 비영리단체 'AI안전센터'(CAIS)의 촉구 성명에는 IT기업 경영자와 과학자 350여명이 서명했다.

서명 동참자이자 AI 4대천왕 중 한명으로 꼽히는 요슈아 벤지오 교수는 군대, 테러리스트 등 '나쁜 행위자'들이 AI 권한을 얻는 것을 특히 우려했다. 최근 우크라이나 전에서 AI가 군사력을 좌우하는 게임처인저가 되고 있는 것만 봐도 공연한 염려는 아닌 듯 싶다.

벤지오 교수는 AI개발사들은 등록관리되어 그들이 기술로 무엇을 하고 있는지 추적하고 평가받아야 한다고 주장했다. 더불어 AI를 다루는 개발자나 과학자들이 필수적으로 윤리교육을 받고 이를 자격처럼 취득해야 하는 AI 윤리인증제의 도입 필요성도 강조했다.

역사상 무르익지도 않은 기술에 규제와 윤리부터 앞세운 경우는 없었다. 등장과 함께 인류에게 안전 조치를 고려하게 만든 기술은 AI가 처음이다.

영향력이 큰 만큼 탁월하고 위협적인AI. 안전하게 잘 사용하기 위해 반드시 알아야 할 세 가지가 있다.

첫째, AI는 의식이 없다. 우리는 기계가 의식이 없다는 사실을 종종 간과한다. 단지 그럴듯하게 대화하고 문장을 써내고 그림을 그리고 작곡을 한다고 AI에게 생각이 있는 건 아니다. 텍스트 데이터에 기반한 알고리즘으로 만들어낸 결과물은 성능 좋은 연산의 결과이다. AI는 그저 주어진 문제에 최적의 값을 최선을 다해 찾아내는 것 뿐이다. 챗GPT 의 난제인 환각현상 (hallucinatin) 또한 최선의 문장을 만드는 과정에서 나타난 부작용이다.

의식이 없는 AI에겐 상식도 없다. 인간이면 누구나 아는 '아군 지휘관이 죽으면 전쟁에서 지고 전쟁에서 패하면 미사일 폭격 따위는 아무 의미도 없다'는 상식이 AI드론에게는 없다. 때문에 AI 드론은 오로지 미사일 폭격만을 위해 인간 통제관을 제거하는 터무니없는 일을 저질렀다. 판단의 과정이나 기준이 사람과 다른 만큼 기술을 개발하든 프로그램을 설계하든 최우선되어야 할 가치가 무엇인지 명확하게 부여해야 할 뿐 아니라 제대로 지켜지는지 모니터링 되어야 한다.

둘째, AI의 섣부른 의인화는 금물이다. 벨기에에서는 30대 남성이 AI 챗봇에 가스라이팅당해 스스로 목숨을 끊었다. 평소 기후위기론에 빠져 비관적으로 살던 그는 가족과 멀어진채 AI챗봇 대화만 이어갔다고 한다. 월300달러로 만든 가상의 남편과 결혼한 여성의 이야기도 보도되었다. 인간의 언어를 모방해 인간의 감정을 혼란에 빠뜨리는 일련의 사건들은 AI를 의인화해 감정을 이입한 탓이다. 우리는 아무 생각 없이 텍스트를 쏟아내는 기계를 만들었지만 그 기계의 마음을 상상하는 것을 멈추는 법을 지금이라도 배워야 한다.

셋째, 최우선은 인간이다. AI로 인해 우리가 마주할 문제는 한 번도 경험하지 못한 문제이면서 동시에 한 두 사람이 해결할 수 없는 지금까지와는 완전히 다른 문제이기도 하다. 하지만 AI 기술도 인간의 보다 나은 삶을 위해 만들어졌다는 점을 중심에 두면 기술의 오남용과 악용을 어느 정도 예방할 수 있지 않을까?

지금 봐도 1942년 처음 로봇3원칙을 언급한 SF소설가 아이작 아시모프의 혜안은 참으로 놀랍다. 

1. 로봇은 인간을 다치게 해선 안되며, 행동하지 않음으로써 인간이 다치도록 방관해서도 안된다.

2. 법칙 1에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야만 한다.

3. 법칙 1, 2에 위배되지 않는 한 로봇은 스스로를 보호해야만 한다.

아시모프는 1985년 위 3대 원칙에 인류 집단 안전을 위한 0 번째 법칙을 추가했다. '로봇은 인류에게 해를 가하거나, 해를 끼치는 행동을 하지 않음으로써 인류에게 해를 끼치지 않는다'

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
다이빙 주한 중국대사 뉴스핌 기고 국제 정세가 혼란스럽고 국지적 충돌과 불안정한 상황이 이어지는 가운데 경제 글로벌화가 역풍을 맞고 있고 일방주의와 보호주의가 고개를 들고 있다. 불확실성의 시대에 직면한 많은 국가들은 '겨울이 오고 있다'(Winter is Coming)며 불안감을 감추지 못한다. 이러한 시기에 중국은 실질적인 행동으로 세계에 안정성과 긍정적 에너지를 불어넣고 있다. 중국은 세계 경제를 안정적 발전으로 이끄는 강력하고 확실한 힘이다. 중국은 세계 2위 경제국, 1위 제조업 대국이자 2위 소비시장이다. 이런 조건하에서 중국 경제는 체제와 수요, 공급, 인재 등 네가지 부문에서 두드러진 우위를 보이며 장기적이고 안정적인 성장 기반을 공고히 하고 있다. 2024년 중국 경제는 5% 성장률을 달성했고 GDP 증가량은 1조 500억 달러에 달했는데, 이는 중간 경제국가의 연간 경제 총량에 해당하는 규모다. 2025년 복잡한 환경과 숱한 도전에 직면한 상황에서도 중국 경제는 안정 성장 추세를 유지하여, 1분기 5.4% 성장을 달성했고 1~4월 상품무역 수출은 전년 동기 대비 7.5% 증가했다. 더욱 중요한 성과는 외부의 압박과 억제가 오히려 중국의 기술 돌파를 촉진하는 수많은 사례들이 나타나고 있으며, 중국은 인공지능(AI), 로봇 등 첨단 기술 분야에서 잇따라 '딥시크(DeepSeek) 순간'을 맞이하고 있다는 것이다. 중국은 설정된 발전 목표를 달성하며 세계 경제 성장의 가장 중요한 엔진이자 안전 장치 역할을 계속 해 나갈 충분한 자신감과 능력을 지니고 있다. [서울=뉴스핌] 최헌규 중국전문기자= 주한 중국대사관 다이빙(戴兵) 중국 대사. 사진=중국 대사관 제공.  2025.05.24 chk@newspim.com 중국은 글로벌 협력을 촉진하는 확실한 힘이다. 대외 개방은 중국의 기본 국책으로, 보호주의의 역류가 거셀수록 중국은 더욱 확고한 의지를 가지고 높은 수준의 개방을 추진해나갈 것이며 국제 사회가 모두 혜택을 누릴 수 있도록 할것이다. 중국은 150여 개 국가 및 지역의 주요 무역 파트너이며, 30개 국가 및 지역과 23개의 자유무역협정(FTA)을 체결했다. 2024년 중국의 평균 수입 관세율은 이미 7.3%로 떨어져 절대 다수 국가보다 낮으며, 43개 최빈국에 대해서는 '무관세 혜택'을 제공하고 있다. 얼마 전 성공적으로 개최된 중국 중앙주변공작회의에서는 주변국들과 협력하여 아름다운 미래를 함께 만들어갈 것임을 다짐했다. 시진핑 국가주석의 동남아 순방과 러시아 방문이 커다란 외교적 성과를 거두었고, 아시아, 아프리카, 라틴 아메리카, 유럽의 여러 국가 지도자들이 중국을 방문했다. 갈수록 더 많은 국가들이 중국과의 동행은 바로 기회와의 동행이며, 중국에 대한 신뢰는 곧 미래에 대한 신뢰임을 인식하고 있다. 중국은 국제 질서를 수호하는 확실한 힘이다. 중국은 현행 국제 질서 속에서 발전해 온 만큼 이 체계의 수혜자이자 지지자, 수호자이다. 중국은 국가 간의 평등 및 호혜 상생을 견지하고 진정한 다자주의를 지향하며, '국력의 크기'를 발언권의 기준으로 삼거나 '자국 우선'을 국제 규칙 위에 두는 것에 반대한다. 국제 사회에서 중국은 책임감 있고 신뢰할 수 있는 대국이다. 중국에 대해 '국제 질서 도전자'라고 지목하는 것은 사리에 맞지 않는다. 많은 한국인들은 이전의 규칙 제정자(rule-maker)가 파괴자로 변해 전 세계를 혼란에 빠뜨렸다고 솔직하게 말한다. 부당한 관세 전쟁에 직면한 중국은 단호한 대응으로 국가의 정당한 권익을 보호하고 나섰을 뿐만 아니라 국제적 공정성과 보편적 세계 정의를 수호하는데도 앞장섰다. 결과적으로 중국의 이런 대응은 국제 사회의 많은 나라들이 적극적 협상을 통해 경제∙무역 갈등을 해결할 수 있도록 여지를 넓혀줬다. 중국은 줄곧 각국의 운명이 긴밀하게 연결되어 있으며 중국과 한국은 중요한 이웃이자 협력 파트너로서 더욱 그러하다고 여겨왔다. 중한 수교 이후 33년 동안 양국 간 각 분야에서의 교류와 협력은 커다란 성과를 거두었으며, 양국 외교는 전략적 협력 동반자 관계로 격상됐다. 최근 몇 년간 중한 양국의 국가 상황과 지역 정세, 세계 구도에 모두 큰 변화가 있었고, 중한 관계의 복잡성도 다소 커졌다. 양국은 경험과 교훈을 총정리해 재인식, 재출발해야 한다. 이때 가장 근본적인 것은, 중한 우호 협력의 강화가 양국과 양국 국민의 근본적 이익에 가장 부합한다는 점이다. 한국 정국에 변화가 일어나고 국제 정세 변화의 충격도 마주한 가운데, 대다수의 한국 국민은 국가적 통합을 강화하고 경제와 민생을 발전시키기를 기대하고 있다. 한국의 많은 지인들은 중한 관계를 개선하고 발전시키는 것이 한국이 대내외적 도전에 대응하는 데 매우 중요하다고 이야기한다. 현재 중한 관계는 지난 날을 토대로 앞날을 개척하는 중요한 단계에 놓여 있다. 중국의 대(对)한국 정책은 확실하며, 중국은 최대한의 성의와 노력으로 중한 전략적 협력 동반자 관계를 심화할 의향이 있다. 한국이 시대 물결과 국제 흐름을 파악하고 바른 방향을 견지하며 중국과 함께 중한 관계를 건전하고 안정적이며 긍정적으로 발전시키길 희망한다. 글 = 주한 중국대사관 다이빙(戴兵) 중국대사 서울= 최헌규 중국전문기자(전 베이징 특파원) chk@newspim.com 2025-05-24 13:27
사진
트럼프 "애플 25% 관세, 삼성에도" [뉴욕=뉴스핌]김근철 특파원=도널드 트럼프 미국 대통령이 23일(현지 시간) 중국 등에서 대부분 제품을 생산하고 있는 애플에 대해 25%의 관세를 부과하겠다는 입장을 재확인하면서 이 같은 조치는 삼성전자 등에도 동일하게 적용될 것이라고 밝혔다. 트럼프 대통령은 이날 백악관 집무실에서 기자들과 만나 "애플(제품)에 25% 관세를 부과할 것"이라면서 "이것은 삼성과 다른 스마트폰 업체들에게도 해당된다"고 말했다. 이어 "미국 내 제조를 장려하려면 모든 기업에 공정하게 적용해야 한다"고 강조했다. 도널드 트럼프 미국 대통령. [사진=로이터 뉴스핌]2025.05.24 kckim100@newspim.com 트럼프 대통령은 이와 함께 유럽연합(EU)과의 무역 협상이 타결되지 않을 경우, 현재 유지 중인 50%의 관세를 그대로 두겠다는 입장도 거듭 확인했다. 그는 "EU와의 대화가 더디다"면서 "협상 타결을 기대하지 않다"며 이같이 밝혔다. 앞서 트럼프 대통령은 이날 오전 트루스 소셜 계정을 통해 "나는 애플의 팀 쿡에게 오랫동안 미국에서 판매되는 아이폰은 반드시 미국에서 생산되어야 한다고 말해왔다. 인도나 다른 나라에서 만들어서는 안 된다"며 "그렇지 않다면, 최소 25%의 관세를 애플이 미국에 지불해야 할 것"이라고 밝혔다. 그는 EU에 대해서도 "우리의 협상 과정은 아무런 진전이 없다"며 "2025년 6월 1일부터 EU산 제품에 일관 50% 관세를 부과할 것을 권고한다"고 밝혔다. 이어 "EU는 미국을 무역에서 이용하기 위해 만들어진 것과 다름없고, 협상하기 매우 어려운 상대"라면서 "그들은 강력한 무역 장벽과 부가가치세, 터무니없는 기업 벌금, 비금전적 무역 장벽, 환율 조작, 미국 기업에 대한 부당하고 정당하지 않은 소송 등으로 미국과 연간 2억 5000만 달러 이상의 무역 적자를 초래했다"고 비판했다. 트럼프 대통령의 이 같은 언급은 증시에 바로 영향을 미쳤다. 뉴욕 증시에서 애플의 주가는 마감을 앞두고 2.92%까지 하락했다. 유럽 주요국 증시도 일제히 급락했다. 독일과 프랑스, 이탈리아 등은 모두 1.5% 이상 떨어졌다. 범유럽 지수인 STOXX 600 지수는 전장보다 5.14포인트(0.93%) 내린 545.13으로 장을 마쳤다.    kckim100@newspim.com 2025-05-24 04:30
안다쇼핑
Top으로 이동