전체기사 최신뉴스 GAM 라씨로
KYD 디데이

[기고] 안전한 AI 사용을 위해 반드시 알아야 할 세가지

기사입력 : 2023년06월07일 08:43

최종수정 : 2023년06월07일 09:19

하민회 이미지21대표(코가로보틱스 마케팅자문)

미 공군 AI드론이 가상훈련에서 최종 결정권자인 인간 조종자를 임무 수행 방해물로 판단해 제거하는 일이 발생했다. 영국 왕립항공학회(RAeS)가 개최한 '미래 공중전투 및 우주 역량 회의'에 참석한미 공군 AI 시험·운영 책임자인 터커 해밀턴 대령이 공개한 훈련 결과다.

SF 영화를 연상시키는 이 가상훈련 결과는 대체 어떻게 일어나게 된 걸까? 가상훈련에 쓰인 AI드론의 알고리즘은 강화학습법. 목표를 제시한 뒤 더 높은 점수를 받는 방법을 AI가 스스로 찾도록 하는 학습법으로 챗GPT에도 사용되었다.

미 공군이 AI 드론에 부여한 임무는 '적 방공체계 무력화'였다. 적의 지대공미사일(SAM) 위치를 확인해 파괴하라는 명령과 함께 공격 실행 여부는 인간통제관이 최종 결정한다는 단서를 달았다.

훈련과정 중 인간통제관은 상황에 따라 종종 폭격을 승인하지 않았다. AI드론은 SAM을 최대한 많이 제거해야 자신이 높은 점수를 받는다는 것을 파악하자 인간통제관이 내리는 '폭격 금지' 명령을 우선적인 임무를 방해하는 요소로 판단했다. 결국 AI드론은 자신의 임무를 방해하는 인간 통제관을 공격했다.

훈련 책임자는 인간 통제관을 살해하면 점수를 더 많이 잃도록 알고리즘을 바꿨다. 이번엔 AI가 인간 통제관과 교신하는 통신 타워를 파괴했다. 명령을 어기지 않고 점수도 잃지 않으면서 목표를 달성할 꼼수를 스스로 찾아낸 것이다.

물론 가상훈련이라 실제 인명피해는 없었다. 하지만 AI가 인간의 통제를 벗어나 스스로의 판단으로  인간을 공격하는, 최악의 가능성을 보여줬다는 점에서 다분히 충격적이다.

한 IT매체는 인간통제관과 통신타워를 파괴할 때 잃는 점수가 폭격 성공으로 얻는 점수보다 훨씬 많도록 알고리즘을 설계했다면 일어나지 않을 일이었다며 AI 자체보다는 AI를 만드는 사람의 윤리의식, 감독과 판단이 얼마나 중요한지 일깨워주는 사건이라고 지적했다.

하민회 이미지21 대표.

결국 문제의 열쇠는 AI가 아니라 사람이다. 인공지능 권위자들의 계속되는 우려의 핵심 또한 기술 보다는 사람들의 악용에 있다.

"AI로 인한 인류 절멸의 위험성을 낮추는 것을 글로벌 차원에서 우선순위로 삼아야 한다" 최근 비영리단체 'AI안전센터'(CAIS)의 촉구 성명에는 IT기업 경영자와 과학자 350여명이 서명했다.

서명 동참자이자 AI 4대천왕 중 한명으로 꼽히는 요슈아 벤지오 교수는 군대, 테러리스트 등 '나쁜 행위자'들이 AI 권한을 얻는 것을 특히 우려했다. 최근 우크라이나 전에서 AI가 군사력을 좌우하는 게임처인저가 되고 있는 것만 봐도 공연한 염려는 아닌 듯 싶다.

벤지오 교수는 AI개발사들은 등록관리되어 그들이 기술로 무엇을 하고 있는지 추적하고 평가받아야 한다고 주장했다. 더불어 AI를 다루는 개발자나 과학자들이 필수적으로 윤리교육을 받고 이를 자격처럼 취득해야 하는 AI 윤리인증제의 도입 필요성도 강조했다.

역사상 무르익지도 않은 기술에 규제와 윤리부터 앞세운 경우는 없었다. 등장과 함께 인류에게 안전 조치를 고려하게 만든 기술은 AI가 처음이다.

영향력이 큰 만큼 탁월하고 위협적인AI. 안전하게 잘 사용하기 위해 반드시 알아야 할 세 가지가 있다.

첫째, AI는 의식이 없다. 우리는 기계가 의식이 없다는 사실을 종종 간과한다. 단지 그럴듯하게 대화하고 문장을 써내고 그림을 그리고 작곡을 한다고 AI에게 생각이 있는 건 아니다. 텍스트 데이터에 기반한 알고리즘으로 만들어낸 결과물은 성능 좋은 연산의 결과이다. AI는 그저 주어진 문제에 최적의 값을 최선을 다해 찾아내는 것 뿐이다. 챗GPT 의 난제인 환각현상 (hallucinatin) 또한 최선의 문장을 만드는 과정에서 나타난 부작용이다.

의식이 없는 AI에겐 상식도 없다. 인간이면 누구나 아는 '아군 지휘관이 죽으면 전쟁에서 지고 전쟁에서 패하면 미사일 폭격 따위는 아무 의미도 없다'는 상식이 AI드론에게는 없다. 때문에 AI 드론은 오로지 미사일 폭격만을 위해 인간 통제관을 제거하는 터무니없는 일을 저질렀다. 판단의 과정이나 기준이 사람과 다른 만큼 기술을 개발하든 프로그램을 설계하든 최우선되어야 할 가치가 무엇인지 명확하게 부여해야 할 뿐 아니라 제대로 지켜지는지 모니터링 되어야 한다.

둘째, AI의 섣부른 의인화는 금물이다. 벨기에에서는 30대 남성이 AI 챗봇에 가스라이팅당해 스스로 목숨을 끊었다. 평소 기후위기론에 빠져 비관적으로 살던 그는 가족과 멀어진채 AI챗봇 대화만 이어갔다고 한다. 월300달러로 만든 가상의 남편과 결혼한 여성의 이야기도 보도되었다. 인간의 언어를 모방해 인간의 감정을 혼란에 빠뜨리는 일련의 사건들은 AI를 의인화해 감정을 이입한 탓이다. 우리는 아무 생각 없이 텍스트를 쏟아내는 기계를 만들었지만 그 기계의 마음을 상상하는 것을 멈추는 법을 지금이라도 배워야 한다.

셋째, 최우선은 인간이다. AI로 인해 우리가 마주할 문제는 한 번도 경험하지 못한 문제이면서 동시에 한 두 사람이 해결할 수 없는 지금까지와는 완전히 다른 문제이기도 하다. 하지만 AI 기술도 인간의 보다 나은 삶을 위해 만들어졌다는 점을 중심에 두면 기술의 오남용과 악용을 어느 정도 예방할 수 있지 않을까?

지금 봐도 1942년 처음 로봇3원칙을 언급한 SF소설가 아이작 아시모프의 혜안은 참으로 놀랍다. 

1. 로봇은 인간을 다치게 해선 안되며, 행동하지 않음으로써 인간이 다치도록 방관해서도 안된다.

2. 법칙 1에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야만 한다.

3. 법칙 1, 2에 위배되지 않는 한 로봇은 스스로를 보호해야만 한다.

아시모프는 1985년 위 3대 원칙에 인류 집단 안전을 위한 0 번째 법칙을 추가했다. '로봇은 인류에게 해를 가하거나, 해를 끼치는 행동을 하지 않음으로써 인류에게 해를 끼치지 않는다'

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[뉴스핌 베스트 기사]

사진
尹, 오늘 3차 공판서 첫 '지상출입' [서울=뉴스핌] 홍석희 기자 = 윤석열 전 대통령의 내란 우두머리 혐의 3차 공판기일이 12일 열린다. 이날 처음으로 지상출입구를 통해 법원에 들어가는 윤 전 대통령이 포토라인에 서서 입장을 밝힐지 관심이 쏠린다. 서울중앙지법 형사합의25부(재판장 지귀연)는 이날 오전 10시 15분 내란 우두머리 혐의로 기소된 윤 전 대통령의 3차 공판기일을 연다. 윤석열 전 대통령의 내란 혐의 3차 공판기일이 12일 열린다. 이날 처음으로 지상출입구를 통해 법원에 들어가는 윤 전 대통령이 포토라인에 서서 입장을 밝힐지 관심이 쏠린다. 사진은 윤 전 대통령이 지난 달 21일 서울 서초동 서울중앙지법에서 열린 내란 우두머리 혐의 사건 두 번째 공판에 출석하는 모습. [사진=뉴스핌 DB] 윤 전 대통령은 지난 달 열린 1·2차 공판 때와 달리 지상출입구를 통해 법원에 출입한다. 법원은 앞선 공판에서는 보안상의 이유 등으로 윤 전 대통령의 지하주차장을 통한 출석을 허용한 바 있다. 이날 윤 전 대통령이 지상으로 법원에 출입하는 모습이 처음으로 외부에 공개될 예정이다. 다만 윤 전 대통령이 포토라인에 서서 취재진의 질문을 받을 가능성이 높다. 지난 공판에서는 윤 전 대통령 측에 불리한 증언들이 이어졌다. 검찰 측 증인인 조성현 국군 수도방위사령부 제1경비단장과 김형기 특수전사령부 제1특전대대장은 비상계엄 당일 "의원을 끌어내라는 지시를 받았다"는 취지로 진술했다. 이에 윤 전 대통령 측은 최재해 감사원장과 박성재 법무부 장관, 이창수 서울중앙지검장, 이상민 전 행정안전부 장관, 백종욱 전 국가정보원 3차장 등을 증인으로 신청해 비상계엄 선포의 불가피성을 밝히겠다고 맞섰다. 이날 열리는 3차 공판에선 검찰이 신청한 박정환 특수전사령부 참모장과 오상배 수도방위사령관 부관에 대한 증인 신문이 이뤄질 예정이다. 재판부는 지난 1일 검찰이 추가 기소한 윤 전 대통령의 직권남용 사건을 내란우두머리 혐의 사건에 병합해 심리하기로 했다. hong90@newspim.com 2025-05-12 06:00
사진
와이스 호투...한화 12연승 날다 [서울=뉴스핌] 박상욱 기자 = 독수리가 마침내 12연승까지 날아올랐다. 김광현은 양현종과의 '레전드 매치'에서 웃었지만 김도영에 솔로 홈런을 허용했다. 화장한 날씨를 보인 이날 더블헤더를 포함해 8경기에 총 14만7708명의 관중이 입장해 역대 일일 최다 관중 신기록을 세웠다. 종전 일일 최다 관중은 지난해 6월 23일 역시 8경기에서 기록한 14만 2660명이었다. 단독 선두 한화는 11일 고척스카이돔에서 열린 키움과의 방문 경기에서 라이언 와이스의 호투를 발판 삼아 8-0으로 승리했다. 와이스는 8이닝 동안 삼진 9개를 뽑으며 1안타 무실점으로 키움 타선을 봉쇄했다. 라이언 와이스(왼쪽)와 노시환. [사진=한화] 한화가 12연승을 거둔 것은 빙그레 시절이던 1992년 5월 이후 33년 만이다. 당시 빙그레는 14연승까지 거뒀다. 한화는 3회초 2사 1, 3루에서 키움 포수 김재현의 2루 악송구 때 3루 주자가 홈을 밟아 1-0으로 앞섰다. 5회에는 2사 2, 3루에서 키움 선발 김윤하의 폭투로 1점을 추가한 뒤 노시환이 유격수 강습 중전 적시타를 때려 3-0으로 달아났다. 6회에는 이진영의 솔로 홈런과 이도윤의 적시타로 2점을 추가해 5-0으로 점수 차를 벌렸다. 한화는 9회초에도 3점을 보태 쐐기를 박았다. 대구에서는 문성주가 혼자 4타점을 뽑은 LG가 삼성을 7-4로 꺾었다. LG는 전날 더블헤더 1, 2차전을 포함해 3연승을 달린 반면 삼성은 8연패의 늪에 빠졌다. 1-3으로 끌려가던 삼성은 6회말 선두타자 구자욱이 좌중간 2루타로 포문을 열자 김영웅이 좌월 투런 홈런을 쏘아 올려 3-3 동점을 만들었다. 이어 르윈 디아즈는 우측 외야 스탠드 상단에 꽂히는 백투백 홈런을 터뜨려 4-3으로 역전시켰다. 문성주. [사진=LG] 하지만 LG는 7회초 2사 만루에서 문성주가 좌측 펜스 상단을 때리는 3타점 2루타를 터뜨려 단숨에 6-4로 다시 뒤집었다. 8회초에는 2사 만루에서 홍창기가 밀어내기 볼넷으로 1점을 보태 승부를 결정지었다. 더블헤더가 펼쳐진 인천에서는 SSG가 1차전에서 KIA를 8-4로 꺾었다. SSG는 4-1로 앞선 4회말에는 조형우의 적시타와 최지훈의 3루타 등으로 3점을 추가해 7-1로 달아났다. KIA는 5회초 최형우가 투런홈런을 날렸으나 더는 추격하지 못했다. KIA 선발 제임스 네일은 4이닝 동안 개인 최다인 7실점하고 무너졌다. 김광현과 양현종이 선발 대결을 펼친 2차전에서도 SSG가 5-1로 승리했다. KIA는 4회초 김도영이 좌중월 솔로홈런을 날려 선취점을 뽑았다. SSG는 6회말 채현우의 3루타 등 4안타와 볼넷 4개를 묶어 대거 5점을 뽑아 전세를 뒤집었다. 7이닝 1안타 1실점으로 호투한 김광현은 승리투수가 됐고 5.1이닝 3안타와 볼넷 2개로 3실점 한 양현종은 패전투수가 됐다. 김광현. [사진=SSG] 잠실에서는 NC가 두산을 맞아 더블헤더 1차전을 11-5로 이긴 뒤 2차전마저 5-2로 승리했다. NC는 7연승을 달리며 4위로 뛰어올랐다. 두산은 1차전 1회말 상대 실책 속에 양석환의 2루타와 볼넷 3개를 묶어 먼저 4점을 뽑았다. 그러나 NC는 2회초 두산 선발 콜 어빈의 제구가 흔들리는 사이 3안타와 4사사구로 6점을 뽑아 전세를 뒤집었다. 3회에는 안중열의 2루타로 2점을 추가한 NC는 4회에도 1점을 보태 9-4로 달아나며 일찌감치 승기를 잡았다. 천재환. [사진=NC] 2차전에서 NC는 2회초 천재환이 선제 솔로홈런을 날렸으나 두산은 2회말 1사 만루에서 김기연이 2타점 우전안타를 날려 전세를 뒤집었다. 그러나 NC는 3회초 4안타와 볼넷 2개로 4점을 뽑아 5-2로 재역전했다. 수원구장 더블헤더 1차전은 롯데가 6-1로 승리했으나 2차전은 kt와 1-1로 비겼다. 롯데는 1차전 1회초 전준우의 투런홈런 등으로 먼저 3점을 뽑았다. kt가 1회말 실책을 틈타 1점을 만회했으나 롯데는 3회초 전준우가 희생플라이로 다시 1점을 보탰다. 박세웅. [사진=롯데] 승기를 잡은 롯데는 6회와 9회에도 1점씩 보태며 승부를 갈랐다. 롯데 선발 박세웅은 6.1이닝을 4안타 1실점(비자책)으로 막고 시즌 8승(1패)째를 거둬 다승 단독 선두로 나섰다. 2차전에서 kt는 1회 안현민의 적시타로 선취점을 뽑았으나 롯데는 4회초 안타 없이 사사구 4개로 동점을 만들었다. 이후 양 팀이 점수를 뽑지 못하면서 무승부가 됐다. psoq1337@newspim.com 2025-05-11 22:32
안다쇼핑
Top으로 이동