전체기사 최신뉴스 GAM 라씨로
KYD 디데이
오피니언 외부칼럼

[기고] 안전한 AI 사용을 위해 반드시 알아야 할 세가지

기사입력 : 2023년06월07일 08:43

최종수정 : 2023년06월07일 09:19

하민회 이미지21대표(코가로보틱스 마케팅자문)

미 공군 AI드론이 가상훈련에서 최종 결정권자인 인간 조종자를 임무 수행 방해물로 판단해 제거하는 일이 발생했다. 영국 왕립항공학회(RAeS)가 개최한 '미래 공중전투 및 우주 역량 회의'에 참석한미 공군 AI 시험·운영 책임자인 터커 해밀턴 대령이 공개한 훈련 결과다.

SF 영화를 연상시키는 이 가상훈련 결과는 대체 어떻게 일어나게 된 걸까? 가상훈련에 쓰인 AI드론의 알고리즘은 강화학습법. 목표를 제시한 뒤 더 높은 점수를 받는 방법을 AI가 스스로 찾도록 하는 학습법으로 챗GPT에도 사용되었다.

미 공군이 AI 드론에 부여한 임무는 '적 방공체계 무력화'였다. 적의 지대공미사일(SAM) 위치를 확인해 파괴하라는 명령과 함께 공격 실행 여부는 인간통제관이 최종 결정한다는 단서를 달았다.

훈련과정 중 인간통제관은 상황에 따라 종종 폭격을 승인하지 않았다. AI드론은 SAM을 최대한 많이 제거해야 자신이 높은 점수를 받는다는 것을 파악하자 인간통제관이 내리는 '폭격 금지' 명령을 우선적인 임무를 방해하는 요소로 판단했다. 결국 AI드론은 자신의 임무를 방해하는 인간 통제관을 공격했다.

훈련 책임자는 인간 통제관을 살해하면 점수를 더 많이 잃도록 알고리즘을 바꿨다. 이번엔 AI가 인간 통제관과 교신하는 통신 타워를 파괴했다. 명령을 어기지 않고 점수도 잃지 않으면서 목표를 달성할 꼼수를 스스로 찾아낸 것이다.

물론 가상훈련이라 실제 인명피해는 없었다. 하지만 AI가 인간의 통제를 벗어나 스스로의 판단으로  인간을 공격하는, 최악의 가능성을 보여줬다는 점에서 다분히 충격적이다.

한 IT매체는 인간통제관과 통신타워를 파괴할 때 잃는 점수가 폭격 성공으로 얻는 점수보다 훨씬 많도록 알고리즘을 설계했다면 일어나지 않을 일이었다며 AI 자체보다는 AI를 만드는 사람의 윤리의식, 감독과 판단이 얼마나 중요한지 일깨워주는 사건이라고 지적했다.

하민회 이미지21 대표.

결국 문제의 열쇠는 AI가 아니라 사람이다. 인공지능 권위자들의 계속되는 우려의 핵심 또한 기술 보다는 사람들의 악용에 있다.

"AI로 인한 인류 절멸의 위험성을 낮추는 것을 글로벌 차원에서 우선순위로 삼아야 한다" 최근 비영리단체 'AI안전센터'(CAIS)의 촉구 성명에는 IT기업 경영자와 과학자 350여명이 서명했다.

서명 동참자이자 AI 4대천왕 중 한명으로 꼽히는 요슈아 벤지오 교수는 군대, 테러리스트 등 '나쁜 행위자'들이 AI 권한을 얻는 것을 특히 우려했다. 최근 우크라이나 전에서 AI가 군사력을 좌우하는 게임처인저가 되고 있는 것만 봐도 공연한 염려는 아닌 듯 싶다.

벤지오 교수는 AI개발사들은 등록관리되어 그들이 기술로 무엇을 하고 있는지 추적하고 평가받아야 한다고 주장했다. 더불어 AI를 다루는 개발자나 과학자들이 필수적으로 윤리교육을 받고 이를 자격처럼 취득해야 하는 AI 윤리인증제의 도입 필요성도 강조했다.

역사상 무르익지도 않은 기술에 규제와 윤리부터 앞세운 경우는 없었다. 등장과 함께 인류에게 안전 조치를 고려하게 만든 기술은 AI가 처음이다.

영향력이 큰 만큼 탁월하고 위협적인AI. 안전하게 잘 사용하기 위해 반드시 알아야 할 세 가지가 있다.

첫째, AI는 의식이 없다. 우리는 기계가 의식이 없다는 사실을 종종 간과한다. 단지 그럴듯하게 대화하고 문장을 써내고 그림을 그리고 작곡을 한다고 AI에게 생각이 있는 건 아니다. 텍스트 데이터에 기반한 알고리즘으로 만들어낸 결과물은 성능 좋은 연산의 결과이다. AI는 그저 주어진 문제에 최적의 값을 최선을 다해 찾아내는 것 뿐이다. 챗GPT 의 난제인 환각현상 (hallucinatin) 또한 최선의 문장을 만드는 과정에서 나타난 부작용이다.

의식이 없는 AI에겐 상식도 없다. 인간이면 누구나 아는 '아군 지휘관이 죽으면 전쟁에서 지고 전쟁에서 패하면 미사일 폭격 따위는 아무 의미도 없다'는 상식이 AI드론에게는 없다. 때문에 AI 드론은 오로지 미사일 폭격만을 위해 인간 통제관을 제거하는 터무니없는 일을 저질렀다. 판단의 과정이나 기준이 사람과 다른 만큼 기술을 개발하든 프로그램을 설계하든 최우선되어야 할 가치가 무엇인지 명확하게 부여해야 할 뿐 아니라 제대로 지켜지는지 모니터링 되어야 한다.

둘째, AI의 섣부른 의인화는 금물이다. 벨기에에서는 30대 남성이 AI 챗봇에 가스라이팅당해 스스로 목숨을 끊었다. 평소 기후위기론에 빠져 비관적으로 살던 그는 가족과 멀어진채 AI챗봇 대화만 이어갔다고 한다. 월300달러로 만든 가상의 남편과 결혼한 여성의 이야기도 보도되었다. 인간의 언어를 모방해 인간의 감정을 혼란에 빠뜨리는 일련의 사건들은 AI를 의인화해 감정을 이입한 탓이다. 우리는 아무 생각 없이 텍스트를 쏟아내는 기계를 만들었지만 그 기계의 마음을 상상하는 것을 멈추는 법을 지금이라도 배워야 한다.

셋째, 최우선은 인간이다. AI로 인해 우리가 마주할 문제는 한 번도 경험하지 못한 문제이면서 동시에 한 두 사람이 해결할 수 없는 지금까지와는 완전히 다른 문제이기도 하다. 하지만 AI 기술도 인간의 보다 나은 삶을 위해 만들어졌다는 점을 중심에 두면 기술의 오남용과 악용을 어느 정도 예방할 수 있지 않을까?

지금 봐도 1942년 처음 로봇3원칙을 언급한 SF소설가 아이작 아시모프의 혜안은 참으로 놀랍다. 

1. 로봇은 인간을 다치게 해선 안되며, 행동하지 않음으로써 인간이 다치도록 방관해서도 안된다.

2. 법칙 1에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야만 한다.

3. 법칙 1, 2에 위배되지 않는 한 로봇은 스스로를 보호해야만 한다.

아시모프는 1985년 위 3대 원칙에 인류 집단 안전을 위한 0 번째 법칙을 추가했다. '로봇은 인류에게 해를 가하거나, 해를 끼치는 행동을 하지 않음으로써 인류에게 해를 끼치지 않는다'

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

CES 2025 참관단 모집

[뉴스핌 베스트 기사]

사진
[여론조사] '헌법' 개정해야 한다 58.3% [서울=뉴스핌] 이바름 기자 = 국민 10명 중 5명은 1987년 대통령 직선제를 담은 헌법 개정 이후 37년간 유지돼 온 우리나라 헌법을 개정해야 한다고 응답한 여론조사 결과가 28일 나왔다. 종합뉴스통신사 뉴스핌 의뢰로 여론조사 전문기관 미디어리서치가 지난 25일~26일 이틀간 전국 만 18세 이상 남녀 1000명을 대상으로 진행한 ARS 조사 결과 ' 헌법을 개정해야 한다'는 응답이 58.3%, '개정할 필요가 없다'는 26.2%, '잘모름'은 15.5%로 나타났다. 지지정당별로 보면 더불어민주당 지지자들은 82.0%가 '개정해야 한다'고 답변했다. '잘모름'이 10.5%, '개정할 필요가 없다'는 7.6%였다. 국민의힘 지지자들 가운데서는 '개정할 필요가 없다'가 55.4%, '개정해야 한다' 27.0%, '잘모름'은 17.6%로 조사됐다. 조국혁신당 지지자들은 '개정해야 한다' 86.8%, '개정할 필요가 없다' 7.1%, '잘모름' 6.2%였다. 개혁신당 지지자들은 '개정해야 한다' 56.2%, '잘모름' 22.7%, '개정할 필요가 없다' 21.0%로 집계됐다. 진보당 지지자들은 '개정할 필요가 없다' 45.5%, '개정해야 한다' 35.6%, '잘모름' 18.8%였다. 무당층은 '개정해야 한다' 59.1%, '잘모름' 26.1%, '개정할 필요가 없다' 14.8%로 나타났다. 지역별로 보면 광주·전남·전북에서 헌법 개정 의지가 강했다. 광주·전남·전북은 69.2%가 '개정해야 한다'고 답변했다. '개정할 필요가 없다'는 21.2%, '잘모름'은 9.6%였다. 이어 강원·제주는 '개정해야 한다' 63.2%, '잘모름' 22.8%, '개정할 필요가 없다' 14.1%였다. 부산·울산·경남도 '개정해야 한다'가 62.2%로 과반을 차지했다. '개정할 필요가 없다'는 24.2%, '잘모름'은 13.6%로 조사됐다. 경기·인천은 '개정해야 한다' 61.1%, '개정할 필요가 없다' 24.5%, '잘모름' 14.4%로 응답했다. 서울은 '개정해야 한다' 57.4%, '개정할 필요가 없다' 27.0%, '잘모름' 15.5%였다. 대전·충청·세종은 '개정해야 한다' 46.4%, '개정할 필요가 없다' 29.8%, '잘모름' 23.8%로 답변했다. 전국에서 헌법 개정 필요성 응답 비율이 가장 낮은 곳은 대구·경북으로 '개정해야 한다' 44.9%, '개정할 필요가 없다' 39.6%, '잘모름' 15.5%로 조사됐다. 연령별로 보면 중장년층에서 헌법 개정 필요성에 공감했다. 40대는 68.8%가 '개정해야 한다'고 대답했다. '개정할 필요가 없다'는 16.2%, '잘모름'은 15.0%였다. 60대는 64.0%가 '개정해야 한다'고 응답했으며 '개정할 필요가 없다'는 26.3%, '잘모름'은 9.7%로 집계됐다. 50대는 '개정해야 한다' 62.7%, '개정할 필요가 없다' 22.8%, '잘모름' 14.5% 순이었다. 30대는 '개정해야 한다' 55.3%, '개정할 필요가 없다' 31.8%, '잘모름' 12.9%로 답변했다. 만18~29세는 '개정해야 한다' 53.1%, '개정할 필요가 없다' 27.4%, '잘모름' 19.5%였다. 70대 이상은 '개정해야 한다' 41.5% '개정할 필요가 없다' 36%, '잘모름' 22.5%로 전 연령 가운데 유일하게 '개정해야 한다'가 과반을 차지하지 못했다. 국정 지지별로는 '잘못하고 있다'는 응답자 중 74.9%가 '개정해야 한다'고 답변했으며 '잘모름'은 13.3%, '개정할 필요가 없다'는 11.9%로 나타났다. 반면 '잘하고 있다'는 응답자 중에서는 62.5%가 '개정할 필요가 없다'고 대답했으며 '개정해야 한다' 18.8%, '잘모름' 18.7%였다. 성별로는 남성은 '개정해야 한다' 65.8%, '개정할 필요가 없다' 29.5%, '잘모름' 15.5%로 조사됐다. 여성은 '개정해야 한다' 50.9%, '개정할 필요가 없다' 29.5%, '잘모름' 19.6%로 나타났다. 김대은 미디어리서치 대표는 "흔히 '1987년 체제'로 불리는 현행 헌법은 40년 가량 시간이 흐르면서 승자독식과 패권정치의 극심한 부작용으로 인해 개헌에 대한 정치권과 국민적 공감대가 높아졌다"고 분석했다. 김 대표는 "보수와 진보 지지층에서 헌법개정을 바라보는 시선이 달라 향후 헌법 개정 논의시 상당한 진통을 겪을 수도 있음을 보여준 결과가 나왔다"고 설명했다. 이번 여론조사는 성·연령·지역별 인구비례 할당 추출 방식으로 추출된 표본을 구조화된 설문지를 이용한 무선(100%) ARS 전화조사 방식으로 실시했으며 응답률은 3.5%, 신뢰수준은 95%, 표본 오차는 ±3.1%p다. 통계보정은 2024년 1월말 행정안전부 주민등록 인구통계를 기준으로 성별, 연령별, 지역별 가중 값을 부여(셀가중)했다. 자세한 내용은 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. right@newspim.com 2024-11-28 06:00
사진
[여론조사] 尹지지율 0.9%p↑, 27.8% [서울=뉴스핌] 박성준 기자 = 윤석열 대통령의 지지율이 소폭 상승해 20%대 중후반을 기록했다는 여론조사 결과가 28일 발표됐다. 종합뉴스통신사 뉴스핌 의뢰로 여론조사 전문업체 미디어리서치가 지난 25일~26일 이틀간 전국 만 18세 이상 남녀 1000명에게 물은 결과 윤 대통령의 국정운영에 대한 긍정평가는 27.8%로 집계됐다. 부정평가는 69.8%로 나타났다. '잘 모름'에 답한 비율은 2.4%다. 긍정평가는 지난 조사에 비해 0.9%포인트(p) 상승했고 부정평가는 1.7%p 하락했다. 긍정평가와 부정평가 간 격차는 42.0%p다. 연령별로 보면 40대에서 긍정평가와 부정평가 격차가 극명하게 드러났다. 만 18세~29세에서 '잘함'은 21.4% '잘 못함' 76.8%였고, 30대에서는 '잘함' 29.5% '잘 못함' 68.3%였다. 40대는 '잘함' 16.2% '잘 못함' 83.0%, 50대는 '잘함' 23.6% '잘 못함' 74.6%로 집계됐다. 60대는 '잘함' 31.8% '잘 못함' 65.9%였고, 70대 이상에서는 '잘함' 48.4% '잘 못함' 45.1%로 집계됐다. 지역별로는 서울 '잘함' 23.9%, '잘 못함'은 73.8%로 집계됐다. 경기·인천 '잘함' 26.0% '잘 못함' 72.8%, 대전·충청·세종 '잘함' 29.8% '잘 못함' 63.6%, 강원·제주 '잘함' 15.4% '잘 못함' 82.1%로 조사됐다. 부산·울산·경남 '잘함' 28.6% '잘 못함' 68.7%, 대구·경북은 '잘함' 47.8% '잘 못함' 49.1%로 집계됐다. 전남·광주·전북은 '잘함' 22.9% '잘 못함' 75.9%로 나타났다. 성별로도 남녀 모두 부정평가가 우세했다. 남성은 '잘함' 23.5% '잘 못함' 74.9%, 여성은 '잘함' 32.1% '잘 못함' 64.6%였다. 김대은 미디어리서치 대표는 "윤석열 대통령의 인적쇄신 약속과 APEC·G20 정상외교 활약, 이재명 대표의 선거법 위반 1심 판결(징역 1년, 집행유예 2년) 때문에 보수층 중심으로 상승세를 보이고 있다"며 "하지만 윤 대통령의 지지율 30% 회복 여부는 국민 눈높이에 맞는 쇄신 인사들의 기용 여부와 김건희 여사 특검 여부에 달렸다"고 평가했다. 그러면서 "이재명 민주당 대표가 위증교사 혐의 재판에서 무죄 판결을 받으며 야권은 김건희 여사 특검·채 상병 사건 관련 국정조사 등 정치적 반격을 노리고 있어 윤 대통령 지지율 상승세 유지가 쉽지만은 않을 것"이라고 덧붙였다. 차재권 부경대 정치외교학과 교수는 "국민 앞에 모습을 드러내고 변화하려는 의지를 형식적으로나마 보여준 게 보수층 결집 효과가 있는 것 같다"며 "(지지율이) 조금 더 오를 수도 있었는데 이재명 대표의 위증교사 혐의 무죄 판결 때문에 소폭 상승하는 데 그친 것 같다"고 분석했다. 이번 여론조사는 성·연령·지역별 인구비례 할당 추출 방식으로 추출된 표본을 구조화된 설문지를 이용한 무선(100%) ARS 전화조사 방식으로 실시했으며 응답률은 3.5%, 표본오차는 95% 신뢰수준에 ±3.1%p다. 통계보정은 2024년 1월말 행정안전부 주민등록 인구통계를 기준으로 성별 연령별 지역별 가중 값을 부여(셀가중)했다. 자세한 내용은 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. parksj@newspim.com 2024-11-28 06:00
안다쇼핑
Top으로 이동