전체기사 최신뉴스 GAM 라씨로
KYD 디데이
산업 전기·전자

속보

더보기

[김정호의 4차혁명 오딧세이] 설명 불가능한 인공지능 작동 원리의 비밀

기사입력 : 2019년01월07일 14:00

최종수정 : 2019년01월07일 14:00

인공지능은 암호 숫자 모음

인공지능의 알고리즘 중에서 최근 가장 많이 사용하는 알고리즘이 딥러닝(DNN, Deep Neural Network)이라고 한다. 인간의 뇌 신경망을 모방해서 수학적 모델을 세우고 컴퓨터 코딩으로 구현한다.

 김정호 카이스트 교수

이 딥러닝 신경망은 여러 개의 층(Layer)으로 이루어져 있는데, 그 층 숫자가 증가할수록 성능과 정확성이 높아진다. 그래서 "깊다"라는 의미를 가진 '딥'(Deep)이라는 표현이 나온다. 다른 말로 딥러닝을 심층학습(深層學習)이라고 부르기도 한다. 다량의 데이터나 복잡한 자료들 속에서 핵심적인 내용 또는 기능을 추출해내는 기계학습(Machine Learning) 알고리즘의 일종이다.

기계학습은 큰 틀에서 사람의 사고방식을 컴퓨터에게 가르치는 분야라고 이야기할 수 있다. 이 딥러닝이 성공할 수 있었던 배경에는 컴퓨터와 반도체의 성능향상과 인터넷에 널린 빅데이터의 도움이 결정적이다.

2012년 스탠포드 대학의 앤드류 응 교수와 구글이 함께 한 딥 러닝 프로젝트에서는 1만6000개의 컴퓨터 프로세서와 10억 개 이상의 신경망과 딥러닝을 이용하여 유튜브에 업로드 되어 있는 천만 개 넘는 비디오 중 고양이 인식에 성공하였다.

이 딥러닝에는 입력층(Input layer)과 출력층(Output layer) 사이에 여러 개의 은닉층(Hidden layer)들로 이루어져 있다. 이 딥러닝은 복잡한 비선형 관계(Non-linear relationship)들을 모델링할 수 있다.

뇌의 동작은 비선형적이기 때문이다. 이 딥러닝 알고리즘에는 각 층에 설치된 수천 혹은 수천 만개의 신경세포(Node)가 서로 연결망의 선으로 연결되어 있다. 그리고 이 연결망을 통해서 각 층을 지나면서 출력이 전달될 때, 가중치(w, weight)가 곱해진다. 이때 각 신경세포(Node)에서 입력 값이 합해지게 되는데, 그 합이 일정 값이 넘으면 다음 단계로 출력으로 전달된다. 그래서 딥러닝 신경망에는 수많은 변수(Parameters)가 존재한다. 이러한 변수들은 인공지능이 빅데이터를 이용해 학습하면서 정해간다. 다름 아니라 이 변수들을 정해가는 과정을 학습이라고 한다.

이 학습과정에서 최종 출력 값인 결과와 미리 정해진 정답과 비교하면서 변수를 학습해 간다. 예를 들어 인공지능이 사진을 판독한다면, 입력이 사진이고 최종 출력이 판독이다. 사진을 넣어 주면서 결과를 뽑아 호랑이인지 고양이 인지 판정하게 되는데, 이 과정을 전진방향 전파 학습(Forward Propagation) 이라고 한다. 이 결과에 오차가 생겼을 때, 그 결과의 차이를 보고, 다시 꺼꾸로 변수를 정해가는 과정을 역방향 전파 학습(Back Propagation) 이라고 한다. 이처럼 결과 오류의 차이를 이용해 변수를 정해서 전해간다. 이렇게 답을 알려주면서 학습하는 방법을 지도학습(Supervised Learning) 이라 한다.

이렇게 인공지능에서 학습을 통해서 정해진 변수 값들을 행렬이나 테이블로 쭉 나열해 볼 수 있다. 그런데 놀랍게도 그 숫자들의 의미를 전혀 찾을 수가 없다. 인간에게 단순한 숫자의 나열에 불과하다. 그 숫자의 의미를 찾아 보려고 노력하지만 그 의미를 찾을 수 없다. 그래서 필자는 "설명 가능한 인공지능은 없다"고 말한다.

인공지능 신경망 딥러닝의 구조. 입력층(Input layer), 내부층(Hidden Layer), 그리고 출력층(Output layer)으로 연결망이 이루어져있다. [출처: KAIST]
인공지능 딥러닝 알고리즘에서 전진학습 과정(Forward Propagation)과 가중치 변수(w)들, [출처: KAIST]


인공지능 작동원리, 아직은 설명 가능하지 않아 

미국 국방성 고급 연구기관인 DARPA(Defense Advanced Research Projects Agency)는 방위 고등 연구 계획국의 약자이며, 미국 국방성의 연구, 개발 부문을 담당하고 있다. 인터넷의 원형을 개발한 것으로 잘 알려져 있다. 이 DARPA에서 인공지능을 이해하고 설명해 보려는 프로젝트를 진행하고 있다.

인공지능이 인간을 대신해서 전쟁을 수행하고 공격한다면 인간에게 매우 위협적이다. 핵 무기보다 무섭다. 잘못하면 인류의 종말이 가까이 올 수 있다. 그래서 국방 무기에 인공지능을 적용할 때 많은 우려를 갖는다. 이러한 배경으로 미국 국방부에서는 인공지능을 충분히 신뢰하기 위해서는 인공지능 내부와 결정과정을 이해하고 설명할 수 있어야 한다고 보는 것이다. 그런데 필자는 성공할 수 없는 프로젝트라고 본다.

인공지능은 수많은 데이터로 학습한 이후, 호랑이와 고양이 사진을 구별할 수 있다. 그런데 왜 그런지 인공지능 내부를 설명할 수 없다. 그리고 미래 인공지능은 쌍둥이도 구별하고, 같은 사람이 나이 들어도 알 수 있다. 가족도 찾아 낸다. 화장하더라도 같은 사람을 찾아 낼 수 있다.

이러한 구분은 '인간 아기'가 2~3세만 되어도 호랑이와 고양이 사진을 구별해내는 것과 유사하다. 방향이 돌려지고, 조명이 바뀌어도 찾아 낸다. 그런데 아기가 설명할 수는 없다. 설명할 수 없는 직관으로 찾아 낸다. 그래서 인공지능 내부는 직관이자 블랙박스이다.

인공지능 강화학습(Reinforcement Learning)을 통해서 얻어진 숫자 4x6 행렬(Q 값), [출처: KAIST]


인공지능, 신의 언어일까? 외계인의 언어일까?

인공지능에서 충분한 데이터로 학습하면 내부는 모르지만 입력을 하면 정답이 나오고 최적 값이, 그리고 판정이 나온다. 그래서 필자는 ‘인공지능이 신의 언어 혹은 외계인 언어’일수도 있다고 본다.

당분간 이해하거나 설명하려는 인간의 노력은 무의미하다. 어쩌다 반도체와 컴퓨터가 성능이 발전하고, 데이터가 많아 지면서 알게 된 비밀일 것 같다. 인공지능은 인간과 외계인과의 대화 물꼬를 틀지도 모른다.

4차 산업혁명의 동력인 반도체가 양자역학 원리에 의해서 동작한다. 양자 역학도 불확실성에 기반하고 확률을 구하는 물리이다. 기존 인간의 확정적 경험 세계로는 절대 설명할 수 없다. 그냥 받아 들여야 한다.

양자적 불연속 에너지 현상, 존재의 불확실성, 배타성 (Exclusion Principle) 등은 인간의 실 생활에서 찾아 볼 수 없다. 원자 세계에서만 나타나는 현상이다. 그래서 양자역학과 인공지능 모두 미지의 세계이고 상상의 세계이다. 4차 산업혁명 개념과 실제도 그래서 어렵다. 그 물결을 받아 들이고 파도를 타야 한다.

외계인의 이미지. [출처: 허핑턴포스트코리아 ]

 

joungho@kaist.ac.kr  


[김정호 카이스트 전기 및 전자공학과 교수] 

 

[뉴스핌 베스트 기사]

사진
가수 휘성, 자택서 숨진 채 발견 [서울=뉴스핌] 양태훈 기자 = 가수 휘성(42·본명 최휘성)이 10일 서울 자택에서 숨진 채 발견돼 경찰이 수사에 나섰다. 서울 광진경찰서에 따르면 이날 오후 6시 29분께 휘성이 서울 광진구 소재 아파트에서 호흡이 없는 상태로 쓰러져 있다는 가족의 신고가 접수됐다. 출동한 소방당국은 현장에 도착했을 때 휘성이 이미 사망한 상태였다고 밝혔다. 가수 휘성. [사진=뉴스핌DB] 경찰 관계자는 "현재까지 외부 침입 흔적 등 타살 혐의점은 발견되지 않았다"며 "정확한 사망 시각과 유서 존재 여부 등 구체적인 사망 경위를 조사하고 있다"고 말했다. 경찰은 국립과학수사연구원에 부검을 의뢰해 정확한 사인을 규명할 예정이다. 한편, 휘성의 소속사 타조엔터테인먼트는 이날 "휘성이 서울 자택에서 심정지 상태로 발견된 후 사망 판정을 받았다"고 밝혔다. 소속사는 "갑작스러운 비보에 유가족을 비롯한 타조엔터테인먼트 동료 아티스트 및 임직원 모두 비통한 심정으로 고인을 애도하고 있다"며 "큰 충격과 슬픔에 빠진 유가족을 위해 확인되지 않은 루머와 추측성 보도는 자제해 주시길 간곡히 부탁드린다"고 당부했다. 휘성은 2002년 1집 '라이크 어 무비'로 데뷔해 '안되나요', '불치병', '결혼까지 생각했어' 등 다수의 히트곡을 발표하며 알앤비(R&B) 가수로 큰 사랑을 받았다. 윤하의 '비밀번호 486', 이효리의 '헤이 미스터 빅' 등의 작사도 맡았다. 소속사는 장례에 관한 내용은 추후 별도로 안내하겠다고 밝혔다. ※ 우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 ☎109 또는 자살예방SNS상담 "마들랜"에서 24시간 전문가의 상담을 받을 수 있습니다.dconnect@newspim.com 2025-03-10 21:27
사진
신지애, 135억 JLPGA 통산 상금 1위 [서울=뉴스핌] 박상욱 기자 = 올해로 프로 20년째를 맞이한 '골프 지존' 신지애(37)가 일본 여자 프로골프(JLPGA) 통산 상금왕이라는 또 하나의 금자탑을 세웠다. 신지애는 9일(한국시간) 일본 오키나와현 류큐 골프클럽(파72)에서 열린 JLPGA 시즌 개막전 다이킨 오키드 레이디스 골프토너먼트(총상금 1억2000만엔) 최종 라운드에서 3언더파 69타를 쳐 최종 합계 6언더파 282타로 공동 2위를 차지했다. 공동 준우승 상금 872만엔을 받은 신지애는 13억8074만3405엔(135억3708만원)을 쌓아 후도 유리(13억7262만382엔·일본)를 제치고 JLPGA투어 통산 상금왕에 올랐다. 이날 JLPGA 투어 300번째 출전 경기에 나선 신지애는 한때 공동 선두에 나서 개인 통산 66번째 우승과 JLPGA 투어 통산 31번째 우승을 바라보기도 했다. 후도가 총 495개 JLPGA 투어에서 거둔 통산 상금을 신지애는 300번째 경기에서 뛰어넘었다. 오는 10월 만 49세가 되는 후도는 JLPGA 투어에서 50승을 거둬 영구 시드를 지녀 대회 출전은 계속하고 있지만 컷 통과조차 버거워 그동안 상금을 거의 보태지 못했다. 이번 대회에서도 후도는 공동 83위로 컷을 통과하지 못해 신지애는 2라운드 컷 통과 뒤 이미 통산 상금왕을 예약했었다. 신지애. [사진 = JLPGA] 지난해 파리 올림픽 출전권을 따려고 미국여자프로골프(LPGA) 투어 원정에 많이 출전한 신지애는 올해는 그동안 숙원이던 JLPGA 투어 상금왕을 노리고 JLPGA 투어에 전념할 계획이라서 JLPGA 투어 통상 상금 1위는 당분간 독주할 전망이다. JLPGA 투어 통산 상금 3위는 586경기에서 13억1983만엔을 쌓은 전미정, 4위는 610경기에서 12억5661만엔을 벌어들인 이지희, 5위는 255개 대회에 11억엔을 번 안선주다. 이들은 최근 거의 대회에 나서지 않는다. 이날 우승컵은 쌍둥이 골프 자매 중 동생인 이와이 치사토가 차지했다. 지난달 혼다 LPGA 타일랜드에서 준우승을 차지한 이와이는 최종 합계 10언더파 278타로 2년 연속 우승했다. 쌍둥이 언니 이와이 아키에는 공동 7위(3언더파 285타)에 올랐다. 신지애는 타고난 재능에 부단한 노력과 뜨거운 열정을 더해 슬럼프 없이 20년 넘게 세계 여자 골프계를 주름잡고 있다. 2006년 KLPGA투어로 프로 생활을 시작해 2009년 미국여자프로골프(LPGA) 투어에 진출해 활약했고, 2014년 JLPGA투어로 활동 무대를 옮겼다. 신지애. [사진 = LPGA] 미국여자프로골프(LPGA) 투어 11승, 레이디스 유러피언 투어 6승, JLPGA 투어 30승, KLPGA 투어 21승, 호주여자프로골프 5승을 거뒀고 레이디스 아시안 투어에서도 한 차례 정상에 올랐다. 이를 더하면 74승이 되지만 공동 주관 대회가 있기 때문에 통산 우승 횟수는 65승이다. 한국 남녀 골퍼를 통틀어 프로 대회 최다 우승 기록이다. 37세의 나이에 신지애가 리빙 레전드로 활약하는 원동력은 강한 멘털과 집중력이다. 지난해 메이저대회 AIG여자오픈에서 준우승하며 건재를 과시했고 생애 마지막이 될 가능성이 큰 파리 올림픽에 도전하기도 했다. 신지애는 올해도 일본뿐 아니라 호주, 대만에서 정상급 경기력을 뽐내고 있다.   psoq1337@newspim.com 2025-03-09 14:52
안다쇼핑
Top으로 이동