전체기사 최신뉴스 GAM 라씨로
KYD 디데이

[김정호의 4차혁명 오딧세이] 인공지능도 자아가 있다

기사입력 : 2019년08월12일 08:00

최종수정 : 2019년08월16일 19:30

김정호 교수.

 자아란 무엇인가

고등학교나 사관학교 혹은 대학에서 ‘무감독 시험’을 치르는 경우가 있다. 이 제도를 통해서 학생들은 정직과 신용을 학교에서부터 쌓는 연습을 하게 된다. 또한 명예를 지키는 연습을 한다.

특히 이러한 무감독 시험을 어린 학생 때 경험함으로써 사회에 나가서도 리더로 성장할 수 있고, 더 나아가 사회 전체의 신용 구축의 기초가 된다. 그리고 그까짓 시험 점수 하나 때문에 나와 남을 속이는 나쁜 짓을 하지 않는다는 자존심이 형성된다.

이러한 자존심이 상당 기간 누적되면 결국 자신에 대한 자부심을 느끼게 된다. 사회에 나가서도 불의나 부정직에 당당히 맞서고 정의를 지키는 힘을 기른다. 이렇게 형성된 정당하고 정직한 자신의 모습을 자랑스럽게 생각한다.

이러한 교육 과정은 결국 개인이 사회가 필요로 하는 ‘자아(自我)’를 정립하는 기간으로 본다. 이제 지식을 쌓고 정보를 얻는 것은 인터넷 검색기와 유튜브로도 충분하다. 여기에 더해 인공지능이 인간을 대신해서 판단도 내려주고, 결정도 대신 내려준다.

하지만 아직 인공지능은 자아가 없다. ‘인간의 자아’는 당분간 인간만의 고유 영역이 된다. 그러나 언젠가 ‘인공지능도 자아를 갖게 된다’는 상상은 충분히 현실성 있다.

이러한 인간의 ‘자아’를 글자 그대로 해석한다면 ‘자기 자신을 바라보는 모습’이라고 생각한다. 자기 자신을 바라보는 ‘거울’인 셈이다. 이러한 자아의 형성에 영향을 미치는 요소로는 철학, 종교, 윤리, 이념뿐만 아니라 자신의 신체적 모습도 영향을 미친다.

또한 어릴 때부터 가정과 학교에서 배우는 도덕과 습관, 그리고 법률 등도 다방면으로 영향을 미친다. 그뿐만 아니라 가족, 친구들과의 관계뿐만 아니라 사회적 관계도 중요하다. 최근에는 방송, 미디어뿐만 아니라 SNS, 인터넷 등 범람하는 정보도 자아 형성에 영향을 미친다.

행복한 삶을 위해서는 긍정적이고 자신감 있고 희망적인 자아 형성이 필요하다. 그래야 어려운 상황 속에서도 슬기롭게 난관을 극복할 수 있다. 긍정적인 자아가 높은 사람을 자존감이 높은 사람이라고 부른다. 사회 전체도 자존감을 높일 필요가 있다. 그러면 사회적 신뢰가 높아지고 갈등이 낮아지고 사회적 스트레스를 줄일 수 있다.

마찬가지로 인공지능이 미래에 자아를 갖게 된다면 ‘인공지능 자존감’도 높은 기준으로 심어 줄 필요가 있다.

인간이 자아를 구축하는 구성 요소. [출처=KAIST]

자아 인공지능의 구조

미래에는 인간처럼 인공지능도 ‘인공지능 자아’를 가질 수 있다. 인공지능이 자아를 형성하는 데에도 학습을 위해 입력한 철학, 윤리, 도덕, 이념, 종교 데이터 등이 영향을 미친다. 입력한 데이터가 ‘자아’의 모습을 결정한다.

인공지능에 기독교나 불교를 가르치려면 성경이나 불경을 모두 외우게 하면 된다. 헌법도 책으로 읽어 모두 외울 수 있다. 성리학도 모두 읽어 습득한다. 특정 이념에 관한 책을 모두 인공지능이 읽게 하고 외우게 한다. 이렇게 인공지능이 학습한 후에 테스트 과정을 거치면서 자아를 교정해 나아간다.

이러한 자아 구축을 위한 인공지능망을 가상적으로 자아망(INN: Identity Neural Network)이라고 부를 수 있다. 기존 학습에 추가해서 계속 새로운 상황을 데이터로 입력하고, 자아망을 학습시킨다. 문제를 내고 정답을 계속 점검한다. 답이 틀리면 자아망 속의 가중치(Weight)를 역방향 학습(Back Propagation Training)으로 고쳐 나간다. 일종의 시험을 통해서 일정 점수 이상 나올 때 자아 합격 판정을 줄 수 있다.

이 과정은 인간이 자아를 형성해 나아가는 과정과 똑같다. 인간 사회에서 일어나는 교육 과정과 같다. 그래서 인공지능의 자아를 통제하려면 인공지능 학습에 필요한 데이터를 통제해야 한다. 일종의 교과서를 ‘검정 교과서’로 통제하는 것과 같다. ‘불온 문서’, ‘불법 문서’, ‘불건전 문서’ 등의 입력을 막아야 할지 모른다.

입력 데이터의 선택은 결국 인간만이 할 수 있도록 해야 한다. 진시황제 시대의 ‘갱유분서’와 같은 일이 4차 산업혁명 시기인 인공지능 시대에 재현될 수도 있다. 참으로 놀라운 것은 역사는 돌고 돈다는 사실이다. 인공지능 시대에도 마찬가지이다.

이렇게 인공지능 자아망이 형성되면, 다음으로 자아망이 일반적인 인공지능의 출력을 통제하게 된다. 일반적인 인공지능망에는 영상 인식에 주로 사용되는 CNN, 음성 인식에 사용되는 RNN, 창작품에 사용되는 GAN, 게임을 하듯이 최적의 해법을 찾는 강화학습이 있다.

이들 신경망이 입력을 해석하거나, 판단을 내리거나, 미래를 예측하거나, 창작하거나, 게임의 최적 값을 결정할 때, 혹은 출력 값을 낼 때 자아망이 ‘관리 감독’을 하게 된다. 자아망이 봐서 자신의 자아 모습과 다르면 출력을 거절하거나 행동을 중지하게 한다. 그러면 각각의 인공지능이 다시 출력을 내거나 결정을 재생산하고, 최종적으로 자아망의 허락을 받고 출력을 내게 된다. 일종의 자기 검열이 된다.

이러한 전체 신경망을 ‘자아통제 신경망(SINN; Self-Identity Neural Network)’이라고 부를 수 있다. 이러한 자아통제 신경망을 완성하려면, 신경망의 구조, 학습 방법, 변수의 최적화 등 어려운 과제가 남아 있다. 인공지능망이 더욱 복잡해지기 때문이다. 하지만 언젠가 가능할 것으로 본다. 이는 수학자와 컴퓨터 과학자의 몫이다.

자아 인공지능의 구조를 설명하는 그림. [출처=KAIST]

인공지능이 자아를 가지면

이처럼 인공지능이 자아를 갖게 되면 그 자아에 맞게 행동하고 결정하기 때문에 신뢰와 안정성이 향상된다. 인간을 한층 더 대체하게 된다. 단순한 작업뿐만 아니라 복잡한 인간의 도덕적, 윤리적, 철학적 문제에도 독단적인 결정을 내릴 수 있다. 그 결과 인간이 컴퓨터로부터 점점 더 소외되고 종국에는 컴퓨터에 의해 지배될 수 있다. 더 나아가 인공지능은 인간의 명령을 거부할 수 있고, 인간을 ‘적’으로 규정할 수도 있다.

결국 인공지능의 자아 형성에는 이에 필요한 데이터의 선택이 중요하다. 이처럼 인공지능이 자아를 갖게 된다면, 인공지능 학습에 필요한 데이터의 선택 권리를 인간이 사수해야 한다. 아니면 모든 판단과 결정의 마지막에는 인간의 통제를 받도록 인공지능 알고리즘을 만들어야 한다. 그러한 법률이 필요한 시대가 되었다. 인공지능에 대한 적절한 통제가 필요하다.

자아를 가진 인공지능에 의한 인간 조종은 금지되어야 한다. [출처=KAIST]

 

[김정호 카이스트 전기 및 전자공학과 교수] joungho@kaist.ac.kr

[뉴스핌 베스트 기사]

사진
서울 시내버스 파업 돌입···지하철역 연계 무료 셔틀 480회 투입 [서울=뉴스핌] 이경화 기자 = 서울지방노동위원회 조정회의에도 불구하고 서울시내버스 노사 간 임금협상이 결렬됨에 따라 서울시는 28일 오전 4시 첫차부터 즉시 비상수송대책 시행에 들어갔다. 서울시는 파업에 대비해 전날인 27일 시·구 비상수송대책본부를 중심으로 교통대책을 마련했고 이날 대체 교통수단을 즉시 투입한다고 밝혔다. [서울=뉴스핌] 정일구 기자 = 서울시가 시내버스 파업에 대비해 28일 오전 4시 첫차부터 비상수송대책 시행에 들어갔다. 서울역 버스종합환승센터 모습. 지하철은 출퇴근 시간대 1시간을 연장하고 심야 운행시간도 다음날 새벽 2시까지 1시간 연장한다. 지하철역과의 연계를 위해 25개 자치구에서는 무료 셔틀버스 총 480대를 투입해 시민 불편을 최소화한다. 지하철 혼잡시간은 오전 7~10시, 오후 6~9시로 조정돼 열차가 추가 투입되고 막차시간은 종착역 기준 익일 2:00까지 연장돼 총 202회 증회된다. 지하철 연계를 위한 무료 셔틀버스는 총 119개 노선, 480대가 빠르게 투입돼 1일 총 4959회 운행된다. 보광운수, 정평운수, 원버스 12개 노선은 정상운행된다. 또 다산콜재단, 교통정보센터 토피스, 서울시 매체, 정류소의 버스정보안내단말기 등을 통해 실시간 교통정보도 제공할 예정이다. 윤종장 서울시 도시교통실장은 "조속한 시일 내에 원만한 노사 합의를 도출하기 위해 총력을 기울일 것"이라며 "가용 가능한 모든 교통수단을 동원해 시민 불편을 최소화 하겠다"고 말했다.  kh99@newspim.com 2024-03-28 07:42
사진
이재명 47.2% vs 원희룡 43.6%···'계양을' 오차범위 내 초접전 [서울=뉴스핌] 홍석희 기자 = 4·10 총선 최대 격전지인 '명룡대전' 인천 계양을에서 이재명 더불어민주당 후보와 원희룡 국민의힘 후보가 3.6%포인트(p) 격차로 초접전을 벌이는 것으로 28일 나타났다. 종합뉴스통신사 뉴스핌 의뢰로 여론조사 전문기관 미디어리서치가 지난 25~26일 인천 계양구 을 선거구 만 18세 이상 남녀 501명에게 총선에서 어떤 후보를 지지하는지 물어본 결과 이 후보가 47.2%, 원 후보가 43.6%를 기록했다. 두 후보의 격차는 오차범위 안쪽인 3.6%p였다. 뒤이어 최창원 내일로미래로 후보 2.4%, 안정권 무소속 후보 1.7% 순이었다. '지지 후보 없음'은 4.4%, '잘 모름'은 0.8%였다. 성별로는 남성에서 이 후보가 49.6%, 원 후보가 40.6%의 지지를 받았고 여성에서는 이 후보가 44.9%, 원 후보가 46.5%로 나타났다. 연령별로 살펴보면 이 후보는 만18세~29세, 40대, 50대에서 원 후보를 앞섰다. 만18세~29세에서 이 후보는 40.1%, 원 후보는 31.2%였고 40대에선 이 후보 60.9%, 원 후보 36.5%로 나타났다. 50대에선 이 후보 54.1%, 원 후보 41.6%였다. 원 후보는 30대, 60대, 70대 이상에서 강세를 보였다. 30대에서 이 후보가 40.4%, 원 후보가 48.8%였고 60대에선 이 후보 44.7%, 원 후보 47.9%로 집계됐다. 70대 이상에선 이 후보 35.2%, 원 후보 63.5%로 격차가 벌어졌다. 권역별로는 큰 차이를 보이지 않았다. 1권역(계산 2동·계산 4동·작전서운동)과 2권역(계양 1동·계양 2동·계양 3동) 모두 이 후보가 앞섰다. 1권역에선 이 후보가 46.5%, 원 후보가 42.8%였고 2권역에선 이 후보 47.9%, 원 후보 44.3%로 나타났다. 지지 정당별로 살펴보면 민주당·조국혁신당 지지층에선 이 후보가, 국민의힘·개혁신당·새로운미래 지지층에선 원 후보가 선두였다. 민주당 지지층에선 이 후보 91%, 원 후보 4.2%였고 국민의힘 지지층에선 이 후보 3.3%, 원 후보 93.4%였다. 조국혁신당 지지층에선 이 후보 91.6%, 원 후보 2.7%였으며 개혁신당 지지층에선 이 후보 11%, 원 후보 61.8%였고 새로운미래 지지층은 이 후보 4.1%, 원 후보 60.6%로 나타났다. '지지 정당이 없다'고 답한 무당층의 경우 이 후보 21%, 원 후보 26.4%를 기록했다. '당선 가능성' 조사에선 두 후보 간 격차가 지지율 조사보다 벌어졌다. '지지 여부를 떠나, 어느 후보가 당선될 것으로 생각하느냐'고 묻자 이 후보는 53.7%, 원 후보는 38.7%를 기록해 15%p 격차를 기록했다. 이번 여론조사는 구조화된 설문지를 이용한 유무선 ARS 전화조사로 이뤄졌으며 통신사에서 제공한 무선 가상번호에서 무작위로 추출한 무선 90%와 15개 주요국번 RDD 유선 10%를 활용했다. 표본오차는 95% 신뢰수준에 ±4.4%p고 응답률은 6.2%다. 2023년 12월 말 행정안전부 주민등록 인구통계를 기준으로 성, 연령대, 지역별 가중치(셀가중)를 부여했다.  보다 자세한 내용은 중앙선거여론조사심의위원회 여론조사 결과 등록현황을 참고하면 된다. hong90@newspim.com 2024-03-28 06:00
안다쇼핑
Top으로 이동