전체기사 최신뉴스 GAM
KYD 디데이

[김정호의 4차혁명 오딧세이] 인공지능도 자아가 있다

기사입력 : 2019년08월12일 08:00

최종수정 : 2019년08월16일 19:30

김정호 교수.

 자아란 무엇인가

고등학교나 사관학교 혹은 대학에서 ‘무감독 시험’을 치르는 경우가 있다. 이 제도를 통해서 학생들은 정직과 신용을 학교에서부터 쌓는 연습을 하게 된다. 또한 명예를 지키는 연습을 한다.

특히 이러한 무감독 시험을 어린 학생 때 경험함으로써 사회에 나가서도 리더로 성장할 수 있고, 더 나아가 사회 전체의 신용 구축의 기초가 된다. 그리고 그까짓 시험 점수 하나 때문에 나와 남을 속이는 나쁜 짓을 하지 않는다는 자존심이 형성된다.

이러한 자존심이 상당 기간 누적되면 결국 자신에 대한 자부심을 느끼게 된다. 사회에 나가서도 불의나 부정직에 당당히 맞서고 정의를 지키는 힘을 기른다. 이렇게 형성된 정당하고 정직한 자신의 모습을 자랑스럽게 생각한다.

이러한 교육 과정은 결국 개인이 사회가 필요로 하는 ‘자아(自我)’를 정립하는 기간으로 본다. 이제 지식을 쌓고 정보를 얻는 것은 인터넷 검색기와 유튜브로도 충분하다. 여기에 더해 인공지능이 인간을 대신해서 판단도 내려주고, 결정도 대신 내려준다.

하지만 아직 인공지능은 자아가 없다. ‘인간의 자아’는 당분간 인간만의 고유 영역이 된다. 그러나 언젠가 ‘인공지능도 자아를 갖게 된다’는 상상은 충분히 현실성 있다.

이러한 인간의 ‘자아’를 글자 그대로 해석한다면 ‘자기 자신을 바라보는 모습’이라고 생각한다. 자기 자신을 바라보는 ‘거울’인 셈이다. 이러한 자아의 형성에 영향을 미치는 요소로는 철학, 종교, 윤리, 이념뿐만 아니라 자신의 신체적 모습도 영향을 미친다.

또한 어릴 때부터 가정과 학교에서 배우는 도덕과 습관, 그리고 법률 등도 다방면으로 영향을 미친다. 그뿐만 아니라 가족, 친구들과의 관계뿐만 아니라 사회적 관계도 중요하다. 최근에는 방송, 미디어뿐만 아니라 SNS, 인터넷 등 범람하는 정보도 자아 형성에 영향을 미친다.

행복한 삶을 위해서는 긍정적이고 자신감 있고 희망적인 자아 형성이 필요하다. 그래야 어려운 상황 속에서도 슬기롭게 난관을 극복할 수 있다. 긍정적인 자아가 높은 사람을 자존감이 높은 사람이라고 부른다. 사회 전체도 자존감을 높일 필요가 있다. 그러면 사회적 신뢰가 높아지고 갈등이 낮아지고 사회적 스트레스를 줄일 수 있다.

마찬가지로 인공지능이 미래에 자아를 갖게 된다면 ‘인공지능 자존감’도 높은 기준으로 심어 줄 필요가 있다.

인간이 자아를 구축하는 구성 요소. [출처=KAIST]

자아 인공지능의 구조

미래에는 인간처럼 인공지능도 ‘인공지능 자아’를 가질 수 있다. 인공지능이 자아를 형성하는 데에도 학습을 위해 입력한 철학, 윤리, 도덕, 이념, 종교 데이터 등이 영향을 미친다. 입력한 데이터가 ‘자아’의 모습을 결정한다.

인공지능에 기독교나 불교를 가르치려면 성경이나 불경을 모두 외우게 하면 된다. 헌법도 책으로 읽어 모두 외울 수 있다. 성리학도 모두 읽어 습득한다. 특정 이념에 관한 책을 모두 인공지능이 읽게 하고 외우게 한다. 이렇게 인공지능이 학습한 후에 테스트 과정을 거치면서 자아를 교정해 나아간다.

이러한 자아 구축을 위한 인공지능망을 가상적으로 자아망(INN: Identity Neural Network)이라고 부를 수 있다. 기존 학습에 추가해서 계속 새로운 상황을 데이터로 입력하고, 자아망을 학습시킨다. 문제를 내고 정답을 계속 점검한다. 답이 틀리면 자아망 속의 가중치(Weight)를 역방향 학습(Back Propagation Training)으로 고쳐 나간다. 일종의 시험을 통해서 일정 점수 이상 나올 때 자아 합격 판정을 줄 수 있다.

이 과정은 인간이 자아를 형성해 나아가는 과정과 똑같다. 인간 사회에서 일어나는 교육 과정과 같다. 그래서 인공지능의 자아를 통제하려면 인공지능 학습에 필요한 데이터를 통제해야 한다. 일종의 교과서를 ‘검정 교과서’로 통제하는 것과 같다. ‘불온 문서’, ‘불법 문서’, ‘불건전 문서’ 등의 입력을 막아야 할지 모른다.

입력 데이터의 선택은 결국 인간만이 할 수 있도록 해야 한다. 진시황제 시대의 ‘갱유분서’와 같은 일이 4차 산업혁명 시기인 인공지능 시대에 재현될 수도 있다. 참으로 놀라운 것은 역사는 돌고 돈다는 사실이다. 인공지능 시대에도 마찬가지이다.

이렇게 인공지능 자아망이 형성되면, 다음으로 자아망이 일반적인 인공지능의 출력을 통제하게 된다. 일반적인 인공지능망에는 영상 인식에 주로 사용되는 CNN, 음성 인식에 사용되는 RNN, 창작품에 사용되는 GAN, 게임을 하듯이 최적의 해법을 찾는 강화학습이 있다.

이들 신경망이 입력을 해석하거나, 판단을 내리거나, 미래를 예측하거나, 창작하거나, 게임의 최적 값을 결정할 때, 혹은 출력 값을 낼 때 자아망이 ‘관리 감독’을 하게 된다. 자아망이 봐서 자신의 자아 모습과 다르면 출력을 거절하거나 행동을 중지하게 한다. 그러면 각각의 인공지능이 다시 출력을 내거나 결정을 재생산하고, 최종적으로 자아망의 허락을 받고 출력을 내게 된다. 일종의 자기 검열이 된다.

이러한 전체 신경망을 ‘자아통제 신경망(SINN; Self-Identity Neural Network)’이라고 부를 수 있다. 이러한 자아통제 신경망을 완성하려면, 신경망의 구조, 학습 방법, 변수의 최적화 등 어려운 과제가 남아 있다. 인공지능망이 더욱 복잡해지기 때문이다. 하지만 언젠가 가능할 것으로 본다. 이는 수학자와 컴퓨터 과학자의 몫이다.

자아 인공지능의 구조를 설명하는 그림. [출처=KAIST]

인공지능이 자아를 가지면

이처럼 인공지능이 자아를 갖게 되면 그 자아에 맞게 행동하고 결정하기 때문에 신뢰와 안정성이 향상된다. 인간을 한층 더 대체하게 된다. 단순한 작업뿐만 아니라 복잡한 인간의 도덕적, 윤리적, 철학적 문제에도 독단적인 결정을 내릴 수 있다. 그 결과 인간이 컴퓨터로부터 점점 더 소외되고 종국에는 컴퓨터에 의해 지배될 수 있다. 더 나아가 인공지능은 인간의 명령을 거부할 수 있고, 인간을 ‘적’으로 규정할 수도 있다.

결국 인공지능의 자아 형성에는 이에 필요한 데이터의 선택이 중요하다. 이처럼 인공지능이 자아를 갖게 된다면, 인공지능 학습에 필요한 데이터의 선택 권리를 인간이 사수해야 한다. 아니면 모든 판단과 결정의 마지막에는 인간의 통제를 받도록 인공지능 알고리즘을 만들어야 한다. 그러한 법률이 필요한 시대가 되었다. 인공지능에 대한 적절한 통제가 필요하다.

자아를 가진 인공지능에 의한 인간 조종은 금지되어야 한다. [출처=KAIST]

 

[김정호 카이스트 전기 및 전자공학과 교수] joungho@kaist.ac.kr

[뉴스핌 베스트 기사]

사진
李대통령 '취임 30일 기자회견' 이유 [서울=뉴스핌] 이영태 선임기자 = 이재명 대통령이 오는 3일 역대 대통령 중 취임 후 가장 짧은 시일인 취임 30일을 기념해 '타운홀미팅' 형식의 기자회견을 개최하는 이유는 '소통'의 자신감이다. 강유정 대통령실 대변인은 지난달 30일 브리핑에서 "이재명 대통령은 취임 30일을 맞는 오는 7월 3일 오전 10시 기자회견을 갖는다"면서 "기자회견은 '대통령의 30일, 언론이 묻고 국민에게 답하다'라는 제목으로 진행되며, 민생경제·정치·외교안보·사회문화 등 분야별로 문답이 이뤄질 예정"이라고 말했다. 이재명 대통령이 27일 '호국보훈의 달'을 맞아 국가유공자 및 보훈가족 등 160여 명을 청와대로 초청해 오찬을 함께하고 있다. 2025.6.27 [사진=대통령실] 강 대변인은 "이번 기자회견은 인수위 없이 출발한 이재명 정부의 국정 운영 조기 안착을 알리고 앞으로의 국정 운영 방향과 주요 정책 등에 대해 활발히 소통하는 자리로 마련될 것"이라고 강조했다. 이어 "기자들과 더욱 가까이 소통하자는 취지에서 '타운홀미팅' 형식으로 회견을 진행할 계획"이라고 덧붙였다. '타운홀미팅'은 조직 구성원들이 모여 자유롭게 의견을 주고받는 회의 형식을 의미한다. 주로 스타트업이나 작은 기업에서 많이 활용되는 타운홀미팅은 미국의 전통적 지역사회 정치 행사에서 유래했으며, 개방적이고 수평적인 소통을 지향한다. 지난 4일 취임한 이 대통령이 취임 30일째를 기념해 여는 기자회견은 1987년 민주화 이후 역대 대통령 중 가장 빠르다. 날수로 따지면 불과 취임 29일 만이다. '소통'과 추진력을 강조하는 이 대통령의 자신감 있는 행보로 풀이된다. 김영삼 전 대통령 이후 역대 대통령들은 취임 100일을 전후해 기자회견을 열어왔다. 김 전 대통령은 1993년 6월 3일 취임 100일을 기념해 청와대 춘추관에서 기자회견을 했다. 김대중 전 대통령도 취임 100일인 1998년 5월 10일 기자회견을 열었고, 노무현 전 대통령은 취임 98일 만인 2003년 6월 2일 기자회견을 가졌다. 이명박 전 대통령은 취임 116일 만인 2008년 6월 19일 회견을 열었으며, 박근혜 전 대통령은 취임 100일 기자회견을 건너뛰고 첫 기자회견을 316일 만에 개최했다. 문재인 전 대통령과 윤석열 전 대통령은 취임 100일 회견을 진행했다. 취임 29일 만에 '30일 기자회견'을 갖는 이 대통령은 대선 후보 시절부터 국민과의 직접 소통을 강조하며 페이스북과 인스타그램, X(옛 트위터) 등 SNS(소셜네스워크서비스, 사회관계망서비스)를 적극 활용하는 등 소통의 중요성을 강조해 왔다. 취임 이후 연일 소통 행보를 이어가고 있는 이 대통령은 지난 16일 주요 7개국(G7) 정상회의 참석을 위해 캐나다로 향하는 대통령 전용기 안에서 예정에 없던 깜짝 기자간담회를 약 20분간 진행했다. 취임 7일째인 지난 10일에는 용산 대통령실 구내매점에서 기자단과 차담회를 가진 데 이어 11일과 12일에도 기자식당과 직원식당에서 일부 출입 기자들과 오찬을 가졌다. 이 대통령은 또 공식 행사를 전후해 예고 없이 전통시장 등을 찾아 시민들을 만나거나 지역 타운홀미팅을 여는 등 '소통 행보'에 열의를 보이고 있다. 지난달 24일 대통령실이 국정 전반에 대해 국민이 질문을 던지면 이 대통령이 직접 답변하는 소통 창구인 '국민사서함'을 운영한다고 밝힌 배경에도 이 대통령의 강한 의지가 담겨 있는 것으로 확인됐다. 대통령실은 보도자료를 통해 "국민 목소리에 귀 기울여 신속히 실천에 옮기겠다는 대통령의 국정 철학이 담겼다"며 "앞으로도 국민이 모든 정책 결정의 중심이 될 수 있도록 지속적으로 소통 창구를 확대하고 국민이 체감할 수 있는 변화를 만들어가겠다"고 설명했다. 대통령실 관계자는 취임 초기에 첫 기자회견을 개최하는 이유에 대해 "이 대통령이 강조하는 '새로운 정부, 일하는 정부'의 면모를 확실하게 보여주려는 취지"라며 "이재명 정부는 이전 정부와 다르다는 인상을 심어줄 것"이라고 말했다. '타운홀미팅' 형식으로 진행되는 기자회견장으로는 청와대 영빈관이 유력 후보로 거론된다. 용산 대통령실과 달리 대규모 인원을 수용할 수 있다는 게 장점이다. 다만 구체적인 기자회견 장소 등 세부 일정은 아직 정해지지 않았다는 게 대통령실 입장이다. 이재명 대통령이 27일 '호국보훈의 달'을 맞아 국가유공자 및 보훈가족 등 160여 명을 청와대로 초청해 오찬을 함께한 자리에서 발언하고 있다. 2025.6.27 [사진=대통령실] medialyt@newspim.com 2025-07-01 06:44
사진
내란 특검, 尹 조사일 변경 요청 거부 [서울=뉴스핌] 김영은 기자 = 내란 특검이 윤석열 전 대통령 측의 소환 조사일 변경 요청을 거부하고, 이번 주 내 출석 일자를 다시 통보할 예정이다. 윤 전 대통령 측이 이에 불응할 경우, 형사소송법상 마지막 조치를 취하겠다고도 예고했다. 박지영 특검보는 30일 오후 5시 30분쯤 브리핑을 열고 "이날 오후 4시쯤 윤 전 대통령의 변호인으로부터 금주의 특정 일자를 지정한 출석 기일 변경 요청서를 접수했다"며 "특검 내부 논의 결과, 기일 변경 요청을 받아들이지 않기로 하고 이를 변호인에게도 통지했다"고 밝혔다. 윤석열 전 대통령 측은 이날 내란 특별검사팀에 2차 소환 조사일을 '7월 5일 이후'로 미뤄달라고 요청했다. 사진은 29일 새벽 1시쯤 서울 서초구 서울고등검찰청에서 1차 소환 조사를 마친 뒤 귀가하는 윤 전 대통령 모습. [사진=이형석 기자] 이어 "내일(7월 1일) 출석에 불응할 경우, 즉시 금주 중에 있는 특정 일자와 시간을 지정해 재차 소환을 통보할 예정이다"라며 "만약 그때도 출석에 응하지 않을 경우 형사소송법상 마지막 단계의 조치를 취할 것이다"고 말했다. 윤 전 대통령 측은 당초 7월 3일 이후 출석을 요청했으나, 최근 의견서를 내고 7월 5일 이후로 출석 일자를 더 늦춰달라고 재요청한 것으로 파악된다. 이후, 윤 전 대통령 측은 한 차례 기일 변경 요청서를 제출함으로써 오는 7월 1일 소환 조사에 참여할 수 없다는 의견을 재차 피력했다. 특검은 7월 4일 또는 5일로 재소환 일정을 확정할 것으로 보인다. 박 특검보는 "금주의 중 정할 특정일자는 4일 또는 5일이 되지 않을까 생각한다"고 말했다. 박 특검보는 '마지막 단계의 조치'와 관련해 해당 내용이 체포영장 청구 이상의 단계가 될 수 있다는 점을 시사했다. 박 특검보는 '마지막 단계로 체포영장 청구가 있는데, 출석 불응 시 검토하는가'라는 취재진의 질문에 "그 부분에 대해서는 당연히 출석을 불응하는 경우에 체포영장이 될 수도 있고, 그 다음 단계가 될 수도 있고 이런 여러가지 고민을 할 수 있다"고 설명했다. '사전 협의가 부족했다'고 주장하는 윤 전 대통령 측의 주장에 대해서는 "윤 전 대통령 측이 의견서를 보내면 특검 측이 검토하고, 이런 (모든) 과정이 협의라고 생각한다"며 "저 쪽(윤 전 대통령 측)의 의견을 수용하는 것만이 협의는 아니다"라고 반박했다. 앞서 내란 특검은 지난 28일 윤 전 대통령에 대한 1차 피의자 조사를 마친 뒤 오는 30일 다시 출석해 조사를 받으라고 통보한 바 있다. 하지만 윤 전 대통령 측은 건강상의 이유, 재판 준비 등을 이유로 7월 3일 이후로 일정을 조정해달라고 요청했다. 이에 특검은 윤 전 대통령 측의 사정 등을 고려해 하루 늦춘 7월 1일로 날짜를 재통보하며 2차 소환조사 출석을 요구했으나, 윤 전 대통령 측은 날짜를 미뤄달라고 이날 다시 요구했다. 특검은 현재 윤 전 대통령 측의 수사 방해 행위를 수사하기 위한 경찰 인력 3명을 경찰청에 요청하는 한편, 오는 1일 2차 소환 조사를 차질 없이 마무리하도록 준비할 방침이다.  yek105@newspim.com 2025-06-30 18:52
안다쇼핑
Top으로 이동