전체기사 최신뉴스 GAM
KYD 디데이
홈 산업 생활경제

속보

더보기

[김정호의 4차혁명 오딧세이] 인공지능도 자아가 있다

기사입력 :

최종수정 :

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

김정호 교수.

 자아란 무엇인가

고등학교나 사관학교 혹은 대학에서 ‘무감독 시험’을 치르는 경우가 있다. 이 제도를 통해서 학생들은 정직과 신용을 학교에서부터 쌓는 연습을 하게 된다. 또한 명예를 지키는 연습을 한다.

특히 이러한 무감독 시험을 어린 학생 때 경험함으로써 사회에 나가서도 리더로 성장할 수 있고, 더 나아가 사회 전체의 신용 구축의 기초가 된다. 그리고 그까짓 시험 점수 하나 때문에 나와 남을 속이는 나쁜 짓을 하지 않는다는 자존심이 형성된다.

이러한 자존심이 상당 기간 누적되면 결국 자신에 대한 자부심을 느끼게 된다. 사회에 나가서도 불의나 부정직에 당당히 맞서고 정의를 지키는 힘을 기른다. 이렇게 형성된 정당하고 정직한 자신의 모습을 자랑스럽게 생각한다.

이러한 교육 과정은 결국 개인이 사회가 필요로 하는 ‘자아(自我)’를 정립하는 기간으로 본다. 이제 지식을 쌓고 정보를 얻는 것은 인터넷 검색기와 유튜브로도 충분하다. 여기에 더해 인공지능이 인간을 대신해서 판단도 내려주고, 결정도 대신 내려준다.

하지만 아직 인공지능은 자아가 없다. ‘인간의 자아’는 당분간 인간만의 고유 영역이 된다. 그러나 언젠가 ‘인공지능도 자아를 갖게 된다’는 상상은 충분히 현실성 있다.

이러한 인간의 ‘자아’를 글자 그대로 해석한다면 ‘자기 자신을 바라보는 모습’이라고 생각한다. 자기 자신을 바라보는 ‘거울’인 셈이다. 이러한 자아의 형성에 영향을 미치는 요소로는 철학, 종교, 윤리, 이념뿐만 아니라 자신의 신체적 모습도 영향을 미친다.

또한 어릴 때부터 가정과 학교에서 배우는 도덕과 습관, 그리고 법률 등도 다방면으로 영향을 미친다. 그뿐만 아니라 가족, 친구들과의 관계뿐만 아니라 사회적 관계도 중요하다. 최근에는 방송, 미디어뿐만 아니라 SNS, 인터넷 등 범람하는 정보도 자아 형성에 영향을 미친다.

행복한 삶을 위해서는 긍정적이고 자신감 있고 희망적인 자아 형성이 필요하다. 그래야 어려운 상황 속에서도 슬기롭게 난관을 극복할 수 있다. 긍정적인 자아가 높은 사람을 자존감이 높은 사람이라고 부른다. 사회 전체도 자존감을 높일 필요가 있다. 그러면 사회적 신뢰가 높아지고 갈등이 낮아지고 사회적 스트레스를 줄일 수 있다.

마찬가지로 인공지능이 미래에 자아를 갖게 된다면 ‘인공지능 자존감’도 높은 기준으로 심어 줄 필요가 있다.

인간이 자아를 구축하는 구성 요소. [출처=KAIST]

자아 인공지능의 구조

미래에는 인간처럼 인공지능도 ‘인공지능 자아’를 가질 수 있다. 인공지능이 자아를 형성하는 데에도 학습을 위해 입력한 철학, 윤리, 도덕, 이념, 종교 데이터 등이 영향을 미친다. 입력한 데이터가 ‘자아’의 모습을 결정한다.

인공지능에 기독교나 불교를 가르치려면 성경이나 불경을 모두 외우게 하면 된다. 헌법도 책으로 읽어 모두 외울 수 있다. 성리학도 모두 읽어 습득한다. 특정 이념에 관한 책을 모두 인공지능이 읽게 하고 외우게 한다. 이렇게 인공지능이 학습한 후에 테스트 과정을 거치면서 자아를 교정해 나아간다.

이러한 자아 구축을 위한 인공지능망을 가상적으로 자아망(INN: Identity Neural Network)이라고 부를 수 있다. 기존 학습에 추가해서 계속 새로운 상황을 데이터로 입력하고, 자아망을 학습시킨다. 문제를 내고 정답을 계속 점검한다. 답이 틀리면 자아망 속의 가중치(Weight)를 역방향 학습(Back Propagation Training)으로 고쳐 나간다. 일종의 시험을 통해서 일정 점수 이상 나올 때 자아 합격 판정을 줄 수 있다.

이 과정은 인간이 자아를 형성해 나아가는 과정과 똑같다. 인간 사회에서 일어나는 교육 과정과 같다. 그래서 인공지능의 자아를 통제하려면 인공지능 학습에 필요한 데이터를 통제해야 한다. 일종의 교과서를 ‘검정 교과서’로 통제하는 것과 같다. ‘불온 문서’, ‘불법 문서’, ‘불건전 문서’ 등의 입력을 막아야 할지 모른다.

입력 데이터의 선택은 결국 인간만이 할 수 있도록 해야 한다. 진시황제 시대의 ‘갱유분서’와 같은 일이 4차 산업혁명 시기인 인공지능 시대에 재현될 수도 있다. 참으로 놀라운 것은 역사는 돌고 돈다는 사실이다. 인공지능 시대에도 마찬가지이다.

이렇게 인공지능 자아망이 형성되면, 다음으로 자아망이 일반적인 인공지능의 출력을 통제하게 된다. 일반적인 인공지능망에는 영상 인식에 주로 사용되는 CNN, 음성 인식에 사용되는 RNN, 창작품에 사용되는 GAN, 게임을 하듯이 최적의 해법을 찾는 강화학습이 있다.

이들 신경망이 입력을 해석하거나, 판단을 내리거나, 미래를 예측하거나, 창작하거나, 게임의 최적 값을 결정할 때, 혹은 출력 값을 낼 때 자아망이 ‘관리 감독’을 하게 된다. 자아망이 봐서 자신의 자아 모습과 다르면 출력을 거절하거나 행동을 중지하게 한다. 그러면 각각의 인공지능이 다시 출력을 내거나 결정을 재생산하고, 최종적으로 자아망의 허락을 받고 출력을 내게 된다. 일종의 자기 검열이 된다.

이러한 전체 신경망을 ‘자아통제 신경망(SINN; Self-Identity Neural Network)’이라고 부를 수 있다. 이러한 자아통제 신경망을 완성하려면, 신경망의 구조, 학습 방법, 변수의 최적화 등 어려운 과제가 남아 있다. 인공지능망이 더욱 복잡해지기 때문이다. 하지만 언젠가 가능할 것으로 본다. 이는 수학자와 컴퓨터 과학자의 몫이다.

자아 인공지능의 구조를 설명하는 그림. [출처=KAIST]

인공지능이 자아를 가지면

이처럼 인공지능이 자아를 갖게 되면 그 자아에 맞게 행동하고 결정하기 때문에 신뢰와 안정성이 향상된다. 인간을 한층 더 대체하게 된다. 단순한 작업뿐만 아니라 복잡한 인간의 도덕적, 윤리적, 철학적 문제에도 독단적인 결정을 내릴 수 있다. 그 결과 인간이 컴퓨터로부터 점점 더 소외되고 종국에는 컴퓨터에 의해 지배될 수 있다. 더 나아가 인공지능은 인간의 명령을 거부할 수 있고, 인간을 ‘적’으로 규정할 수도 있다.

결국 인공지능의 자아 형성에는 이에 필요한 데이터의 선택이 중요하다. 이처럼 인공지능이 자아를 갖게 된다면, 인공지능 학습에 필요한 데이터의 선택 권리를 인간이 사수해야 한다. 아니면 모든 판단과 결정의 마지막에는 인간의 통제를 받도록 인공지능 알고리즘을 만들어야 한다. 그러한 법률이 필요한 시대가 되었다. 인공지능에 대한 적절한 통제가 필요하다.

자아를 가진 인공지능에 의한 인간 조종은 금지되어야 한다. [출처=KAIST]

 

[김정호 카이스트 전기 및 전자공학과 교수] joungho@kaist.ac.kr

[뉴스핌 베스트 기사]

사진
'마이 케이팝 스타' 우승자 우즈벡 시리나 [서울=뉴스핌] 정태이 기자 = 종합뉴스통신사 뉴스핌이 주최·주관하고 문화체육관광부가 후원하는 글로벌 오디션 '마이 케이팝 스타(MY KPOP STAR)'에서 우즈베키스탄 출신 시리나(Shirina)가 최종 우승을 차지하며 그랑프리의 영예를 안았다. 20일 서울 마포구 상암동 큐브컨벤션센터에서 열린 '마이 케이팝 스타' 오프라인 결선에서는 국내 5팀과 해외 5팀 등 총 10팀이 최종 우승을 놓고 경쟁을 펼쳤다. [서울=뉴스핌] 김예원 기자 = 민병복 뉴스핌 회장과 제1회 '마이 케이팝 스타' 그랑프리 수상자 시리나가 20일 오후 서울 마포구 큐브컨벤션센터에서 기념촬영을 하고 있다. '마이 케이팝 스타(MY KPOP STAR)'는 종합뉴스통신사 뉴스핌이 주최·주관하고 문화체육관광부가 후원하는 글로벌 오디션으로 총 60개국의 지원자가 참여했으며, 예선을 거쳐 국내외 10팀이 최종 결선에 진출했다. 최종 우승자에게는 1억 원의 상금이 수여되며, 글로벌 쇼케이스 및 공연 참여, 언론 홍보, 국내 엔터테인먼트사 캐스팅 기회 등 다양한 혜택이 제공된다. 2026.11.20 yeawon2@newspim.com 치열한 경쟁 끝에 그랑프리는 시리나에게 돌아갔다. 2위는 이스라엘 출신 샌디 에고(Sandy Ego), 3위는 브라질 출신 다니 리베라(Dani Rivera)가 차지했다. 이어 4위는 박희주, 5위는 윤근아, 6위는 조하음이 이름을 올렸다. 7위는 고도아, 8위는 미얀마 출신 메이 칫 뗏(Maye Chit Thet), 9위는 황승대, 10위는 이란 출신 바흐테(Vachte)에게 돌아갔다. 이날 최종 우승자로 호명된 시리나는 거듭 감사의 뜻을 전하며 그랑프리 수상의 기쁨을 나타냈다. 1위와 2위 시상에 나선 민병복 뉴스핌 회장은 행사장을 찾은 문화계 관계자와 정치인, 참가자 가족 및 관객들에게 감사 인사를 전했다. 민 회장은 이번 대회를 기획한 배경에 대해 "오픈형 글로벌 K팝 플랫폼이 하나 정도 있었으면 좋겠다는 생각에서 출발했다"고 밝혔다. [서울=뉴스핌] 정일구 기자 = 민병복 뉴스핌 회장이 20일 오후 서울 마포구 큐브컨벤션센터에서 열린 제1회 '마이 케이팝 스타' 시상식에서 인사말을 하고 있다. '마이 케이팝 스타(MY KPOP STAR)'는 종합뉴스통신사 뉴스핌이 주최·주관하고 문화체육관광부가 후원하는 글로벌 오디션으로 총 60개국의 지원자가 참여했으며, 예선을 거쳐 국내외 10팀이 최종 결선에 진출했다. 최종 우승자에게는 1억 원의 상금이 수여되며, 글로벌 쇼케이스 및 공연 참여, 언론 홍보, 국내 엔터테인먼트사 캐스팅 기회 등 다양한 혜택이 제공된다. 2026.11.20 gdlee@newspim.com 이어 온라인 기반 경연대회를 준비하는 과정에서 여러 시행착오를 겪었다고 설명했다. 또 6명으로 구성된 태스크포스(TF)와 함께 대회를 추진하면서 새로운 가능성을 발견했다고 전했다. 민 회장은 "K팝을 사랑하는 전 세계의 가수와 K팝을 즐기는 수많은 청취자들이 누구나 참여할 수 있는 오픈형 플랫폼을 만들 수 있겠다는 생각이 들었다"고 말했다. 특히 인공지능(AI)을 활용한 자동 번역 등 기술의 발전으로 국가와 언어의 장벽을 낮출 수 있다는 점에도 주목했다. 또한 해외 참가자들이 보유한 영향력과 국내 지역 행사 및 관광 수요를 연계하는 방안도 언급했다. 글로벌 K팝 플랫폼을 통해 해외 참가자와 국내 지역 축제 등을 연결할 수 있다는 구상이다. 민 회장은 첫 대회를 통해 소중한 경험을 쌓았다며 앞으로 다양한 기관 및 관계자들과 협력해 더욱 풍성한 K팝 경연대회로 발전시켜 나가겠다는 뜻을 밝혔다. 이날 시상식에서는 여야 정치인과 문화계 관계자들도 참가자들의 도전과 노력을 격려했다. 국민의힘 김태호 의원은 3위 수상자인 다니 리베라에게 상을 전달하며 "K팝이 국경과 언어를 넘어 사람들의 마음을 움직이는 힘을 지녔다"고 강조했다. 이어 참가자들의 꿈이 실현되기를 기원했다. [서울=뉴스핌] 정일구 기자 = 김태호 국민의힘 의원이 20일 오후 서울 마포구 큐브컨벤션센터에서 열린 제1회 '마이 케이팝 스타' 시상식에서 인사말을 하고 있다. '마이 케이팝 스타(MY KPOP STAR)'는 종합뉴스통신사 뉴스핌이 주최·주관하고 문화체육관광부가 후원하는 글로벌 오디션으로 총 60개국의 지원자가 참여했으며, 예선을 거쳐 국내외 10팀이 최종 결선에 진출했다. 최종 우승자에게는 1억 원의 상금이 수여되며, 글로벌 쇼케이스 및 공연 참여, 언론 홍보, 국내 엔터테인먼트사 캐스팅 기회 등 다양한 혜택이 제공된다. 2026.11.20 gdlee@newspim.com 더불어민주당 민병덕 의원은 음악을 하는 딸의 연습 과정을 지켜본 경험을 전하며 무대에 오르기까지 참가자들이 쏟았을 노력을 강조했다. "참가자들의 보이지 않는 노력을 알아달라"고 당부하며 4위 박희주에게 상을 수여했다. [서울=뉴스핌] 정일구 기자 = 민병덕 더불어민주당 의원이 20일 오후 서울 마포구 큐브컨벤션센터에서 열린 제1회 '마이 케이팝 스타' 시상식에서 인사말을 하고 있다. '마이 케이팝 스타(MY KPOP STAR)'는 종합뉴스통신사 뉴스핌이 주최·주관하고 문화체육관광부가 후원하는 글로벌 오디션으로 총 60개국의 지원자가 참여했으며, 예선을 거쳐 국내외 10팀이 최종 결선에 진출했다. 최종 우승자에게는 1억 원의 상금이 수여되며, 글로벌 쇼케이스 및 공연 참여, 언론 홍보, 국내 엔터테인먼트사 캐스팅 기회 등 다양한 혜택이 제공된다. 2026.11.20 gdlee@newspim.com 개혁신당 천하람 의원은 5위 윤근아에 시상하면서 "오디션에서 반드시 1위를 차지해야만 스타가 되는 것은 아니다"라며 참가자들의 앞날을 응원했다. [서울=뉴스핌] 장동규 기자 = 천하람 개혁신당 원내대표가 20일 오후 서울 마포구 큐브컨벤션센터에서 열린 제1회 '마이 케이팝 스타(MY KPOP STAR)' 시상을 하고 있다. '마이 케이팝 스타(MY KPOP STAR)'는 종합뉴스통신사 뉴스핌이 주최·주관하고 문화체육관광부가 후원하는 글로벌 오디션으로 총 60개국의 지원자가 참여했으며, 예선을 거쳐 국내외 10팀이 최종 결선에 진출했다. 최종 우승자에게는 1억 원의 상금이 수여되며, 글로벌 쇼케이스 및 공연 참여, 언론 홍보, 국내 엔터테인먼트사 캐스팅 기회 등 다양한 혜택이 제공된다. 2026.11.20 jk31@newspim.com 청년들이 꿈을 펼칠 수 있는 무대를 마련한 데 대한 감사의 뜻도 이어졌다. 6위 조하음을 시상한 조국혁신당 강경숙 의원은 세계 각국에서 참가한 지원자들의 음악에 대한 열정과 꿈을 높이 평가했다. 같은 당 김재원 의원은 과거 대중가수로 활동했던 경험을 언급하며 참가자들의 열정과 노력을 응원했다. 7위 고도아에게 상을 전달하기에 앞서 참가자들을 격려하는 의미로 직접 노래를 선보이기도 했다. 문화체육관광부 임영아 대변인은 "국내외 청년들이 함께 참여한 이번 대회에 감동을 받았다"며 "해외 참가자들이 한국에서 좋은 추억을 안고 돌아가기를 바란다"고 말했다. 임 대변인은 8위 메이 칫 뗏에게 상을 수여했다. 9위 황승대에게 상을 전달한 한국콘텐츠진흥원 박인남 본부장도 결선 무대를 위해 준비해 온 참가자들의 긴장감과 노력을 언급하며 그동안의 수고를 격려했다. 한편 '마이 케이팝 스타'는 나이와 국적에 제한 없이 진행된 글로벌 오디션으로, 전 세계 60여 개국에서 553개 팀이 참여한 것으로 행사에서 소개됐다. 예선과 본선을 거쳐 국내 5팀과 해외 5팀 등 총 10팀이 최종 결선에 진출했다.  최종 우승자 시리나에게는 상금 1억 원이 수여됐다. 이 밖에도 글로벌 쇼케이스 및 공연 참여, 국내 엔터테인먼트사의 현장 캐스팅 등 다양한 기회가 마련됐다. taeyi427@newspim.com 2026-11-20 18:53
사진
한전, 고객 등 152만명 개인정보 유출 [세종=뉴스핌] 최영수 선임기자 = 한국전력공사의 고객 152만명 개인정보가 유출됐다. 고객명과 전화번호, 주소는 물론 은행명, 계좌번호, 카드번호까지 유출된 것으로 드러나 심각한 상황이다. 한국전력(사장 김동철)은 지난 20일 한전 전산시스템에 보유 중인 일부 고객정보가 유출된 사실을 확인했다고 22일 밝혔다. 정보 유출이 확인된 시스템은 전기요금 조회·납부 관련 서비스를 제공하는 통합고객서비스플랫폼(한전ON)과, 구매·공사·용역 등 조달업무를 수행하는 전자조달시스템(SRM)으로 파악됐다. 한전ON에서는 일부 전기사용 고객의 정보, SRM에서는 일부 시스템 이용자의 정보가 유출됐다(그림 참고). [AI 일러스트=최영수 선임기자] 2026.11.22 dream@newspim.com 유출 정보는 한전ON의 경우 전기사용 고객의 고객번호, 고객명, 고유식별정보(주민·외국인등록번호), 전화번호, 주소, 은행명, 계좌번호, 예금주명, 카드사, 카드번호, 카드명의자, 요금 및 청구정보 총 12개 항목 65만 487명으로 파악됐다. SRM의 경우 기업 대표자의 성명, 고유식별정보(주민·외국인등록번호), 이메일, 회사주소 4개 항목 42만 6827명과, 한전 직원 및 기업 직원의 성명, 소속, 사번, 휴대전화번호, 이메일, 회사전화번호 6개 항목 44만 2934명으로 총 86만 9761명으로 집계됐다. 한전 측은 "상황 인지 후 즉시 외부IP 접속 차단, 해당 서비스 중지 등을 시행함과 동시에 관련 전산시스템을 면밀히 진단하고 필요한 사항을 신속히 조치했다"고 밝혔다. 한전은 국민 누구나 전기요금 조회·납부 등 서비스를 쉽고 편리하게 이용할 수 있도록 간편인증 등 고객 편의성과 서비스 접근성을 높이기 위해 개방형 디지털 서비스를 확대 운영해 왔고, 이에 맞춰 보안 체계도 지속적으로 보완해 왔다. 그러나 최근 AI 등 첨단기술을 악용한 사이버 공격 수법이 지능화·고도화되는 등 보안 환경이 빠르게 변화하는 가운데 외부 공격자가 두 시스템에 불법적으로 침입하여 정보를 탈취한 것으로 추정하고 있다. 한전은 발생 이후 즉시 비상대책 종합상황실을 가동하고, 2차 피해 예방과 추가적인 사이버 위협에 대비하기 위해 지속적인 모니터링을 시행하는 등 보안 관리와 피해 예방조치에 총력을 기울이고 있다. 또한, 홈페이지에 대국민 사과문을 게시하고, 개인정보 유출이 확인된 고객에게 유출 사실과 당사를 사칭한 출처가 불분명한 전화·문자, 이메일 등의 수신시 대응 방법 등 피해 예방 요령을 개별적으로 안내했다. 아울러, 고객이 개인정보 유출 여부를 직접 조회하고 피해를 접수할 수 있는 전용 창구도 운영 중이며 개인정보보호법에 따른 신고도 완료했다. 특히, 계좌번호와 카드번호 등 금융 관련 정보 유출에 따른 고객 불안을 해소하고 2차 피해를 예방하기 위한 조치를 강화하기 위해 관련 내용을 정부 및 금융당국과 공유하고, 이상거래 탐지 등 모니터링 강화를 요청할 계획이다. 한전은 AI를 악용한 추가 사이버 공격에 대비해 국정원, 기후부 사이버안전센터, 외부 전문가 등과 긴밀히 협력해 접속 경로와 공격 방식 등을 면밀히 조사하고 있다. 또한 인터넷 서비스 시스템 전반을 철저하게 점검하고 있으며, AI 기반 신종 해킹에도 대응할 수 있도록 보안체계를 전면 개편할 계획이다. 향후, 한전은 고객에게 피해가 발생하는 경우 개인정보보호법 등 관련 법령에 따른 구제 절차를 성실하게 이행할 방침이다. 김동철 한전 사장은 "이번 사고를 엄중하게 받아들이고 있다"면서 "국민들께 심려를 끼쳐드린 점에 대해 진심으로 사과드린다"고 밝혔다. 이어 "향후 유출 원인을 철저히 규명하고 정보보안체계를 근본적으로 개선해 국민이 안심하고 전력 서비스를 이용할 수 있도록 개인정보 보호 방안 마련에 최선을 다하겠다"고 강조했다. dream@newspim.com 2026-11-22 19:07
기사 번역
결과물 출력을 준비하고 있어요.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동