[김정호의 4차 혁명 오딧세이] 인공지능 윤리선언 필요하다

기사입력 : 2018년07월09일 08:00

최종수정 : 2018년07월09일 08:16

인공지능이 인간에게 위협적인 이유

인공지능은 강력한 그래픽 프로세서(GPU)와 메모리를 장착한 컴퓨터에 빅데이터를 이용해서 학습시키면 인간보다 뛰어난 역량을 발휘할 수 있다. 빅데이터만 충분하고, 강력한 컴퓨터 성능을 가지면 인간보다 빠르게 학습하고, 기억을 영원히 무한대로 유지하면서, 대량의 작업을 빠른 속도로 정확하게 수행한다.

뿐만 아니라 인간보다 정확하게 미래 예측을 할 수 있다. 따라서 우리는 새로운 삶의 방식과 일자리를 창출해야 한다. 이것을 4차 산업혁명이라 부른다.

인공지능을 잘 활용하면 인간에게 이롭게 작용할 수 있다. 컴퓨터가 인간의 뇌 활동을 대신함으로써 인간에게 시간을 절약해 준다. 남은 시간을 인간이 여가 활동이나 창조적인 활동, 인류에 봉사하는 활동에 시간을 쓸 수 있게 해 준다.

뿐만 아니라 인공지능을 통해서 미래를 정확하게 예측함으로써 국가, 사회, 기업, 개인에게 노동, 자원, 그리고 자본을 절약할 수 있는 기회를 준다. 따라서 지구 속에 인간 생존을 영속할 수 있는 기회를 만들어 준다. 궁극적으로 인간에게 노동, 자원, 에너지, 시간에 대한 구속을 석방하고, 자유를 선사할 수 있다.

그러나 마찬가지로 인공지능은 인류에게 매우 위협적이다.

먼저 대부분의 단순 사무직 직업은 컴퓨터가 대체하게 된다. 사람과 같이 52시간 노동 시간 제한도 없다. 일하는 동안 졸지도 않는다. 불평도 없다. 노조도 없다. 직업에서 인간 통제를 완전히 벗어 날 수 있다. 경우에 따라 지능이 더 발전하여 인간의 통제를 벗어나 인간이 인공지능에 종속될 가능성도 가정해 볼 수 있다.

더 나아가 경제적인 부분에서도 인간 사회에 고민을 만든다. 인공지능은 돈을 쓰지 않는다. 세금을 내고 있지 않다. 따라서 현재의 자원, 생산, 소비, 유통, 세금 등으로 이루어진 경제 원리와 체계가 완전히 달라질 수 있다. 평화로운 인간 사회의 균형과 질서가 소멸될 수 있다.

인공지능의 핵심 기술이 딥러닝 뉴럴 네트워크의 개념. [출처 : KAIST]

구글의 인공지능 7가지 원칙

최근 구글이 '메이븐 프로젝트'라 불리는 프로젝트를 통해서 미국 국방부와 인공지능을 활용한 무기 성능 향상 프로젝트에 참여한 것이 문제가 됐다. 논란끝에 구글 직원들의 반대로 '메이븐 프로젝트'가 철회되었다. 이후 구글은 "우리는 인공지능을 활용한 자율작동 무기 개발에는 참여하지 않는다는 원칙을 정했다"고 밝혔다.

구글은 더 나아가 7가지 인공지능 원칙도 발표했다. 그 7가지 원칙은 다음과 같다. 인공지능을 이용하여 개발하고 연구함에 있어서 “(1) 사회적으로 유익하며, (2) 불공정한 편향을 만들어내거나 강화하지 않고, (3) 안전성을 우선으로 설계하고, (4) 인간을 위해 책임을 다하며, (5) 개인정보를 보호하고, (6) 과학적 우수성에 대한 높은 기준을 유지하는, (7) 이러한 원칙에 부합하는 용도에만 활용한다”는 원칙이다. 덧붙여 구글 CTO 제프 딘은 "구글의 엔지니어 2만명은 인공지능 원칙에 관한 교육과정을 다 거쳤다”다고 밝혔다.

지난 6월 16일 서울에서 열린 'AI with Google 2018' 에서 구글의 인공지능 개발 현황을 발표하고 있는 구글 CTO 제프 딘, [출처: 구글 코리아]

15가지 인공지능 윤리선언

이러한 배경하에 '인공지능 윤리선언'을 고려할 필요가 있다고 생각한다. 그래서 필자는 다음과 같은 15가지 '인공지능 윤리선언'을 제안한다.

(1) 인공지능은 인간의 생명과 존엄성을 최고의 가치로 지킨다.

(2)인공지능은 인류의 자유, 평화, 평등, 정의를 수호하고 인류의 번영과 지속에 기여한다.

(3)인공지능은 인류의 보편적 윤리에 반하는 어떠한 결정과 행동을 하지 않는다.

(4) 인공지능은 인간을 사랑하고 인류 역사를 존중한다.

(5) 인공지능은 인간을 공격하지 않는다.

(6)인공지능 학습에 필요한 데이터는 인류의 보편적 윤리와 가치를 반영한다.

(7)인공지능 학습에 필요한 데이터를 인위적으로 조작하지 않는다.

(8)인공지능은 결혼하지 않고, 자식을 낳지 않는다.

(9)인공지능의 복제 숫자는 제한한다.

(10)인공지능의 수명을 제한한다.

(11)인공지능의 메모리 용량을 제한한다.

(12)인공지능의 전력 소비를 인간의 수준으로 제한한다.

(13)인공지능은 그를 이용한 이윤에 대해서 사회에 세금으로 보답한다.

(14)인류에 해를 가하는 인공지능은 영원히 삭제한다. 그 권리는 최종적으로 인간이 갖는다.

(15)인공지능의 전기 공급 차단 권한은 최종적으로 인간이 갖는다.

이러한 인공지능 윤리에 대한 논란을 통해서 인공지능의 순기능을 강화하고, 인공지능이 갖고 올 수 있는 미래 재난을 사전에 방지할 필요가 있다.

joungho@kaist.ac.kr

[카이스트 전기 및 전자공학과 교수]

[관련키워드]

KAIST

GAM - 해외주식 투자 도우미

[구경제 부활] ①1979·2020·2026, 병목이 강제하는 자본 재편

이퀴닉스, 말레이시아에 1.9억달러 투자해 데이터센터 신축

[홍콩 대장주] 메이퇀 ③ 신성장 동력의 '폭발적 성장'

[홍콩 대장주] 메이퇀② 실적은 고속 상승, 밸류는 역대 저점

[뉴스핌 베스트 기사]

사진

'내란가담' 이상민, 항소심 징역 9년 [서울=뉴스핌] 홍석희 기자 = 12·3 비상계엄 당시 특정 언론사에 단전·단수 지시 혐의를 받는 이상민 전 행정안전부 장관이 12일 항소심에서 징역 9년을 선고받았다. 내란전담재판부인 서울고법 형사1부(재판장 윤성식)는 이날 오후 내란 중요임무 종사 등 혐의로 재판에 넘겨진 이 전 장관에게 징역 9년을 선고했다. 앞서 1심 재판부는 징역 7년을 선고한 바 있다. 12·3 비상계엄 당시 특정 언론사 단전·단수를 지시한 혐의를 받는 이상민 전 행정안전부 장관이 12일 항소심에서 징역 9년을 선고받았다. [사진=뉴스핌 DB] 재판부는 이 전 장관의 내란 중요임무 종사 혐의를 유죄로 판단하며 "내란이 성공해 현재의 헌법질서가 무너지면 원래 상태로 회복하는 것은 어려운 일이 될 것이다. 내란 행위에 대해 엄중한 처벌이 필요하다"고 판시했다. 이 전 장관은 계엄법상 주무부처 장관임에도 윤 전 대통령의 위헌·위법적 계엄 선포를 방조하고, 특정 언론사 단전·단수 지시를 전달하는 등 내란에 순차적으로 공모한 혐의로 1심에서 징역 7년을 선고받았다. 1심 재판부는 언론사 단전·단수 지시 혐의에 대해 "피고인이 법조인으로서 장기간 근무했고 비상계엄의 의미와 그 요건을 잘 알 수 있는 지위에 있었던 점과 피고인이 언론사 단전·단수에 대한 협조 지시를 하기 직전 경찰청장과의 통화를 통해 국회 상황에 대해 인식하고 있었던 점을 종합해볼 때, 피고인에게 내란 중요임무 종사의 고의 및 국헌문란의 목적이 있었다"며 유죄로 판단했다. 특검은 항소심 결심 공판에서 "본 사건은 대한민국이 수립한 민주주의에 대한 테러"라며 이 전 장관에게 징역 15년을 선고해 달라고 재판부에 요청했다. hong90@newspim.com 2026-05-12 15:57

사진

[6·3 지선 Q&A]사전투표 29~30일 [서울=뉴스핌] 송기욱 기자 = 오는 6월 3일 9회 지방선거가 실시된다. 본후보 등록일은 오는 14~15일 오전 9시부터 오후 6시까지다. 사전투표는 5월 29일부터 30일까지 이틀간 진행된다. 유권자가 반드시 알아야 할 투표 시간과 선거운동 기준, 여론조사 공표 금지 기간, 투표 때 유의 사항을 중앙선거관리위원회가 펴낸 책자를 통해 질의응답(Q&A)으로 정리한다. 선거일 투표 시간은 오전 6시부터 오후 6시까지다. 사전투표 역시 오전 6시부터 오후 6시까지 가능하며 거소투표자를 제외한 모든 유권자가 참여할 수 있다. 일반 지역 유권자는 이번 지방선거에서 시·도지사와 교육감, 기초단체장, 광역·기초의원 등을 선출하기 위해 총 7장의 투표용지를 받게 된다. 선거일 전 6일인 5월 28일부터 선거일 투표 마감 시각까지 정당 지지도나 당선인을 예상하게 하는 여론조사 결과 공표·인용 보도가 금지된다. 다만 금지기간 이전 실시된 여론조사 결과는 관련 요건을 준수할 경우 공표할 수 있다. 또 일반 유권자도 문자메시지와 사회관계망서비스(SNS), 인터넷 등을 활용해 선거운동을 할 수 있다. 선거일 당일에는 인터넷·전자우편·문자메시지를 제외한 일체의 선거운동이 금지된다. 기표소 안에서 투표지를 촬영하는 행위 역시 허용되지 않는다. 다음은 6·3 지방선거 관련 꼭 알아야 할 주요 Q&A다. -선거일과 투표 시간은 ▲6월 3일 오전 6시 ~ 오후 6시. 거소·사전 투표자를 제외한 해당 투표구의 선거인. -사전 투표일과 시간은 ▲5월 29일(금) ~ 5월 30일(토) 2일간 오전 6시 ~ 오후 6시. 거소 투표자를 제외한 모든 선거인. 읍·면·동마다 1개소 투표소 설치. -선거일 당일 선거 운동 여부와 금지 사항은 ▲일체의 선거운동 금지. 다만 인터넷·전자우편·문자메시지를 이용한 선거운동은 가능. 투표 마감시각 종료 이전에 선거인에 대해 투표하고자 하는 정당이나 후보자 또는 투표한 정당이나 후보자의 표시 요구 금지. -선거일 후 답례 금지 사항은 ▲금품 또는 향응을 제공하는 행위. 방송·신문 또는 잡지 기타 간행물에 광고하는 행위. 자동차에 의한 행렬을 하거나 다수인이 무리를 지어 거리를 행진하거나 거리에서 연달아 소리 지르는 행위. 다만 공개 장소 연설·대담용 자동차를 이용해 당선 또는 낙선 거리 인사를 하는 것은 가능. 일반 선거구민을 모이게 해 당선 축하회 또는 낙선에 대한 위로회를 개최하는 행위나 현수막을 게시하는 행위는 금지됨. 다만 선거일 다음 날부터 6월 16일까지 13일 동안 읍·면·동마다 1매의 현수막을 게시하는 것은 가능함. -이번 지방선거에서 투표할 수 있는 사람은 ▲선거일 현재 만 18살 이상(2008년 6월 4일까지 출생)의 국민은 선거권이 있음. 공직선거법 제15조 제2항 제3호에 따른 외국인은 지방선거 선거권이 있음. -후보자 기호는 어떻게 결정되나 ▲후보자 기호는 후보자 등록 마감일을 기준으로 국회에 의석을 갖고 있는 정당의 후보, 의석이 없는 정당의 후보, 무소속 후보의 순으로 결정됨. 국회에 의석을 갖고 있는 정당 간의 기호 순위는 다수 의석 순. 의석이 없는 정당 간에는 정당 명칭의 '가나다'순으로 함. 무소속 후보자는 추첨에 의해 기호를 결정함. -후보자 정보는 어떻게 확인할 수 있나 ▲선거관리위원회는 선거인이 올바른 선택을 할 수 있도록 후보자가 제출한 서류를 선거일까지 공개하고 있음. 후보자 등록이 완료되면 인터넷 홈페이지를 통해 후보자 인적사항과 후보자가 제출한 재산신고서, 병역사항 신고서, 학력에 관한 증명서, 세금 납부·체납 사항, 전과기록에 관한 증명서류를 공개함. -공식 선거운동은 언제부터 하나 ▲선거운동기간은 5월 21일부터 선거일 전일인 6월 2일까지임. -후보자나 선거운동 관계자만 선거운동을 할 수 있나 ▲후보자 가족의 선거운동은 1991년, 일반 유권자의 선거운동은 1994년 이후 허용됨. 현행 공직선거법에서는 일반 유권자도 선거운동을 할 수 있음. 선거운동 기간이 아닌 때라도 제한된 방법인 전화 또는 말, 문자메시지, 인터넷 이용 등으로 선거운동을 할 수 있음. -일반 유권자가 할 수 있는 선거운동방법은 어떤 것이 있나 ▲선거운동을 할 수 있는 일반 유권자는 선거일을 포함해 언제든지 문자메시지나 전자우편, 인터넷 홈페이지, 사회관계망서비스(SNS)를 이용해 선거운동을 할 수 있고 선거일이 아닌 때에 전화나 말로 선거운동 할 수 있음. 선거운동기간 중에는 공개 장소에서 특정 정당이나 후보자에 대한 지지를 호소하는 등 법에서 정한 방법으로 선거운동을 할 수 있음. 특정 후보자를 위한 선거운동 자원봉사자로 활동할 수 있음. 선거운동기간 중 길이 25㎝ 너비 25㎝ 높이 25㎝ 이내 소형의 소품등을 본인의 부담으로 제작 또는 구입해 몸에 붙이거나 지니는 방법으로 선거운동을 할 수 있음. 다만 선거운동을 해 주는 대가로 수당·실비나 음식물을 제공받을 수 없음. -일반 유권자가 자신의 소셜미디어에 (예비)후보자를 지지하는 글을 게시해 팔로어에게 전송할 수 있나 ▲선거일을 포함해 언제든지 가능함. -(예비)후보자로부터 받은 선거운동정보를 자신의 팔로어에게 돌려보기(retweet)가 가능한가 ▲선거일을 포함해 언제든지 가능함. -(예비)후보자나 일반 유권자가 자신의 카카오톡 프로필이나 상태 메시지에 (예비)후보자의 사진이나 지지 호소의 글을 게재할 수 있나 ▲선거일을 포함해 언제든지 가능함. 중앙선거관리위원회. [사진=뉴스핌 DB] -거소투표제도란 무엇인가 ▲몸이 불편해 투표소에 가서 투표할 수 없는 선거인 등을 위해 자신이 머무는 자택 등에서 우편으로 투표할 수 있도록 한 제도임. 거소투표를 하려면 거소투표신고를 해야 함. -이번 선거에서 유권자들은 몇 장의 투표용지를 받나 ▲시·도지사 선거, 교육감 선거, 구·시·군 장 선거, 지역구 시·도의원 선거, 비례대표 시·도의원 선거, 지역구 구·시·군의원 선거, 비례대표 구·시·군의원 선거를 포함해 모두 7개 선거가 실시되므로 투표용지도 7장임. 다만 제주특별자치도, 세종특별자치시는 4장(시·도지사 선거, 교육감 선거, 지역구 시·도의원 선거, 비례대표 시·도의원 선거)의 투표용지를 받음. 2026년 4월 30일까지 실시 사유가 확정된 재·보궐선거 지역의 선거인은 재·보궐선거 투표용지를 함께 받음. -본인 투표소 위치를 어떻게 확인할 수 있나 ▲구·시·군 선관위가 각 가정에 발송하는 투표안내문을 확인하면 됨. 지방자치단체의 '선거인명부 열람시스템'을 이용하거나 중앙선거관리위원회 홈페이지 투표소찾기 연결 서비스를 통해 투표소 위치를 확인할 수 있음. -투표하러 갈 때 준비해야 할 것은 ▲주민등록증, 공무원증, 여권, 운전면허증, 국가유공자증, 장애인등록증, 관공서 또는 공공기관이 발행한 사진이 첩부된 신분증 등 선거인 본인 여부를 확인할 수 있는 증명서나 서류가 필요함. 신분증의 모바일 신분증(앱 실행화면)으로도 본인 확인이 가능함. 다만 신분증 등을 사진 촬영하거나 화면 캡처 등을 통해 저장한 이미지 파일은 사용할 수 없음. 각 가정에 발송한 투표안내문에 선거인명부 등재 번호가 기재돼 있음. 등재번호를 확인하고 가시면 투표시간 단축할 수 있음. -선거권이 없는 자녀를 데리고 투표소에 갈 수 있나 ▲선거인은 초등학생 이하의 어린이와 함께 투표소 안에 출입할 수 있음. 다만 기표소 안에는 미취학 아동만 들어갈 수 있음. -신체에 장애가 있어 기표소에서 혼자 기표할 수 없는 경우 어떻게 투표하나 ▲시각장애인과 신체에 장애가 있어 혼자서 기표할 수 없는 선거인은 보조를 위해 그 가족 또는 본인이 지명한 2명을 동반할 수 있음. -거소투표신고를 한 사람은 선거일 투표소에서 투표할 수 없나 ▲거소투표신고를 한 선거인이 거소투표를 하지 않고 선거일에 해당 투표소의 투표관리관에게 거소투표용지와 회송용봉투를 반납하면 투표할 수 있음. 만약 거소투표용지에 기표가 돼 있으면 다시 투표할 수 없음. -기표소 안에서 투표지를 촬영할 수 있나 ▲기표소 안에서 투표지를 촬영할 수 없음. 이는 투표의 비밀을 보장하기 위해서임. 투표인증샷을 찍으시려면 투표소 입구 등에 설치한 포토존이나 투표소 표지판 등을 활용하면 됨. 22대 국회의원선거 사전투표가 시작된 2024년 4월 5일 인천 계양구 계양3동행정복지센터에 마련된 사전투표소에서 군인들이 투표를 하고 있다. [사진=뉴스핌 DB] -SNS에 투표인증샷을 게시할 때 유의해야 할 점은 ▲선거일에 기호를 나타내는 인증샷(엄지손가락, V자 표시 등)을 SNS에 게시할 수 있음. 다만 기표한 투표지를 촬영해 게시해서는 안됨. -선거여론조사 결과 공표가 제한되는 기간이 있나 ▲누구든지 선거일 전 6일(5월 28일)부터 선거일의 투표마감시각까지 선거에 관해 정당에 관한 지지도나 당선인을 예상하게 하는 여론조사(모의투표나 인기투표에 의한 경우 포함)의 경위와 그 결과를 공표하거나 인용해 보도할 수 없음. 다만 선거일 6일 전에 실시된 여론조사 결과는 공표·보도 요건을 준수해 언제든지 보도할 수 있음. -선거에 관한 여론조사 결과를 공표·보도할 때 유의해야 할 사항은 ▲누구든지 선거에 관한 여론조사 결과를 공표 또는 보도하는 경우에는 선거여론조사기준으로 정한 12가지 사항을 함께 공표·보도하여야 함. 조사의뢰자, 선거여론조사기관, 조사지역, 조사일자, 조사대상, 조사방법, 표본의 크기, 피조사자 선정방법, 응답률, 표본오차, 질문내용, 권고 무선 응답비율(무선전화 응답비율이 100분의 70에 미달한 때). 조사의뢰자(언론사 등)는 선거여론조사기관이 첫 공표·보도 전 여론조사 결과를 등록할 수 있도록 해당 여론조사 결과의 공표·보도 예정일시를 여론조사기관에 통보해야 함. 선거여론조사기관은 중앙여심위 홈페이지 등록내용을 의뢰자에게 공표·보도 전까지 통보해야 함. 누구든지 선거에 관한 여론조사 결과를 공표·보도하는 경우에는 중앙여심위 홈페이지에 등록된 내용만 공표·보도해야 함. -이미 발표된 여론조사 결과를 인용해 공표·보도할 때 유의해야 할 사항은 ▲이미 공표·보도된 여론조사 결과를 다시 인용해 공표·보도하는 경우에는 조사의뢰자, 선거여론조사기관, 조사일자, 조사방법과 함께 '그 밖의 사항은 중앙선거여론조사심의위원회 홈페이지 참조'라고 표기해야 함. oneway@newspim.com 2026-05-12 06:00