[김정호의 4차 혁명 오딧세이] 인공지능 윤리선언 필요하다

기사입력 : 2018년07월09일 08:00

최종수정 : 2018년07월09일 08:16

인공지능이 인간에게 위협적인 이유

인공지능은 강력한 그래픽 프로세서(GPU)와 메모리를 장착한 컴퓨터에 빅데이터를 이용해서 학습시키면 인간보다 뛰어난 역량을 발휘할 수 있다. 빅데이터만 충분하고, 강력한 컴퓨터 성능을 가지면 인간보다 빠르게 학습하고, 기억을 영원히 무한대로 유지하면서, 대량의 작업을 빠른 속도로 정확하게 수행한다.

김정호 카이스트 교수

뿐만 아니라 인간보다 정확하게 미래 예측을 할 수 있다. 따라서 우리는 새로운 삶의 방식과 일자리를 창출해야 한다. 이것을 4차 산업혁명이라 부른다.

인공지능을 잘 활용하면 인간에게 이롭게 작용할 수 있다. 컴퓨터가 인간의 뇌 활동을 대신함으로써 인간에게 시간을 절약해 준다. 남은 시간을 인간이 여가 활동이나 창조적인 활동, 인류에 봉사하는 활동에 시간을 쓸 수 있게 해 준다.

뿐만 아니라 인공지능을 통해서 미래를 정확하게 예측함으로써 국가, 사회, 기업, 개인에게 노동, 자원, 그리고 자본을 절약할 수 있는 기회를 준다. 따라서 지구 속에 인간 생존을 영속할 수 있는 기회를 만들어 준다. 궁극적으로 인간에게 노동, 자원, 에너지, 시간에 대한 구속을 석방하고, 자유를 선사할 수 있다.

그러나 마찬가지로 인공지능은 인류에게 매우 위협적이다.

먼저 대부분의 단순 사무직 직업은 컴퓨터가 대체하게 된다. 사람과 같이 52시간 노동 시간 제한도 없다. 일하는 동안 졸지도 않는다. 불평도 없다. 노조도 없다. 직업에서 인간 통제를 완전히 벗어 날 수 있다. 경우에 따라 지능이 더 발전하여 인간의 통제를 벗어나 인간이 인공지능에 종속될 가능성도 가정해 볼 수 있다.

더 나아가 경제적인 부분에서도 인간 사회에 고민을 만든다. 인공지능은 돈을 쓰지 않는다. 세금을 내고 있지 않다. 따라서 현재의 자원, 생산, 소비, 유통, 세금 등으로 이루어진 경제 원리와 체계가 완전히 달라질 수 있다. 평화로운 인간 사회의 균형과 질서가 소멸될 수 있다.

인공지능의 핵심 기술이 딥러닝 뉴럴 네트워크의 개념. [출처 : KAIST]

구글의 인공지능 7가지 원칙

최근 구글이 '메이븐 프로젝트'라 불리는 프로젝트를 통해서 미국 국방부와 인공지능을 활용한 무기 성능 향상 프로젝트에 참여한 것이 문제가 됐다. 논란끝에 구글 직원들의 반대로 '메이븐 프로젝트'가 철회되었다. 이후 구글은 "우리는 인공지능을 활용한 자율작동 무기 개발에는 참여하지 않는다는 원칙을 정했다"고 밝혔다.

구글은 더 나아가 7가지 인공지능 원칙도 발표했다. 그 7가지 원칙은 다음과 같다. 인공지능을 이용하여 개발하고 연구함에 있어서 “(1) 사회적으로 유익하며, (2) 불공정한 편향을 만들어내거나 강화하지 않고, (3) 안전성을 우선으로 설계하고, (4) 인간을 위해 책임을 다하며, (5) 개인정보를 보호하고, (6) 과학적 우수성에 대한 높은 기준을 유지하는, (7) 이러한 원칙에 부합하는 용도에만 활용한다”는 원칙이다. 덧붙여 구글 CTO 제프 딘은 "구글의 엔지니어 2만명은 인공지능 원칙에 관한 교육과정을 다 거쳤다”다고 밝혔다.

지난 6월 16일 서울에서 열린 'AI with Google 2018' 에서 구글의 인공지능 개발 현황을 발표하고 있는 구글 CTO 제프 딘, [출처: 구글 코리아]

15가지 인공지능 윤리선언

이러한 배경하에 '인공지능 윤리선언'을 고려할 필요가 있다고 생각한다. 그래서 필자는 다음과 같은 15가지 '인공지능 윤리선언'을 제안한다.

(1) 인공지능은 인간의 생명과 존엄성을 최고의 가치로 지킨다.

(2)인공지능은 인류의 자유, 평화, 평등, 정의를 수호하고 인류의 번영과 지속에 기여한다.

(3)인공지능은 인류의 보편적 윤리에 반하는 어떠한 결정과 행동을 하지 않는다.

(4) 인공지능은 인간을 사랑하고 인류 역사를 존중한다.

(5) 인공지능은 인간을 공격하지 않는다.

(6)인공지능 학습에 필요한 데이터는 인류의 보편적 윤리와 가치를 반영한다.

(7)인공지능 학습에 필요한 데이터를 인위적으로 조작하지 않는다.

(8)인공지능은 결혼하지 않고, 자식을 낳지 않는다.

(9)인공지능의 복제 숫자는 제한한다.

(10)인공지능의 수명을 제한한다.

(11)인공지능의 메모리 용량을 제한한다.

(12)인공지능의 전력 소비를 인간의 수준으로 제한한다.

(13)인공지능은 그를 이용한 이윤에 대해서 사회에 세금으로 보답한다.

(14)인류에 해를 가하는 인공지능은 영원히 삭제한다. 그 권리는 최종적으로 인간이 갖는다.

(15)인공지능의 전기 공급 차단 권한은 최종적으로 인간이 갖는다.

이러한 인공지능 윤리에 대한 논란을 통해서 인공지능의 순기능을 강화하고, 인공지능이 갖고 올 수 있는 미래 재난을 사전에 방지할 필요가 있다.

joungho@kaist.ac.kr

[카이스트 전기 및 전자공학과 교수]

사진

이재용 장남 해군장교 임관식 '삼성家 총출동' [서울=뉴스핌] 김정인 기자 = 이재용 삼성전자 회장의 장남 이지호(24) 씨가 미국 시민권을 포기하고 해군 장교로 임관했다. 삼성가(家)에서도 처음 배출되는 장교다. 임관식에는 가족들이 총출동해 그의 첫 발을 함께했다. 해군은 28일 경남 창원시 해군사관학교에서 제139기 해군·해병대 사관후보생 수료 및 임관식을 거행했다. 이날 89명의 해군·해병대 장교가 임관했으며, 이 가운데 이씨는 기수를 대표해 제병 지휘를 맡았다. 해군 학사사관후보생 139기 임관식에서 대표로 선 이재용 삼성전자 회장의 장남 이지호씨의 모습. [사진=뉴스핌TV 유튜브 채널 캡처] 이 회장은 연병장 단상에 마련된 가족석에서 홍라희 삼성미술관 리움 명예관장, 이서현 삼성물산 사장과 함께 앉아 아들의 임관 과정을 지켜봤다. 다만 동생인 이원주 씨는 참석하지 않은 것으로 알려졌다. 행사 중간에는 이 회장과 홍 관장이 직접 연병장으로 내려가 이 씨에게 계급장을 달아주기도 했다. 이 회장은 경례와 함께 임관 신고를 받은 뒤 "수고했어"라고 격려했다. 이재용 삼성전자 회장과 홍라희 삼성미술관 리움 명예관장, 이서현 삼성물산 사장이 28일 오후 경남 창원시 진해구 해군사관학교에서 진행된 제139기 해군·해병대 사관후보생 임관식에 참석한 모습. [사진=뉴스핌TV 유튜브 채널 캡처] 이재용 삼성전자 회장과 홍라희 삼성미술관 리움 명예관장이 28일 오후 경남 창원시 진해구 해군사관학교에서 진행된 제139기 해군·해병대 사관후보생 임관식에 참석한 모습. [사진=뉴스핌TV 유튜브 채널 캡처] 모친인 임세령 대상홀딩스 부회장도 이모인 임상민 대상 부사장과 함께 행사장에 모습을 드러냈다. 이 회장과 임 부회장이 2009년 이혼한 이후 같은 공식 석상에서 모습을 드러낸 것은 이번이 처음이다. 임세령 대상홀딩스 부회장(왼쪽)이 28일 오후 경남 창원시 진해구 해군사관학교에서 진행된 제139기 해군·해병대 사관후보생 임관식에 참석한 모습. [사진=뉴스핌TV 유튜브 채널 캡처] 이 씨는 지난 9월 15일 해군 장교 후보생으로 입영했다. 2000년 미국에서 태어난 선천적 복수국적자로, 캐나다에서 고등학교를 졸업한 뒤 프랑스 파리정치대학(Sciences Po)에 진학했고, 최근까지 미국 대학에서 교환학생 프로그램을 이수한 것으로 전해졌다. 그는 해군 장교로 복무하기 위해 미국 시민권을 포기하고 입대를 선택했다. 재계에서는 이를 두고 '특권을 내려놓은 책임의 선택'이라는 평가도 나온다. 이 씨는 임관 직후 3박4일 휴가를 보낸 뒤 다음달 2일 해군교육사령부로 복귀해 3주간 신임 장교를 대상으로 하는 초등군사교육을 받는다. 이후 함정 병과 소속 통역장교로 근무하게 된다. 총 복무 기간은 훈련 기간을 포함해 39개월이며, 복무 연장을 하지 않을 경우 2028년 12월 2일 전역한다. kji01@newspim.com 2025-11-28 15:29

사진

법원 "방통위 YTN 최대주주 변경 승인 취소" [서울=뉴스핌] 김지나 기자 박민경 인턴기자 = 법원이 방송통신위원회의 YTN 최대주주 변경 승인 처분을 취소해야 한다고 판단했다. 지난해 방통위가 2인 체제에서 의결을 진행한 절차에 하자가 있어 위법하다는 이유에서다. 서울행정법원 행정3부(재판장 최수진)는 28일 YTN 우리사주조합이 방통위를 상대로 낸 최다액 출자자 변경 승인처분 취소소송에서 원고 승소 판결을 내렸다. 반면 전국언론노조 YTN 지부가 제기한 동일한 소송은 원고 적격이 없다고 보고 각하했다. YTN 사옥.[사진=뉴스핌DB] 재판부는 "피고(방통위)는 2인만 재적한 상태에서 의결을 거쳐 승인 결정을 내렸다"며 "이는 의결 절차상 하자가 있어 위법하다"고 설명했다. 이어 "방통위법이 규정한 '재적위원 과반수의 찬성으로 의결한다'는 문구는 형식적 해석에만 의존할 것이 아니라, 헌법이 보장하는 방송의 자유와 방통위를 합의제 행정기관으로 둔 입법 취지를 함께 고려해야 한다"고 밝혔다. 또 "합의제 행정기관으로서 방통위의 의사결정은 토론과 숙의 과정을 전제로 한다"며 "재적위원이 2인만 있을 경우 다수결 원리가 사실상 작동하기 어려워 합의제 기관으로서의 기능이 결여된다"고 지적했다. 재판부는 "방통위의 주요 의사결정은 5인 모두 임명돼 재적한 상태에서 3인 이상 찬성으로 이뤄지는 것이 바람직하다"며 "부득이한 사정으로 5인 미만이 재적할 경우라도 실질적 기능을 하려면 최소 3인 이상 재적해야 한다"고 덧붙였다. 앞서 유진기업과 동양이 공동 출자한 특수목적법인(SPC) 유진이엔티는 한전KDN과 한국마사회가 보유한 YTN 지분 30.95%를 인수하며 최대주주로 올라섰다. 방통위는 지난해 2월 7일 유진이엔티의 최다액 출자자 변경 승인을 의결했다. 이에 언론노조 YTN 지부와 우리사주조합은 당시 방통위 '2인 체제' 의결을 문제 삼으며 본안소송과 집행정지 신청을 냈다. 앞서 이들이 낸 집행정지 신청은 각각 각하, 기각 결정을 받았다. pmk1459@newspim.com 2025-11-28 15:37