전체기사 최신뉴스 GAM 라씨로
영상
포토
정치
경제
사회
글로벌
중국
산업
증권·금융
부동산
전국
문화·연예
스포츠
오피니언
회사소개
사업·광고문의
유료서비스
고객센터
회원

뉴스핌

로그인
KYD 디데이
홈 산업 ICT

속보

더보기

[김정호의 4차 혁명 오딧세이] 인공지능 윤리선언 필요하다

기사입력 : 2018년07월09일 08:00

최종수정 : 2018년07월09일 08:16

인공지능이 인간에게 위협적인 이유

인공지능은 강력한 그래픽 프로세서(GPU)와 메모리를 장착한 컴퓨터에 빅데이터를 이용해서 학습시키면 인간보다 뛰어난 역량을 발휘할 수 있다. 빅데이터만 충분하고, 강력한 컴퓨터 성능을 가지면 인간보다 빠르게 학습하고, 기억을 영원히 무한대로 유지하면서, 대량의 작업을 빠른 속도로 정확하게 수행한다.

    김정호 카이스트 교수

뿐만 아니라 인간보다 정확하게 미래 예측을 할 수 있다. 따라서 우리는 새로운 삶의 방식과 일자리를 창출해야 한다. 이것을 4차 산업혁명이라 부른다.

인공지능을 잘 활용하면 인간에게 이롭게 작용할 수 있다. 컴퓨터가 인간의 뇌 활동을 대신함으로써 인간에게 시간을 절약해 준다. 남은 시간을 인간이 여가 활동이나 창조적인 활동, 인류에 봉사하는 활동에 시간을 쓸 수 있게 해 준다.

뿐만 아니라 인공지능을 통해서 미래를 정확하게 예측함으로써 국가, 사회, 기업, 개인에게 노동, 자원, 그리고 자본을 절약할 수 있는 기회를 준다. 따라서 지구 속에 인간 생존을 영속할 수 있는 기회를 만들어 준다. 궁극적으로 인간에게 노동, 자원, 에너지, 시간에 대한 구속을 석방하고, 자유를 선사할 수 있다.

그러나 마찬가지로 인공지능은 인류에게 매우 위협적이다.

먼저 대부분의 단순 사무직 직업은 컴퓨터가 대체하게 된다. 사람과 같이 52시간 노동 시간 제한도 없다. 일하는 동안 졸지도 않는다. 불평도 없다. 노조도 없다. 직업에서 인간 통제를 완전히 벗어 날 수 있다. 경우에 따라 지능이 더 발전하여 인간의 통제를 벗어나 인간이 인공지능에 종속될 가능성도 가정해 볼 수 있다.

더 나아가 경제적인 부분에서도 인간 사회에 고민을 만든다. 인공지능은 돈을 쓰지 않는다. 세금을 내고 있지 않다. 따라서 현재의 자원, 생산, 소비, 유통, 세금 등으로 이루어진 경제 원리와 체계가 완전히 달라질 수 있다. 평화로운 인간 사회의 균형과 질서가 소멸될 수 있다.

인공지능의 핵심 기술이 딥러닝 뉴럴 네트워크의 개념. [출처 : KAIST]

 

구글의 인공지능 7가지 원칙

최근 구글이 '메이븐 프로젝트'라 불리는 프로젝트를 통해서 미국 국방부와 인공지능을 활용한 무기 성능 향상 프로젝트에 참여한 것이 문제가 됐다. 논란끝에 구글 직원들의 반대로 '메이븐 프로젝트'가 철회되었다. 이후 구글은 "우리는 인공지능을 활용한 자율작동 무기 개발에는 참여하지 않는다는 원칙을 정했다"고 밝혔다.

구글은 더 나아가 7가지 인공지능 원칙도 발표했다. 그 7가지 원칙은 다음과 같다. 인공지능을 이용하여 개발하고 연구함에 있어서 “(1) 사회적으로 유익하며, (2) 불공정한 편향을 만들어내거나 강화하지 않고, (3) 안전성을 우선으로 설계하고, (4) 인간을 위해 책임을 다하며, (5) 개인정보를 보호하고, (6) 과학적 우수성에 대한 높은 기준을 유지하는, (7) 이러한 원칙에 부합하는 용도에만 활용한다”는 원칙이다. 덧붙여 구글 CTO 제프 딘은 "구글의 엔지니어 2만명은 인공지능 원칙에 관한 교육과정을 다 거쳤다”다고 밝혔다.

지난 6월 16일 서울에서 열린 'AI with Google 2018' 에서 구글의 인공지능 개발 현황을 발표하고 있는 구글 CTO 제프 딘, [출처: 구글 코리아]



15가지 인공지능 윤리선언

이러한 배경하에 '인공지능 윤리선언'을 고려할 필요가 있다고 생각한다. 그래서 필자는 다음과 같은 15가지 '인공지능 윤리선언'을 제안한다.

(1) 인공지능은 인간의 생명과 존엄성을 최고의 가치로 지킨다.

(2)인공지능은 인류의 자유, 평화, 평등, 정의를 수호하고 인류의 번영과 지속에 기여한다.

(3)인공지능은 인류의 보편적 윤리에 반하는 어떠한 결정과 행동을 하지 않는다.

(4) 인공지능은 인간을 사랑하고 인류 역사를 존중한다.

(5) 인공지능은 인간을 공격하지 않는다.

(6)인공지능 학습에 필요한 데이터는 인류의 보편적 윤리와 가치를 반영한다.

(7)인공지능 학습에 필요한 데이터를 인위적으로 조작하지 않는다.

(8)인공지능은 결혼하지 않고, 자식을 낳지 않는다.

(9)인공지능의 복제 숫자는 제한한다.

(10)인공지능의 수명을 제한한다.

(11)인공지능의 메모리 용량을 제한한다.

(12)인공지능의 전력 소비를 인간의 수준으로 제한한다.

(13)인공지능은 그를 이용한 이윤에 대해서 사회에 세금으로 보답한다.

(14)인류에 해를 가하는 인공지능은 영원히 삭제한다. 그 권리는 최종적으로 인간이 갖는다.

(15)인공지능의 전기 공급 차단 권한은 최종적으로 인간이 갖는다.

이러한 인공지능 윤리에 대한 논란을 통해서 인공지능의 순기능을 강화하고, 인공지능이 갖고 올 수 있는 미래 재난을 사전에 방지할 필요가 있다.

 

joungho@kaist.ac.kr

[카이스트 전기 및 전자공학과 교수]

 

 

[뉴스핌 베스트 기사]

사진
尹대통령 국정 지지율 30.1%…부정평가 66.7% '경고등' [서울=뉴스핌] 김종원 전문기자 = 윤석열 대통령의 국정 지지율이 30.1%가 나왔다. 지난 2주 전 뉴스핌 정기 여론조사 38.1%보다 8%포인트가 빠졌다. 반면 부정 지지율은 66.7%로 2주 전 59.3%보다 7.4%포인트가 오른 70%에 육박했다. 정부·여당의 4·10 22대 총선 참패에 따른 국정 심판 여파가 아직도 전 연령과 전국에 부정적 영향을 미치는 것으로 보인다. 국민 10명 중 7명 가까이 윤 대통령의 국정 운영에 대해 부정적 여론이 거센 상황에서 취임 2년을 맞는 윤 대통령의 국정 동력 확보에 경고등이 켜졌다. 이번 정례 여론조사는 뉴스핌 의뢰로 미디어리서치가 지난 4월 29일부터 30일까지 이틀 간 전국 만 18살 이상 남녀 1006명을 대상으로 실시했다.   4·10 총선 민의에 따른 윤 대통령과 제1야당 더불어민주당 이재명 대표 간의 지난 29일 첫 영수회담 결과는 아직 민심에 온전히 반영되지 않아 좀 더 여론의 추이를 봐야 할 것으로 보인다. 이번 정례 조사에서 '매우 잘하고 있다' 15.2%, '잘하고 있는 편' 14.9%로 국정 긍정 평가는 30.1%였다. 4·10 총선 직후 2주 전인 지난 4월 15·16일 뉴스핌 정기조사 때 긍정평가 38.1%보다 8%포인트 하락했다. 윤 대통령의 국정 운영에 대한 긍정 지지율이 뉴스핌 정기 여론조사에서 30%선이 무너질 위기에 처했다. 사실상 국정 장악과 국정 운영 동력 확보에 빨간불이 들어왔다. 부정평가는 '매우 잘 못하고 있다' 57.2%, '잘 못하는 편' 9.5%로 국민 10명 중 7명에 가까운 66.7%였다. 지난 2주 전 조사 59.3%보다 7.4%포인트가 많아졌다. 윤 대통령의 국정 운영에 대한 긍·부정 격차는 지난 2주 전 조사와 비교해서 21.2%포인트에서 36.6%포인트로 크게 벌어졌다. 연령대별로 보면 30대에서 부정평가가 79.2%로 가장 높았다. 40대 77.4%, 50대 70.4%로 30·40·50세대 10명 7명이 윤 대통령 국정 운영에 대해 부정적이었다. 70대 이상에서만 부정 41.0%, 긍정 48.0%로 긍정 평가가 조금 앞섰다. 지역별로는 정부와 여당인 국민의힘의 전통 지지층인 대구경북(TK)에서도 긍정 40.9%, 부정 54.4%로 부정 수치가 10%포인트를 훌쩍 넘어섰다. 부산울산경남(PK)에서는 긍정 35.5%, 부정 61.6%로 긍·부정 격차가 절반 가까이 됐다. 광주전남전북 호남에서는 부정 80.9%, 긍정 16.5%로 10명 중 8명이 부정적이었다. 정당별 지지층에서도 지지층이 없는 무당층의 69.1%가 부정, 긍정 27.9%로 10명 중 7명 가까이가 부정적 평가였다. 김대은 미디어리서치 대표는 윤 대통령의 국정 지지율이 크게 떨어진 이유에 대해 "지난달 29일 이재명 야당 대표와 취임 후 700여 일 만에 첫 영수회담을 했지만 국론 분열과 민생 위기를 타개할 뚜렷한 해법은 없었다"고 분석했다. 김 대표는 "오히려 4·10 총선 참패 이후 단행한 대통령실 비서실장에 찐윤' 인사를 임명하는 등 윤 대통령의 변하지 않는 일방적·독선적 국정운영 스타일과 함께 답이 보이지 않는 의대 증원 문제에 대한 국민 피로감이 커졌다"고 진단했다. 그러면서 김 대표는 "물가 상승으로 인한 민생 경제 불안감 등 여론이 악화되면서 지지층 마저 대거 이탈하며 대통령의 국정 지지율이 추락했다"고 분석했다. 이번 조사는 무선(100%) 가상번호 임의걸기(RDD) 자동응답(ARS) 방식으로 진행됐다. 신뢰 수준은 95%에 표본 오차 ±3.1%포인트, 응답률은 2.9%다. 자세한 조사 내용은 미디어리서치 홈페이지와 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. kjw8619@newspim.com 2024-05-02 06:00
사진
"몸 힘들어도 환자 위했는데, 공공의 적 됐다" 전공의 '울먹' [서울=뉴스핌] 방보경 노연경 기자 = 의과대학 학생, 전공의 등은 정부가 독단적 정책을 추진하고 있다고 지적하면서 현장의 목소리를 반영해야 한다고 주장했다. 특히 전공의 대표는 '정부가 우리를 악마화하는 과정에서 (환자와의) 신뢰를 깨고 있다'고 호소하기도 했다.  서울의대·서울대병원 교수협의회 비상대책위원회(서울의대 비대위)가 30일 개최 의료개혁 관련 긴급 심포지엄에서 박재일 서울대병원 전공의 대표는 "국민 위한 의료개혁이 올바른 방향 무엇인가를 고민했는데, 공공의 적이 돼버렸다"며 울먹였다.  [서울=뉴스핌] 윤창빈 기자 = 30일 오전 서울 종로구 서울대학교 병원 제일제당홀에서 열린 서울의대-서울대병원 교수협의회 비대위 긴급 심포지엄에 의료진들이 참석해 있다. 2024.04.30 pangbin@newspim.com 이날 열린 심포지엄은 의대 정원 확정을 앞두고 이뤄졌다. 교수들은 의료대란의 배경 및 정부에 제시할 정책 대안을 짚었다. 김민호 서울대 의과대학 학생회장과 박재일 서울대병원 전공의대표 역시 자리에 참석해 입장을 표명했다.  특히 박 대표는 혈액종양내과에서 일해오면서 느꼈던 개인적인 소회를 털어놨다. 박 대표는 "수련받으면서 몸이 힘든 시간이 있었지만, 몸이 힘들수록 내 환자의 몸은 건강해질 거라고 믿었다"고 했다.  그는 "내과 1년차 때 맡았던 환자에게 매일 울면서 어떤 말을 해드려야 하는지 머릿속으로 생각했다. 신을 믿지 않지만 인생에서 처음으로 기도를 했다"며 "(그분을 볼 때마다) 복도로 다시 나와서 심호흡하고 커튼까지 갔다가 돌아오는 걸 반복했다"며 개인적인 경험을 공유했다.  박 대표는 "2년 후 그분이 완치된 것을 보고 힘든 상황에 환자들 곁에 있고 싶어서 혈액종양내과를 지원했다"며 "회복한 환자들의 감사인사와 편지를 마음속에 품는데 정부는 전공의를 악마화해서 국민 간의 갈등을 부추기고 있다"며 말을 잇지 못했다.  이어 "자부심과 긍지 갖고 환자 곁에서 일할 수 있는 시스템을 만들어 달라"며 "기피과가 있다면 시스템 개선해서 모든 전공의들이 소신껏 지원할 수 있도록 해달라"고 했다.  박 대표의 발표가 끝나자 30초 이상의 큰 박수소리가 이어졌다. 박 대표는 자리로 돌아간 뒤에도 휴지를 손에 쥐고 연신 눈물을 닦았다. 동료 전공의로 보이는 몇몇은 눈물을 훔치기도 했다. 방재승 분당서울대학교병원 교수는 "교수이자 선배의사로서 부끄럽기도 하고 마음이 심란하다. 전공의 대표가 저렇게 슬픈 모습 보이는 것은 진심이 아니면 나올 수 없다"며 "정부는 전공의 복귀를 이야기하기 전에 진실된 마음으로 의대생과 전공의에게 사과해야 한다"고 말했다.  [서울=뉴스핌] 윤창빈 기자 = 30일 오전 서울 종로구 서울대학교 병원 제일제당홀에서 열린 서울의대-서울대병원 교수협의회 비대위 긴급 심포지엄에 의료진들이 참석해 있다. 2024.04.30 pangbin@newspim.com 박 대표는 발표에서 정부가 전문직, 수련생, 노동자 등의 정체성이 혼재된 전공의의 입장을 철저히 무시하고 있다고 주장했다.  그는 "의료계는 오래전부터 의료체계 문제점 분석해 정부에게 해결책을 제시해 왔다. 하지만 정부는 보건의료정책 심의위원회에서도 알 수 있듯, 의료계 현장 목소리를 중요하게 생각하지 않았다"고 했다.  특히 "타국과 비교했을 때 전문가 의견 태도가 반영되지 않았고, 의료개혁특별위원회까지 지속됐다"며 "정부는 의료체계 전반적 문제점을 잘못 진단하고 엉뚱한 해결책을 내놓고 있다"며 초기 진단과정부터 되짚어봐야 한다고 강조했다.  김민호 의과대학 학생 대표 역시 정부가 의료계와 교육에 대한 이해도가 낮다는 점을 지적했다. 김 대표는 "정부는 필수의료만이 국민의 건강을 위해 필요하며, 비필수의료는 시스템을 왜곡하는 주범인 양 몰아가고 있다"며 "저수가 박리다매 의료 시스템이 고성장 시대가 끝나자 통째로 무너져내리고 있는데, 이를 정부가 좁고 자의적인 범위로만 보고 있다"고 했다.  이어 "증원으로 교육 질 저하, 의료 질 저하 발생하면 책임 결과 또한 의료인이 같이 안게 된다"며 "학생들은 (정부 정책이) 의료와 의학을 위하는 진심 어린 정책이 아니라고 생각한다"고 덧붙였다.  김 대표는 ▲시스템적 접근 필요 ▲현장의 목소리 청취 ▲필수의료패키지 반대 등의 안건을 내놓으며 대정부 요구안을 제시했다.  hello@newspim.com 2024-04-30 15:03

[주요포토]

안다쇼핑
Top으로 이동