[김정호의 4차 혁명 오딧세이] 인공지능 윤리선언 필요하다

기사입력 : 2018년07월09일 08:00

최종수정 : 2018년07월09일 08:16

인공지능이 인간에게 위협적인 이유

인공지능은 강력한 그래픽 프로세서(GPU)와 메모리를 장착한 컴퓨터에 빅데이터를 이용해서 학습시키면 인간보다 뛰어난 역량을 발휘할 수 있다. 빅데이터만 충분하고, 강력한 컴퓨터 성능을 가지면 인간보다 빠르게 학습하고, 기억을 영원히 무한대로 유지하면서, 대량의 작업을 빠른 속도로 정확하게 수행한다.

뿐만 아니라 인간보다 정확하게 미래 예측을 할 수 있다. 따라서 우리는 새로운 삶의 방식과 일자리를 창출해야 한다. 이것을 4차 산업혁명이라 부른다.

인공지능을 잘 활용하면 인간에게 이롭게 작용할 수 있다. 컴퓨터가 인간의 뇌 활동을 대신함으로써 인간에게 시간을 절약해 준다. 남은 시간을 인간이 여가 활동이나 창조적인 활동, 인류에 봉사하는 활동에 시간을 쓸 수 있게 해 준다.

뿐만 아니라 인공지능을 통해서 미래를 정확하게 예측함으로써 국가, 사회, 기업, 개인에게 노동, 자원, 그리고 자본을 절약할 수 있는 기회를 준다. 따라서 지구 속에 인간 생존을 영속할 수 있는 기회를 만들어 준다. 궁극적으로 인간에게 노동, 자원, 에너지, 시간에 대한 구속을 석방하고, 자유를 선사할 수 있다.

그러나 마찬가지로 인공지능은 인류에게 매우 위협적이다.

먼저 대부분의 단순 사무직 직업은 컴퓨터가 대체하게 된다. 사람과 같이 52시간 노동 시간 제한도 없다. 일하는 동안 졸지도 않는다. 불평도 없다. 노조도 없다. 직업에서 인간 통제를 완전히 벗어 날 수 있다. 경우에 따라 지능이 더 발전하여 인간의 통제를 벗어나 인간이 인공지능에 종속될 가능성도 가정해 볼 수 있다.

더 나아가 경제적인 부분에서도 인간 사회에 고민을 만든다. 인공지능은 돈을 쓰지 않는다. 세금을 내고 있지 않다. 따라서 현재의 자원, 생산, 소비, 유통, 세금 등으로 이루어진 경제 원리와 체계가 완전히 달라질 수 있다. 평화로운 인간 사회의 균형과 질서가 소멸될 수 있다.

인공지능의 핵심 기술이 딥러닝 뉴럴 네트워크의 개념. [출처 : KAIST]

구글의 인공지능 7가지 원칙

최근 구글이 '메이븐 프로젝트'라 불리는 프로젝트를 통해서 미국 국방부와 인공지능을 활용한 무기 성능 향상 프로젝트에 참여한 것이 문제가 됐다. 논란끝에 구글 직원들의 반대로 '메이븐 프로젝트'가 철회되었다. 이후 구글은 "우리는 인공지능을 활용한 자율작동 무기 개발에는 참여하지 않는다는 원칙을 정했다"고 밝혔다.

구글은 더 나아가 7가지 인공지능 원칙도 발표했다. 그 7가지 원칙은 다음과 같다. 인공지능을 이용하여 개발하고 연구함에 있어서 “(1) 사회적으로 유익하며, (2) 불공정한 편향을 만들어내거나 강화하지 않고, (3) 안전성을 우선으로 설계하고, (4) 인간을 위해 책임을 다하며, (5) 개인정보를 보호하고, (6) 과학적 우수성에 대한 높은 기준을 유지하는, (7) 이러한 원칙에 부합하는 용도에만 활용한다”는 원칙이다. 덧붙여 구글 CTO 제프 딘은 "구글의 엔지니어 2만명은 인공지능 원칙에 관한 교육과정을 다 거쳤다”다고 밝혔다.

지난 6월 16일 서울에서 열린 'AI with Google 2018' 에서 구글의 인공지능 개발 현황을 발표하고 있는 구글 CTO 제프 딘, [출처: 구글 코리아]

15가지 인공지능 윤리선언

이러한 배경하에 '인공지능 윤리선언'을 고려할 필요가 있다고 생각한다. 그래서 필자는 다음과 같은 15가지 '인공지능 윤리선언'을 제안한다.

(1) 인공지능은 인간의 생명과 존엄성을 최고의 가치로 지킨다.

(2)인공지능은 인류의 자유, 평화, 평등, 정의를 수호하고 인류의 번영과 지속에 기여한다.

(3)인공지능은 인류의 보편적 윤리에 반하는 어떠한 결정과 행동을 하지 않는다.

(4) 인공지능은 인간을 사랑하고 인류 역사를 존중한다.

(5) 인공지능은 인간을 공격하지 않는다.

(6)인공지능 학습에 필요한 데이터는 인류의 보편적 윤리와 가치를 반영한다.

(7)인공지능 학습에 필요한 데이터를 인위적으로 조작하지 않는다.

(8)인공지능은 결혼하지 않고, 자식을 낳지 않는다.

(9)인공지능의 복제 숫자는 제한한다.

(10)인공지능의 수명을 제한한다.

(11)인공지능의 메모리 용량을 제한한다.

(12)인공지능의 전력 소비를 인간의 수준으로 제한한다.

(13)인공지능은 그를 이용한 이윤에 대해서 사회에 세금으로 보답한다.

(14)인류에 해를 가하는 인공지능은 영원히 삭제한다. 그 권리는 최종적으로 인간이 갖는다.

(15)인공지능의 전기 공급 차단 권한은 최종적으로 인간이 갖는다.

이러한 인공지능 윤리에 대한 논란을 통해서 인공지능의 순기능을 강화하고, 인공지능이 갖고 올 수 있는 미래 재난을 사전에 방지할 필요가 있다.

joungho@kaist.ac.kr

[카이스트 전기 및 전자공학과 교수]

[관련키워드]

KAIST

GAM - 해외주식 투자 도우미

반도체 지금이라도 손절? 업황 믿고 버텨라?…월가 조언은

오픈AI, 애플 소송 한 방에 '기기 야심' 급제동

[홍콩 대장주] 메이퇀 ③ 신성장 동력의 '폭발적 성장'

[홍콩 대장주] 메이퇀② 실적은 고속 상승, 밸류는 역대 저점

[뉴스핌 베스트 기사]

사진

14~15일 중부 최대 120㎜ 폭우 예고 [서울=뉴스핌] 김지나 기자 = 행정안전부가 14일 오후부터 중부지방을 중심으로 강풍을 동반한 집중호우가 예보됨에 따라 관계기관 대책회의를 열고 침수·산사태 우려 지역에 대한 선제 점검과 통제 강화를 지시했다. 행정안전부는 14일 윤호중 장관 주재로 관계기관 대책회의를 개최하고 호우와 강풍에 대비한 대응 상황을 점검했다고 밝혔다. 회의에는 행정안전부와 농림축산식품부, 기상청 등 10개 중앙행정기관과 16개 지방자치단체, 한국공항공사 등이 참석했다. 폭우가 쏟아진 9일 오전 서울역 인근에서 우산을 쓴 시민들이 발걸음을 재촉하고 있다. [사진=뉴스핌DB] 기상청에 따르면 이날 저녁부터 15일 새벽까지 수도권과 강원, 충청권을 중심으로 돌풍과 천둥·번개를 동반한 시간당 20~30㎜, 경기·강원 북부는 시간당 30~50㎜의 매우 강한 비가 내릴 것으로 예보됐다. 예상 강수량은 수도권 30~100㎜(경기 북부 최대 120㎜ 이상), 강원 내륙·산지 30~80㎜(많은 곳 100㎜ 이상), 충청권과 전북 30~80㎜, 전남과 제주 20~60㎜ 등이다. 행안부는 퇴근 시간대와 심야 시간에 강한 비가 집중될 것으로 예상되는 만큼 인명피해 예방에 중점을 두고 대응할 것을 관계기관에 주문했다. 우선 상습 침수지역과 피해 우려지역에 대한 사전 점검을 강화하고, 지하차도와 하상도로 등 침수 취약 구간은 실시간 모니터링을 통해 필요 시 선제적으로 출입을 통제하도록 했다. 빗물받이 이물질 제거와 반복 점검도 실시해 침수 피해를 최소화할 방침이다. 반지하주택과 하천변 산책로 등 침수 취약지역에 대한 예찰도 강화한다. 지난 8~10일 내린 비로 지반이 약해진 산지와 급경사지 등 붕괴 우려 지역은 사전 점검을 실시하고, 위험 징후가 확인되면 주민들이 신속히 대피할 수 있도록 안내할 계획이다. 특히 고령자 등 자력 대피가 어려운 주민은 주민대피지원단과 연계해 1대1 지원 체계를 재점검하도록 했다. 강풍에 대비한 안전조치도 강화된다. 행안부는 순간풍속 초속 20m 이상의 강풍이 예상됨에 따라 옥외광고물과 가로수, 건설현장 크레인, 공사장 가설시설 등 전도와 낙하 위험 시설물은 사전에 고정하거나 철거하도록 요청했다. 또 재난문자와 마을방송 등 다양한 매체를 활용해 기상정보와 국민행동요령을 신속히 전파하고 외출 자제와 위험지역 접근 금지 등을 적극 안내할 계획이다. 김용균 자연재난실장은 "정부는 집중호우와 강풍으로 인한 피해를 최소화하기 위해 대응체계를 빈틈없이 유지하겠다"며 "국민 여러분께서도 기상정보와 재난문자를 수시로 확인하고, 안전수칙을 준수해 주시길 바란다"라고 말했다. abc123@newspim.com 2026-07-14 10:02

사진

트럼프 "호르무즈 통행료 20% 징수" [워싱턴=뉴스핌] 박정우 특파원 = 도널드 트럼프 미국 대통령은 13일(현지시간) 이란 항구에 대한 미 해군의 봉쇄조치를 재개한다고 선언했다. 또 미국이 호르무즈 해협을 통과하는 선박들에 안전을 제공하는 비용으로 선적 화물의 20%를 부과할 것이라고 밝혔다. 트럼프 대통령은 이날 소셜미디어 트루스소셜을 통해 "호르무즈 해협은 열려 있을 것이며, 이란이 원하든 원하지 않든 유지될 것"이라며 "이란 봉쇄(THE IRANIAN BLOCKADE) 조치를 재개한다"고 밝혔다. 이어 이란과 관련 물류 수송을 제외한 "다른 모든 국가들은 해협을 공정하고 자유롭게 이용할 수 있다"고 덧붙였다. 트럼프 대통령은 그러면서 미국이 '호르무즈 해협의 수호자(THE GUARDIAN OF THE HORMUZ STRAIT)'가 될 거라며 안전 제공 비용을 청구할 것이라고 선언했다. 그는 미국이 "수호자로서, 그리고 공정함의 차원에서, 이 불안정한 세계 요충지에 안전과 보안을 제공하는 업무에 필요한 모든 비용에 대해 선적 화물의 20% 비율로 보상(비용 청구)을 받을 것"이라며 관련 절차가 즉시 시작된다고 덧붙였다. 트럼프 대통령의 이날 대 이란 봉쇄 재개와 호르무즈 안전 제공 비용 징수 선언은 이란이 미국의 호르무즈해협 개방 요구를 거부하고 폐쇄를 선언한 뒤 나왔다. 미군은 이란에 대한 추가 공격에 나서 방공망과 드론 전력 등을 타격했다. 이로써 이란과 휴전 합의로 종료됐던 이란 항구에 대한 미군의 해상 봉쇄가 3주 만에 재개됐다. 트럼프 대통령은 특히 호르무즈해협을 미국이 관리하고 그 대가를 받겠다는 입장을 밝히며 사실상 해협 통제권 확보 의지를 드러냈다는 평가다. 반면 이란 군은 어떠한 경우에도 미국이 해협 관리에 개입하는 것을 허용하지 않겠다고 반발하고 있어 양측의 충돌이 격화될 가능성이 커 보인다는 평가다. 월스트리트저널(WSJ)은 "양측의 대립은 해협 통제권을 둘러싼 대치 상태가 지속될 가능성을 예고한다"며 "글로벌 석유 시장에 추가적인 압박을 가할 위험이 있다"고 경고했다. 실제 호르무즈 해협을 둘러싼 미국과 이란 간 대치 격화 속에 이날 브렌트유 가격은 배럴당 79달러대까지 오르며 약 4% 상승한 것으로 집계됐다. 호르무즈 통행량 회복세도 이미 꺾이는 등 해상 물류 위축 움직임은 이미 현실화하고 있다는 지적이다. 선박 추적 데이터 업체 케플러(Kpler)는 지난 주말 호르무즈 해협을 통과한 것으로 확인된 선박 수가 전주 대비 절반 이상 감소한 19척에 불과했다고 밝혔다. 이는 미국과 이란 간 예비 평화 협정인 양해각서(MOU)가 체결되기 전과 비슷한 수준으로 케플러는 대부분의 선박이 이란이 승인한 항로나 비밀 경로를 이용했으며, 미국이 지원하는 오만 인근 통로를 통한 통행은 끊겼다고 전했다. WSJ은 미국이 트럼프 대통령이 공언한 대로 호르무즈 해협을 군사적으로 장악하려면 상당한 규모의 지상군 침공이나 위험한 해군 작전이 필요할 것으로 전망했다. 도널드 트럼프 미국 대통령의 트루스소셜 게시글. [사진=트루스소셜] dczoomin@newspim.com 2026-07-14 00:17