[김정호의 4차 혁명 오딧세이] 인공지능 윤리선언 필요하다

기사입력 : 2018년07월09일 08:00

최종수정 : 2018년07월09일 08:16

인공지능이 인간에게 위협적인 이유

인공지능은 강력한 그래픽 프로세서(GPU)와 메모리를 장착한 컴퓨터에 빅데이터를 이용해서 학습시키면 인간보다 뛰어난 역량을 발휘할 수 있다. 빅데이터만 충분하고, 강력한 컴퓨터 성능을 가지면 인간보다 빠르게 학습하고, 기억을 영원히 무한대로 유지하면서, 대량의 작업을 빠른 속도로 정확하게 수행한다.

뿐만 아니라 인간보다 정확하게 미래 예측을 할 수 있다. 따라서 우리는 새로운 삶의 방식과 일자리를 창출해야 한다. 이것을 4차 산업혁명이라 부른다.

인공지능을 잘 활용하면 인간에게 이롭게 작용할 수 있다. 컴퓨터가 인간의 뇌 활동을 대신함으로써 인간에게 시간을 절약해 준다. 남은 시간을 인간이 여가 활동이나 창조적인 활동, 인류에 봉사하는 활동에 시간을 쓸 수 있게 해 준다.

뿐만 아니라 인공지능을 통해서 미래를 정확하게 예측함으로써 국가, 사회, 기업, 개인에게 노동, 자원, 그리고 자본을 절약할 수 있는 기회를 준다. 따라서 지구 속에 인간 생존을 영속할 수 있는 기회를 만들어 준다. 궁극적으로 인간에게 노동, 자원, 에너지, 시간에 대한 구속을 석방하고, 자유를 선사할 수 있다.

그러나 마찬가지로 인공지능은 인류에게 매우 위협적이다.

먼저 대부분의 단순 사무직 직업은 컴퓨터가 대체하게 된다. 사람과 같이 52시간 노동 시간 제한도 없다. 일하는 동안 졸지도 않는다. 불평도 없다. 노조도 없다. 직업에서 인간 통제를 완전히 벗어 날 수 있다. 경우에 따라 지능이 더 발전하여 인간의 통제를 벗어나 인간이 인공지능에 종속될 가능성도 가정해 볼 수 있다.

더 나아가 경제적인 부분에서도 인간 사회에 고민을 만든다. 인공지능은 돈을 쓰지 않는다. 세금을 내고 있지 않다. 따라서 현재의 자원, 생산, 소비, 유통, 세금 등으로 이루어진 경제 원리와 체계가 완전히 달라질 수 있다. 평화로운 인간 사회의 균형과 질서가 소멸될 수 있다.

인공지능의 핵심 기술이 딥러닝 뉴럴 네트워크의 개념. [출처 : KAIST]

구글의 인공지능 7가지 원칙

최근 구글이 '메이븐 프로젝트'라 불리는 프로젝트를 통해서 미국 국방부와 인공지능을 활용한 무기 성능 향상 프로젝트에 참여한 것이 문제가 됐다. 논란끝에 구글 직원들의 반대로 '메이븐 프로젝트'가 철회되었다. 이후 구글은 "우리는 인공지능을 활용한 자율작동 무기 개발에는 참여하지 않는다는 원칙을 정했다"고 밝혔다.

구글은 더 나아가 7가지 인공지능 원칙도 발표했다. 그 7가지 원칙은 다음과 같다. 인공지능을 이용하여 개발하고 연구함에 있어서 “(1) 사회적으로 유익하며, (2) 불공정한 편향을 만들어내거나 강화하지 않고, (3) 안전성을 우선으로 설계하고, (4) 인간을 위해 책임을 다하며, (5) 개인정보를 보호하고, (6) 과학적 우수성에 대한 높은 기준을 유지하는, (7) 이러한 원칙에 부합하는 용도에만 활용한다”는 원칙이다. 덧붙여 구글 CTO 제프 딘은 "구글의 엔지니어 2만명은 인공지능 원칙에 관한 교육과정을 다 거쳤다”다고 밝혔다.

지난 6월 16일 서울에서 열린 'AI with Google 2018' 에서 구글의 인공지능 개발 현황을 발표하고 있는 구글 CTO 제프 딘, [출처: 구글 코리아]

15가지 인공지능 윤리선언

이러한 배경하에 '인공지능 윤리선언'을 고려할 필요가 있다고 생각한다. 그래서 필자는 다음과 같은 15가지 '인공지능 윤리선언'을 제안한다.

(1) 인공지능은 인간의 생명과 존엄성을 최고의 가치로 지킨다.

(2)인공지능은 인류의 자유, 평화, 평등, 정의를 수호하고 인류의 번영과 지속에 기여한다.

(3)인공지능은 인류의 보편적 윤리에 반하는 어떠한 결정과 행동을 하지 않는다.

(4) 인공지능은 인간을 사랑하고 인류 역사를 존중한다.

(5) 인공지능은 인간을 공격하지 않는다.

(6)인공지능 학습에 필요한 데이터는 인류의 보편적 윤리와 가치를 반영한다.

(7)인공지능 학습에 필요한 데이터를 인위적으로 조작하지 않는다.

(8)인공지능은 결혼하지 않고, 자식을 낳지 않는다.

(9)인공지능의 복제 숫자는 제한한다.

(10)인공지능의 수명을 제한한다.

(11)인공지능의 메모리 용량을 제한한다.

(12)인공지능의 전력 소비를 인간의 수준으로 제한한다.

(13)인공지능은 그를 이용한 이윤에 대해서 사회에 세금으로 보답한다.

(14)인류에 해를 가하는 인공지능은 영원히 삭제한다. 그 권리는 최종적으로 인간이 갖는다.

(15)인공지능의 전기 공급 차단 권한은 최종적으로 인간이 갖는다.

이러한 인공지능 윤리에 대한 논란을 통해서 인공지능의 순기능을 강화하고, 인공지능이 갖고 올 수 있는 미래 재난을 사전에 방지할 필요가 있다.

joungho@kaist.ac.kr

[카이스트 전기 및 전자공학과 교수]

[관련키워드]

KAIST

GAM - 해외주식 투자 도우미

코디악 ② 망막 질환 바이오테크의 새 이정표

코디악 ① 당뇨망막병증 3상 성공에 74% 폭등

[홍콩 대장주] 메이퇀 ③ 신성장 동력의 '폭발적 성장'

[홍콩 대장주] 메이퇀② 실적은 고속 상승, 밸류는 역대 저점

[뉴스핌 베스트 기사]

사진

타이거 우즈 탄 차량 전복·체포 [서울=뉴스핌] 이웅희 기자·한지용 인턴기자 = '골프 황제' 타이거 우즈(50)가 또 '음주 또는 약물 운전'(DUI·Driving Under the Influence) 혐의에 연루돼 체포됐다. 미국 ABC 방송과 AP통신 등에 따르면 우즈는 28일(한국시간) 미국 플로리다주 마틴 카운티 주피터 아일랜드 인근 도로에서 차량을 운전하던 중 사고를 일으킨 뒤 경찰에 체포돼 구금됐다. [서울=뉴스핌] 박상욱 기자 = 타이거 우즈. [사진=로이터] 2026.03.19 psoq1337@newspim.com 사고는 이날 오후 2시를 넘긴 시점에 발생했다. 우즈가 몰던 차량은 왕복 2차선 도로에서 다른 차량과 충돌한 뒤 전복된 것으로 전해졌다. 우즈는 큰 부상을 입지 않은 것으로 확인됐다. 다만 현장에 출동한 경찰은 우즈의 상태를 확인하는 과정에서 음주 또는 약물 영향 아래 운전을 했다고 의심했고, 곧바로 체포했다. 현재까지 우즈가 술에 취한 상태였는지, 약물 복용에 따른 것인지는 명확히 밝혀지지 않았다. 우즈의 교통사고는 이번이 처음이 아니다. 그는 2021년 2월 미국 캘리포니아주 로스앤젤레스 인근에서 차량 전복 사고를 당해 다리 등에 중상을 입고 장기간 재활 치료를 받은 바 있다. 당시 경찰은 과속과 운전 부주의를 사고 원인으로 지목했으며, 음주나 약물 정황은 없다고 결론 내렸다. 타이거 우즈. [사진=로이터] 또한 우즈는 2017년에도 DUI 혐의로 체포된 전력이 있다. 당시 그는 도로변에 정차된 차량 운전석에서 잠든 채 발견됐으며, 진통제 복용 상태였다고 진술했다. 이후 법정에서 혐의를 인정하고 벌금과 보호관찰, 사회봉사 등의 처분을 받았다. 우즈는 지난해 9월 일곱 번째 허리 수술을 받은 후 선수 생활 연장을 준비해 왔다. 우즈는 다음달 9~12일 열리는 마스터스 출전 여부를 아직 고민 중인 것으로 알려졌다. 또 다음해 열리는 아일랜드 라이더 컵의 미국 단장직 승낙 여부도 이달말까지 결정해야 하는 상황이다. football1229@newspim.com 2026-03-28 08:59

사진

'삼전닉스' 흔든 구글 '터보퀀트' [서울=뉴스핌] 서영욱 기자 = 구글이 공개한 새 기술 '터보퀀트(TurboQuant)가 인공지능(AI) 반도체 시장에 파장을 일으키고 있다. KV(key-value) 캐시를 압축해 메모리 사용량을 최대 6분의 1 수준으로 줄이면서 비용과 속도를 동시에 개선한 것이 핵심이다. 다만 비용 하락이 AI 확산을 자극하는 '제번스 역설'이 작동할 경우, 고대역폭메모리(HBM)와 같은 고성능 메모리 수요는 오히려 확대될 수 있다는 전망이 나온다. [AI 인포그래픽=서영욱 기자] ◆메모리 6분의 1로…속도까지 끌어올린 '터보퀸트'27일 반도체업계에 따르면 구글이 지난 24일(현지시간) 공개한 '터보퀀트'는 대규모언어모델(LLM)의 핵심 병목으로 꼽히는 메모리 사용량을 획기적으로 줄이는 기술로, 비용과 속도를 동시에 개선할 수 있는 해법으로 주목을 받는다. LLM은 문장을 생성할 때 이전 대화 내용을 'KV 캐시' 형태로 저장해 활용한다. KV 캐시는 모델이 이미 처리한 단어들의 정보를 임시로 저장해두는 일종의 '작업 메모리'로, 같은 계산을 반복하지 않고 다음 문장을 빠르게 생성하도록 돕는 역할을 한다. 대화가 길어질수록 이 캐시가 기하급수적으로 늘어나며 GPU 메모리를 빠르게 소모한다. 그동안 업계는 연산 성능을 높이는 데 집중해왔지만, 실제 서비스 환경에서는 메모리 한계가 속도 저하와 비용 상승의 주요 원인으로 지목돼 왔다. 터보퀀트는 이 지점을 겨냥한 기술이다. 핵심은 데이터를 저장하는 방식을 바꿔 같은 정보를 훨씬 적은 용량으로 담아내는 데 있다. 기존에는 복잡한 수치 데이터를 그대로 저장했다면, 터보퀀트는 이를 '크기(magnitude)와 방향(direction)'으로 단순화해 표현한다. 구조 자체를 바꿔 압축 효율을 끌어올린 셈이다. 여기에 압축 과정에서 발생할 수 있는 오차를 최소한의 정보로 보정하는 방식이 더해졌다. 극히 적은 추가 데이터로 오류를 보정해 정확도를 유지하는 구조다. 이 덕분에 기존 압축 기술의 한계였던 성능 저하 문제를 피할 수 있었다. 구글에 따르면 터보퀀트를 적용하면 KV 캐시 메모리를 최대 6분의 1 수준으로 줄일 수 있다. 저장 용량도 기존 16~32비트에서 약 3비트 수준까지 낮아진다. 메모리 사용량이 줄어들면서 연산 속도도 함께 개선돼, 일부 환경에서는 최대 8배까지 처리 속도가 향상된 것으로 나타났다. 특히 별도의 재학습 없이 기존 모델에 적용할 수 있다는 점도 장점으로 꼽힌다. ◆메모리주 급락에도…"수요 감소는 과도한 우려"터보퀀트가 공개되자 글로벌 금융시장이 출렁였다. 메모리 사용 효율이 크게 개선될 경우 향후 반도체 수요가 위축될 수 있다는 우려가 반영되면서 메모리 관련 종목이 일제히 하락했다. 미국 증시에서는 마이크론을 비롯한 메모리 업체 주가가 급락했고, 국내에서도 삼성전자와 SK하이닉스 주가가 동반 약세를 보였다. 다만 반도체업계에서는 이를 구조적 수요 감소로 해석하기에는 이르다는 분석이 우세하다. 터보퀀트가 메모리 사용량을 줄이는 것은 사실이지만, 이는 개별 AI 모델 단위의 효율 개선일 뿐 전체 수요 감소로 직결되지는 않는다는 것이다. 오히려 비용 절감을 통해 AI 서비스 확산을 가속화할 경우 전체 메모리 수요는 증가할 수 있다는 관측도 나온다. 특히 고대역폭메모리(HBM)와 같은 고성능 메모리는 단순 저장 용량보다 데이터 처리 속도와 대역폭이 핵심 경쟁력인 만큼, 터보퀀트와 직접적인 대체 관계에 있지 않다는 분석도 제기된다. 메모리 효율화 흐름과는 별개로 고성능 메모리 수요는 성장세를 이어갈 가능성이 크다는 분석이다. 지난 18일 오전 경기 수원시 영통구 수원컨벤션센터에서 열린 '제57기 삼성전자 정기주주총회'에서 주주들이 HBM4, HBM4E 메모리를 보고 있다. [사진=뉴스핌DB] ◆효율 높일수록 수요 늘어…'제번스 역설' 재현할 수도효율이 높아질수록 오히려 수요가 늘어나는 '제번스의 역설'이다. 기술 발전으로 비용이 낮아지면 활용 범위가 확대되고, 결과적으로 전체 수요가 증가하는 현상이다. 이 같은 흐름은 과거 산업 사례에서도 확인된다. 1990년대 인터넷 확산 초기에는 이메일과 디지털 문서 도입으로 종이 사용량이 줄어들 것이라는 전망이 우세했지만, 실제로는 PC와 프린터 보급, 웹 문서 출력 증가가 맞물리며 오히려 종이 사용량이 급증한 바 있다. 업계에서는 이를 효율 개선이 수요 감소로 이어지지 않고 오히려 전체 수요를 확대시키는 '리바운드 효과'의 대표 사례로 보고 있다. AI 역시 유사한 경로를 따를 가능성이 크다는 분석이다. 실제 최근 사례에서도 유사한 흐름이 나타났다. 저비용·고효율 AI 모델을 내세운 딥시크(DeepSeek) 공개 당시 반도체 업종 주가가 단기 급락했지만, 이후 AI 수요 확대 기대가 반영되며 빠르게 회복세를 보였다. 김일혁 KB증권 연구원은 "터보퀀트로 메모리 사용 효율이 개선되더라도 수요 감소로 직결되기보다는 AI 활용 확대를 통한 수요 증가 요인으로 작용할 가능성이 크다"고 분석했다. 이어 "컨텍스트 윈도우 확대와 AI 에이전트 확산, 온디바이스 AI 성장 등이 맞물리면서 메모리 수요는 구조적으로 확대될 것"이라고 덧붙였다. syu@newspim.com 2026-03-27 16:54