하민회 이미지21대표(코가로보틱스 마케팅자문)
생성형AI 바람이 거세다. 오픈AI의 챗GPT에 이어 구글도 챗봇 바드를 공개했다. 180개국에 공개된 바드는 우선 지원언어로 한국어와 일본어를 택했다. 사용자 수가 많은 스페인어나 중국어가 아닌 한국어를 택한 이유로 한국의 IT기술에 대한 빠른 피드백과 영어와 완전히 다른 언어체계에서 오는 기술적 도전을 꼽았다.
구글의 속내를 정확히 파악하긴 쉽지 않지만 생성형AI 기술의 첨단에 거론되며 발 맞추는 대열에 서 있다는 건 뿌듯한 일이다. 바드의 론칭으로 챗GPT, MS의 빙과 함께 생성형AI 3파전이 본격화 되었다.
생성형AI의 예상을 뛰어 넘는 확산 속도에 AI윤리와 신뢰성에 대한 전 세계적인 우려도 커지고 있다. 생성AI의 그럴듯한 거짓말인 환각현상, 생성 AI가 불러온 저작권과 표절 문제 등 논란이 계속 되고있기 때문이다. 제프리 힌튼, 스티브 워즈니악 등 전문가들의 AI의 위험성 경고와 규제 촉구의 목소리도 한몫을 했다.
유럽의회는 인공지능법 초안을 개정했다. AI 제조사가 제품 출시 전 건강, 안전, 기본권, 환경, 민주주의 및 법치에 대한 예측 가능한 위험 등의 사항을 고려해야 한다는 의무를 부과했다.
주요 내용은 다음과 같다. ▲생성 AI 서비스 업체는 콘텐츠가 AI를 통해 생성되었다는 사실을 알려야 한다 ▲생성 콘텐츠와 관련해 적절한 안전장치를 적용해야 한다 ▲AI를 학습시키는 데 사용된 저작권이 있는 데이터 요약을 제공할 의무가 있다 ▲등의 항목으로 생성 AI의 투명성 강화를 시도했다. 원격 생체 인식을 금지하는 등의 내용도 포함했다
 |
| 하민회 이미지21 대표. |
우리 정부도 세계 최초 AI법 마련을 위해 과기정통부와 방송통신위원회, 정보통신정책연구원 등을 중심으로 기업 및 학계 전문가들과 머리를 맞대고 노력 중이다. 2월에 초· 중·고등학생을 대상으로 한 '인공지능 윤리교육' 교재가 출간됐다.
인공지능(AI) 윤리기준의 3대 원칙과 10대 요건 등이 설명되어 있다. 네이버 카카오 등 국내기업들도 사내 AI윤리준칙을 세우고 기업문화로 정착시키겠다는 의지를 보이고 있다. IT강국 다운 바람직한 행보다.
인공지능은 기본적으로 인간의 지능을 모방하는 기술이다. 다양한 분야에 유용하게 활용되는 대단한 기술이지만 실제로 써 보면 기대처럼 긍정적인 결과만 낳는 것은 아니다. 신속하고 쉽게, 놀라울만한 생산성을 추구하다보니 오히려 인간의 권리나 가치를 침해할 수 있다. AI 기술이 일찍부터 인공지능 윤리라는 분야와 나란히 발전해 온 이유기도 하다.
생성형AI 등장 이후 우리의 두려움은 더 커졌다. AI에 의해 생성된 이미지와 글은 가짜 뉴스로 활용되기에 충분하고 짧은 시간에 세상을 혼돈에 빠뜨릴 수도 있다. 잘못된 편견이나 차별을 조장해 양극화를 심화시키고 증오 사회로 끌어갈 수도 있다. 보이스피싱, 딥페이크 등 범죄에 악용 우려도 있고 개인정보나 사생활을 침해할 가능성도 크다. 더 근본적으로는 AI 만능주의에 따른 창의력·사고력의 고갈, 인간관계의 단절과 인간성 상실에 대한 우려도 예상된다.
최근 전 세계에서 AI 윤리가 강조되는 건 인터넷에서의 과도한 자유와 소셜미디어 방치의 부작용을 경험했기 때문이다. 일이 벌어진 다음엔 늦으니 AI발전으로 예상되는 부작용과 범죄의 가능성을 사전에 차단해야 한다는 전 인류적 공감인 셈이다.
인간에게 해당되는 개념인 윤리를 인간이 만들어 낸 기술에 적용하는 것이 다소 난해하게 느껴질 수도 있다. 하지만 AI윤리는 대단한 인문학적 철학을 알고리즘화 하는 것이 아니다. 오히려 인공지능 기술을 실제 구축하고 사용할 때 따라야 할 원칙과 가이드라인의 일종에 가깝다.
개발사 입장에서는 법에 기반을 두고 인공지능이 어떤 식으로 구축되고, 어떤 과정을 거쳐 어떤 결과를 내며, 사용자와는 어떤 식으로 상호작용을 했으면 좋겠다고 결정하는 것이며 그 과정에서 인간존엄을 지키고, 공평하고, 투명하며, 프라이버시를 보호하는 일들이 반드시 지켜지도록 하자는 식의 자율적인 도덕 규범이다.
강제성이 없는 자율규범인만큼 힘이 미미하니 법률적 규제를 강화해야 한다는 주장도 있다. 그렇지만 자고 일어나면 관련 신기술이 발표되는 급발전의 속도를 따라가기엔 확실히 무리다.
2021년 글로벌 컨설팅사 PwC의 조사에 의하면 AI 윤리 프레임워크를 갖춘 기업들은 20%도 되지 않는다. AI윤리 시스템이나 프로세스 개선 계획을 가진 기업도 채 35%에 못미친다. 심지어 MS는 빙의 발표를 앞두고 인공지능 윤리사회팀 전원을 해고했다. 시장 선점에 대한 압박으로 인해 AI윤리는 내던진 모습이다.
사람들은 진짜와 가짜의 경계, 현실과 스토리의 구분이 모호해지면 옳은 판단을 하기 어려워진다. 의심하고 확인하고 재고하는 것 같은 당연시 해야 할 과정을 간과하기 쉬워진다.
AI윤리를 확립하는 건 마치 공중보건사에 있어 '비누로 손씻기' 와 같다. 19세기 병원균에 대한 개념이 정립되지 않았던 시절, 비위생적인 병원 환경 속에서 의사들은 맨손으로 환자를 진료했다. 의사의 손이 감염원이 되기도 하고 매개가 되기도 했다.
헝가리 의사 젬멜바이츠는 진료 대상이 바뀔 때마다 염소로 손을 씻으면 원인을 알 수 없는 감염률과 치사량을 현저하게 떨어뜨릴 수 있음을 발견하고 널리 전했다. 이른바 예방법의 발견이었다. 처음엔 의료계를 설득하기도 쉽지 않았던 이 '손위생'은 이후 의료와 공중보건에 있어 가장 효과 좋은 강력한 질병예방법으로 밝혀졌고 판데믹을 거치며 사람들의 일상 속에 습관으로 자리잡았다.
본격적인 AI 시대가 열리고 있다. 윤리 문제가 제대로 반영되지 알고리즘을, 출시 후에 되돌린다는 건 굉장히 복잡하고 어려운 일이 될 수 있다. 사실상 처음부터 완전무결한 AI 애플리케이션은 기대하기는 어렵다.
개발자부터 운영자, 사용자, 이해당사자 모두 AI윤리 기준을 공유하고 실천하며 확인하고 점검하며 AI기술을 발전시키는 일이야 말로 일상의 모든 습관이 변화하는 웹3.0 시대에 비누로 손씻기같은 강력한 문제 예방법이 아닐까?
◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등
