전체기사 최신뉴스 GAM
KYD 디데이
산업 재계·경영

속보

더보기

[기고] 문제는 가이드라인이야

기사입력 : 2023년10월23일 08:39

최종수정 : 2023년10월23일 10:13

하민회 이미지21대표(코가로보틱스 마케팅자문)

'니들이 생성형AI를 알아?' 

챗GPT로 대변되는 생성형AI는 등장한지 채 1년도 되지 않아 '모르는 사람은 없지만 다 아는 사람도 없는' 존재가 되었다. 눈 뜨면 신박한 새기술을 선보이며 확실히 전과 다른 AI, 뭐든 다 해낼 수 있을 것 같은 기대를 불러 일으켰지만 그 이면에 숨은 부작용도 만만치 않다.

AI 전망을 조사한 각종 보고서들에 의하면 생성형 AI 기술이 삶의 방식은 물론 업무 방식을 변화시켜 생산성을 획기적으로 향상시킬 것이라는 전망은 지배적이다. 하지만 응답자의 절반가량에 해당하는 기업들이 생성형AI를 도입할 준비를 하지 못한 상태다. 기술 인프라와 인재의 부족, 미진한 구현 로드맵, AI 활용 가이드라인 부재 등이 원인이다.

특히 심각하게 봐야 할 것이 AI 활용 가이드라인의 부재다. 가이드라인은 AI활용에 대한 기업의 정책이자 인재 교육과 직결되는 중요한 사안이기 때문이다.

하민회 이미지21 대표.

챗GPT 도입 초기 삼성 반도체 사업부의 정보유출 사고. 한 엔지니어가 오류 확인 목적으로 챗GPT에 기밀 소스 코드를 붙여 넣었고, 다른 엔지니어는 챗GPT와 코드를 공유해 코드 최적화를 요청했다. 직후 사내 챗GPT사용을 금지한 삼성전자는 연내 자체 생성형AI를 개발해 도입할 계획이라 한다. 강력한 기술일수록 도입에는 사전 준비와 지침이 요구된다는 사실을 확인시켜 준 사례다.

내부정보 유출 사고로 인한 챗GPT 금지령은 국내 기업 만의 일은 아니다. 월스트리트저널(WSJ)에 따르면 미국의 애플, 통신업체인 버라이즌, 뱅크오브아메리카(BofA), 골드만삭스와 씨티그룹 등도 자사 소프트웨어 시스템에서 챗GPT를 자동 차단했다. 이들 기업은 내부정보유출을 물론 자칫 고객 정보나 소스 코드에 대한 통제를 잃을 수 있는 위험을 감수하기보단 챗GPT 사용 금지를 택했다.

글로벌 업무관리 플랫폼 아사나의 '기업 내 AI 활용 현황(The State of AI at Work)' 보고서에 의하면 직장에서 일상적으로 AI를 사용하지만, 직원에게 정확한 AI 활용 지침을 제시하는 기업은 4분의 1일에 불과하다. 전체 응답 직원의 48%가 회사에서 상세한 AI 사용 지침을 알려주길 원했지만 직장에서 AI 사용 지침을 받았다고 답한 비율은 24%에 그쳤다. 또 전체 응답자의 39%는 AI 교육이 입사 결정에 영향을 미친다고 답했다.

생성형AI는 경이로운 속도로 발전하고 있지만 개선되어야 할 점도 많다.

프린스턴대·스탠퍼드대·IBM 공동연구에 의하면 챗GPT 등 대형언어모델(LLM)은 미세조정을 하면 모델의 안전 기능이 떨어진다는 연구결과가 나왔다.

미세조정은 이미 훈련된 모델에 새로운 데이터셋을 넣어 재학습하는 기술이다. 막대한 비용을 들여 자체 LLM을 만들 여력이 부족한 다수의 중소 중견 기업은 미세조정을 통해 맞춤형 AI모델을 구축하는 추세다.

연구진은 LLM에 탑재된 '안전 정렬 인프라 (유해하거나 틀린 답변을 내지 못하도록 제어하는 시스템)'가 미세조정 후 어떻게 변하는지 연구했다. 연구 대상인 챗GPT 3.5 터보 모델은 단 10개의 예시를 통한 미세조정으로 거의 모든 유해한 질문과 명령에 반응을 보였다.

이는 악의적인 의도가 아니더라도 일반적인 데이터셋을 사용한 단순한 미세조정만으로도 LLM의 안전성이 떨어질 수 있음을 의미한다. 연구진은 논문 게재 전 연구 결과를 오픈AI에 공유, API에 새로운 안전 개선 사항을 통합할 수 있도록 제언했다.

이제 미세조정 시장에도 안전정렬에 대한 새로운 가이드라인이 생기게 된 셈이다.

생성형AI 활용 가이드라인 못지 않게 AI윤리 가이드라인의 필요성도 커지고 있다.

최근 MS는 생성형AI를 활용한 콘텐츠의 심각성을 점수화해 정책 준수 여부를 쉽게 확인할 수 있는 서비스를 출시했다. 증오나 폭력 같은 잠재적으로 유해한 콘텐츠를 감지해 이를 심각성 점수로 표시함으로써 기업 정책에 근거해 차단하거나 플래그 표식 등으로 콘텐츠 서비스를 맞춤화 할 수 있고 사용 목적과 사례에 맞춰 세분화된 검수 기준을 설정하는 것도 가능하다.

에너지 기업 쉘(Shell)의 경우 자체 개발한 생성 AI 플랫폼을 통해 애플리케이션을 구축하고 배포하는데, 이 과정에서 MS의 서비스를 통해 부적절하거나 유해한 콘텐츠를 거르고 온라인 공개 이전에 관련 정책의 준수 여부를 확인한다.

서구에 비해 보수적인 데다 미성년자 인증제도까지 있어 AI윤리 기준 설정에 어려움을 겪고 있는 국내 콘텐츠 기업들의 경우 AI 윤리가이드라인 준수 여부를 스스로 테스트해볼 수 있는 진단키트나, 관련 법률서비스 등 정책 당국의 현실적이고 구체적인 가이드라인이 절실하다고 말한다.

생성형 AI는 노동의 본질을 바꾸었다. 단순하고 반복되는 번거로운 업무는 AI에게 시키고 인간은 보다 창의적이고 의미로운 일을 하라 한다. 하지만 많은 이들이 동의하지 못한다. AI가 주는 편익과 여유를 누리기커녕 AI 활용조차 익숙하지 않는데 변화의 속도가 무섭기 때문이다. 어쩌면 우리 모두는 성취감, 경제적 안정성, 정체성에 타격을 느끼고 있을지 모른다.

가이드라인이 필요하다. 가이드라인은 혼란을 최소화시키고 방향을 제시하는 역할을 한다. 경험해보지 못한 일에 대한 불안감을 줄이고 치명적인 실수를 방지할 수 있도록 돕는다.

AI 활용 가이드라인이든 AI 윤리 가이드라인이든 지침이 있어야 한다. 급변하는 AI기술 앞에 처음부터 완벽한 가이드라인은 기대하기 어렵다.

최소한이라도 가장 핵심적인 지침을 세우고 기술 발전과 함께 지속적으로 다듬어가야 한다. 지금 당장 우리가 해야 할 창의적이고 의미로운 일은 AI 가이드라인을 세우는 일이다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[관련기사]

[뉴스핌 베스트 기사]

사진
'소년공'에서 대통령까지…이재명은 누구? [서울=뉴스핌] 박성준 기자 = '흙수저' 출신 이재명 더불어민주당 대선 후보가 4일 제21대 대통령으로 당선됐다. 1964년 12월 22일 경북 안동에서 태어난 그는 가난한 집안에서 성장했으며, 경제적 어려움으로 경기도 성남시 상대원공단에서 5년간 '소년 노동자'로 일하며 생계를 이어갔다. 검정고시로 중학교와 고등학교 학력을 취득했고, 중앙대학교 법학과에 장학생으로 진학해 1986년 제28회 사법시험에 합격했다. 이재명 대통령은 당시 변호사로서 산업재해 피해자, 노동자 등 사회적 약자를 위한 소송을 맡았다. 성남시립의료원 설립 운동과 지역사회 부정부패 고발 등 시민운동을 주도하며 사회 문제 해결에 적극 참여했다. 이러한 활동을 통해 정치의 필요성을 느껴 2006년 열린우리당 소속으로 성남시장 선거에 처음 출마했으나 낙선했고, 2010년 제5회 지방선거에서 성남시장에 당선됐다. 성남시장으로 재임하면서 무상교복, 청년배당, 시립의료원 설립 등 복지 정책을 도입하고 재정개혁을 추진했다. 특히 2015년에는 국내 최초로 기본소득 개념을 도입한 '청년배당' 정책을 추진해 주목을 받았다. [서울=뉴스핌] 윤창빈 기자 = 제21대 대통령 당선이 확실시 되는 이재명 더불어민주당 대선 후보가 4일 서울 여의도 국회 정문 앞에 마련된 개표방송 야외무대에서 연설을 하고 있다. 2025.06.04 pangbin@newspim.com  이후 2018년 제7회 전국동시지방선거에서 경기도지사로 선출돼 2021년 10월 25일까지 재임하며, 경기도 전역으로 복지정책을 확대하고 재정 건전성을 강화했다는 평가를 받았다. 성남시장과 경기도지사 재임 중 추진한 복지·개혁 정책으로 전국적인 주목을 끌었다. 2022년 8월 더불어민주당 제5차 전당대회에서 77.8%의 득표율로 당대표로 선출됐다. 앞서 2021년 민주당 경선에서 50.29%의 득표율로 제20대 대통령 선거 후보로 확정됐으나, 윤석열 당시 국민의힘 대선 후보에 0.73%p 차이로 낙선했다. 이후 21대 대선 경선에서는 '어대명'(어차피 대통령은 이재명)이라는 신드롬을 형성하며 지지를 모았다. 그는 정치 경력 전반에서 가족과 관련된 논란으로 주목받았다. 부인 김혜경 씨의 법인카드 유용 의혹, 아들의 도박 및 성적 게시글 논란, 친형 강제입원 논란 등 가족 문제는 꾸준히 제기됐다. 국회에서는 그의 체포동의안이 2023년 9월 21일 가결됐고, 위증교사, 대장동, 백현동 개발 등과 관련한 사법적 절차가 이어졌다. 관련 사건들에 대해서는 일부 무죄 판결이나 불기소 결정이 내려졌고, 일부 사건은 재판이 진행 중이다. 이 대통령은 민생, 복지, 공정, 민주주의 등 위기 극복을 국정 방향으로 제시했다. 출생기본소득, 사립대 등록금 완화, 남북관계 개선 등 공약을 통해 민생경제와 사회적 약자 지원을 주요 과제로 설정했다. 아울러 경제 불평등 해소, 사회적 약자 보호, 지역균형 발전 등 정책 과제를 강조하며 취임 초 국정 운영의 기조를 밝혔다. [서울=뉴스핌] 정일구 기자 = 이재명 더불어민주당 대선 후보가 2일 오후 서울 여의도공원 문화의마당에서 열린 마지막 유세에서 애국가를 부르고 있다. 2025.06.02 mironj19@newspim.com 이 대통령은 자신의 정치 경력과 맞닿아 있는 경제적 약자 정책을 통해 복지와 공정에 방점을 찍었다. 실용, 미래비전을 강조하며 청년층의 일자리, 자산 형성, 주거 안정, 사회 안전망 강화를 위한 다양한 정책을 발표하기도 했다. 공약 이행을 위한 재원 확보와 정책 추진은 앞으로 국정 운영에서 중요한 과제로 남아 있다. 정치 경력 외적으로 이재명 대통령은 가족과의 갈등, 어린 시절의 경제적 어려움 등을 수차례 언급했다. 그는 과거를 돌아보며 가족 간 갈등과 빈곤을 극복하는 과정을 개인적으로 중요한 계기로 설명해 왔다. 이러한 개인사와 정치 경력은 이재명 대통령의 이미지를 형성하는 요소로도 함께 거론되고 있다. 그는 취임 초기 국정 과제를 중심으로 업무를 준비할 전망이다. 출생기본소득, 사립대 등록금 완화, 남북관계 개선 등 공약 이행에 따른 정책 결정과 추진, 재정 부담 문제 등이 현안으로 부각되고 있다. 가족과 관련된 논란, 사법 리스크 등은 앞으로도 정치적 논쟁의 한 축으로 계속 제기될 것으로 관측된다. 그의 당선은 대한민국 정치사에서 대표적인 '흙수저' 출신 대통령으로 기록된다. 이 대통령 출신과 정치 경력, 복지·개혁 중심의 정책 기조는 향후 국정 운영의 방향을 가늠하는 주요 지표로 꼽히고 있다. 앞으로의 행보는 취임 초기 공약 이행과 동시에 정치적 신뢰와 국민통합 과제에 직면할 것으로 보인다. parksj@newspim.com 2025-06-04 02:34
사진
이재명 49.42 김문수 41.15 이준석 8.34% [서울=뉴스핌] 박성준 기자 = 제21대 대통령선거에서 이재명 더불어민주당 후보가 최종 승리를 확정지었다. 중앙선거관리위원회가 4일 오전 발표한 개표 결과에 따르면 이 후보는 총 1728만7513표(득표율 49.42%)를 얻어 제21대 대통령으로 당선됐다. 김문수 국민의힘 후보는 1439만5639표(41.15%)를 기록해 2위에 머물렀다. 두 후보 간 표 차이는 약 220만 표로 벌어졌다. 이준석 개혁신당 후보는 291만7523표(8.34%)를 득표했다. 권영국 민주노동당 후보는 34만4150표(0.98%), 무소속 송진호 후보는 3만5791표(0.10%)를 각각 얻었다. [서울=뉴스핌] 윤창빈 기자 = 제21대 대통령 당선이 확실시 되는 이재명 더불어민주당 대선 후보가 4일 서울 여의도 국회 정문 앞에 마련된 개표방송 야외무대에서 인사를 하고 있다. 2025.06.04 pangbin@newspim.com 이재명 후보는 호남권에서 압도적인 지지를 받았다. 광주(84.77%), 전남(85.87%), 전북(82.65%)에서 80%를 넘는 득표율을 기록하며 전체 승리를 견인했다. 최대 승부처로 꼽혔던 수도권에서도 우위를 보였는데, 서울에서는 47.13%, 인천에서는 51.67%를 기록했다. 특히 경기도에서는 52.20%의 득표율로 과반을 확보해 승리를 굳혔다. 반면 김문수 후보는 대구(67.62%), 경북(66.87%), 경남(51.99%) 등 영남권에서 강세를 보이며 지지 기반을 결집했다. 부산에서도 51.39%를 득표해 이재명 후보(40.14%)를 앞섰으나, 수도권과 호남에서의 열세를 극복하지는 못했다. 이준석 후보는 세종(9.89%), 제주(8.83%), 대전(9.76%) 등에서 두 자릿수에 육박하는 지지를 받았다. 권영국 후보는 노동과 진보정치의 메시지를 내세웠지만 1% 미만의 득표율에 그쳤고, 무소속 송진호 후보도 상징적 득표에 머물렀다. 이번 대선의 최종 투표율은 79.42%로 집계됐다. 전체 선거인 수는 4439만1871명이며, 투표자 수는 3523만6497명, 유효투표수는 3498만616표, 무효표는 25만5881표였다. 중앙선관위는 이날 오전 중으로 최종 당선인을 공식 발표할 예정이다. parksj@newspim.com 2025-06-04 05:25
안다쇼핑
Top으로 이동