전체기사 최신뉴스 GAM 라씨로
KYD 디데이
산업 재계·경영

속보

더보기

[기고] 문제는 가이드라인이야

기사입력 : 2023년10월23일 08:39

최종수정 : 2023년10월23일 10:13

하민회 이미지21대표(코가로보틱스 마케팅자문)

'니들이 생성형AI를 알아?' 

챗GPT로 대변되는 생성형AI는 등장한지 채 1년도 되지 않아 '모르는 사람은 없지만 다 아는 사람도 없는' 존재가 되었다. 눈 뜨면 신박한 새기술을 선보이며 확실히 전과 다른 AI, 뭐든 다 해낼 수 있을 것 같은 기대를 불러 일으켰지만 그 이면에 숨은 부작용도 만만치 않다.

AI 전망을 조사한 각종 보고서들에 의하면 생성형 AI 기술이 삶의 방식은 물론 업무 방식을 변화시켜 생산성을 획기적으로 향상시킬 것이라는 전망은 지배적이다. 하지만 응답자의 절반가량에 해당하는 기업들이 생성형AI를 도입할 준비를 하지 못한 상태다. 기술 인프라와 인재의 부족, 미진한 구현 로드맵, AI 활용 가이드라인 부재 등이 원인이다.

특히 심각하게 봐야 할 것이 AI 활용 가이드라인의 부재다. 가이드라인은 AI활용에 대한 기업의 정책이자 인재 교육과 직결되는 중요한 사안이기 때문이다.

하민회 이미지21 대표.

챗GPT 도입 초기 삼성 반도체 사업부의 정보유출 사고. 한 엔지니어가 오류 확인 목적으로 챗GPT에 기밀 소스 코드를 붙여 넣었고, 다른 엔지니어는 챗GPT와 코드를 공유해 코드 최적화를 요청했다. 직후 사내 챗GPT사용을 금지한 삼성전자는 연내 자체 생성형AI를 개발해 도입할 계획이라 한다. 강력한 기술일수록 도입에는 사전 준비와 지침이 요구된다는 사실을 확인시켜 준 사례다.

내부정보 유출 사고로 인한 챗GPT 금지령은 국내 기업 만의 일은 아니다. 월스트리트저널(WSJ)에 따르면 미국의 애플, 통신업체인 버라이즌, 뱅크오브아메리카(BofA), 골드만삭스와 씨티그룹 등도 자사 소프트웨어 시스템에서 챗GPT를 자동 차단했다. 이들 기업은 내부정보유출을 물론 자칫 고객 정보나 소스 코드에 대한 통제를 잃을 수 있는 위험을 감수하기보단 챗GPT 사용 금지를 택했다.

글로벌 업무관리 플랫폼 아사나의 '기업 내 AI 활용 현황(The State of AI at Work)' 보고서에 의하면 직장에서 일상적으로 AI를 사용하지만, 직원에게 정확한 AI 활용 지침을 제시하는 기업은 4분의 1일에 불과하다. 전체 응답 직원의 48%가 회사에서 상세한 AI 사용 지침을 알려주길 원했지만 직장에서 AI 사용 지침을 받았다고 답한 비율은 24%에 그쳤다. 또 전체 응답자의 39%는 AI 교육이 입사 결정에 영향을 미친다고 답했다.

생성형AI는 경이로운 속도로 발전하고 있지만 개선되어야 할 점도 많다.

프린스턴대·스탠퍼드대·IBM 공동연구에 의하면 챗GPT 등 대형언어모델(LLM)은 미세조정을 하면 모델의 안전 기능이 떨어진다는 연구결과가 나왔다.

미세조정은 이미 훈련된 모델에 새로운 데이터셋을 넣어 재학습하는 기술이다. 막대한 비용을 들여 자체 LLM을 만들 여력이 부족한 다수의 중소 중견 기업은 미세조정을 통해 맞춤형 AI모델을 구축하는 추세다.

연구진은 LLM에 탑재된 '안전 정렬 인프라 (유해하거나 틀린 답변을 내지 못하도록 제어하는 시스템)'가 미세조정 후 어떻게 변하는지 연구했다. 연구 대상인 챗GPT 3.5 터보 모델은 단 10개의 예시를 통한 미세조정으로 거의 모든 유해한 질문과 명령에 반응을 보였다.

이는 악의적인 의도가 아니더라도 일반적인 데이터셋을 사용한 단순한 미세조정만으로도 LLM의 안전성이 떨어질 수 있음을 의미한다. 연구진은 논문 게재 전 연구 결과를 오픈AI에 공유, API에 새로운 안전 개선 사항을 통합할 수 있도록 제언했다.

이제 미세조정 시장에도 안전정렬에 대한 새로운 가이드라인이 생기게 된 셈이다.

생성형AI 활용 가이드라인 못지 않게 AI윤리 가이드라인의 필요성도 커지고 있다.

최근 MS는 생성형AI를 활용한 콘텐츠의 심각성을 점수화해 정책 준수 여부를 쉽게 확인할 수 있는 서비스를 출시했다. 증오나 폭력 같은 잠재적으로 유해한 콘텐츠를 감지해 이를 심각성 점수로 표시함으로써 기업 정책에 근거해 차단하거나 플래그 표식 등으로 콘텐츠 서비스를 맞춤화 할 수 있고 사용 목적과 사례에 맞춰 세분화된 검수 기준을 설정하는 것도 가능하다.

에너지 기업 쉘(Shell)의 경우 자체 개발한 생성 AI 플랫폼을 통해 애플리케이션을 구축하고 배포하는데, 이 과정에서 MS의 서비스를 통해 부적절하거나 유해한 콘텐츠를 거르고 온라인 공개 이전에 관련 정책의 준수 여부를 확인한다.

서구에 비해 보수적인 데다 미성년자 인증제도까지 있어 AI윤리 기준 설정에 어려움을 겪고 있는 국내 콘텐츠 기업들의 경우 AI 윤리가이드라인 준수 여부를 스스로 테스트해볼 수 있는 진단키트나, 관련 법률서비스 등 정책 당국의 현실적이고 구체적인 가이드라인이 절실하다고 말한다.

생성형 AI는 노동의 본질을 바꾸었다. 단순하고 반복되는 번거로운 업무는 AI에게 시키고 인간은 보다 창의적이고 의미로운 일을 하라 한다. 하지만 많은 이들이 동의하지 못한다. AI가 주는 편익과 여유를 누리기커녕 AI 활용조차 익숙하지 않는데 변화의 속도가 무섭기 때문이다. 어쩌면 우리 모두는 성취감, 경제적 안정성, 정체성에 타격을 느끼고 있을지 모른다.

가이드라인이 필요하다. 가이드라인은 혼란을 최소화시키고 방향을 제시하는 역할을 한다. 경험해보지 못한 일에 대한 불안감을 줄이고 치명적인 실수를 방지할 수 있도록 돕는다.

AI 활용 가이드라인이든 AI 윤리 가이드라인이든 지침이 있어야 한다. 급변하는 AI기술 앞에 처음부터 완벽한 가이드라인은 기대하기 어렵다.

최소한이라도 가장 핵심적인 지침을 세우고 기술 발전과 함께 지속적으로 다듬어가야 한다. 지금 당장 우리가 해야 할 창의적이고 의미로운 일은 AI 가이드라인을 세우는 일이다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[관련기사]

[뉴스핌 베스트 기사]

사진
'서부지법 난동' 첫 선고 2명 모두 실형 [서울=뉴스핌] 조승진 기자 = 윤석열 전 대통령의 구속영장 발부 전후인 지난 1월 18∼19일, 서부지법에서 발생한 난동 사건으로 구속기소된 95명 중 2명이 1심에서 실형을 선고받았다. 서울서부지법 형사6단독(재판장 김진성)은 14일 오전 특수건조물침입 등의 혐의로 기소된 김 모 씨와 소모 씨에 대한 선고 공판에서 김 모 씨에게 징역 1년 6개월, 소모 씨에게 징역 1년을 선고했다. 이날 선고는 서부지법 난동 사태 발생 4개월여 만에 나온 첫 선고다.  앞서 검찰은 김씨에게 징역 3년, 소씨에게 징역 2년을 구형했다. 지난 1월19일 오전 서울 마포구 서울서부지방법원 청사 유리창과 벽면이 파손되어 있다. 이날 윤석열 대통령 구속영장이 발부되자 윤 대통령 지지자들이 서울서부지법에 난입해 유리창을 깨고 집기를 훼손하는 등 난동을 부려 경찰이 강제진압에 나섰다. [사진=뉴스핌 DB] 선고는 김 씨부터 진행됐다. 재판부는 "이 사건은 특수건조물 침입, 공용 물건 손상, 특수 공무집행 방해"라며 "피고인이 증거에 관해서 자백하고 있고 보관 증거가 있어서 유죄로 인정된다"고 했다. 이어 "이 사건은 다중위력을 보인 범행이고, 범행 대상은 법원"이라며 "피고인을 포함해서 많은 사람들이 하나의 사건에 연관되었고, 당시 발생한 전체 범행의 결과는 참혹하다"고 설명했다. 그러면서 "대한민국 사법부의 영장 발부 여부를 정치적 음모로 해석 규정하고, 그에 대한 즉각적인 응징, 보복을 이뤄야 한다는 집념과 집착이 이뤄낸 범행"이라고 했다. 재판부는 "다만 이 사건은 공동 범행이 아니라 단독 범행이기 때문에 피고인의 행위에 대해서만 평가한다"면서도 "다중의 위력을 보였다는 부분은 범죄사실에 포함되므로 고려한다"고 말했다. 이어 "피고인은 벽돌 등을 던져, 법원 건물 외벽 타일을 깨뜨렸고, 법원 경내로 들어가 침입했다"며 "법원 내부 진입을 막고 있던 경찰관들을 몸으로 밀어 폭행했다"고 했다. 다만 "피고인이 진지한 반성 태도를 보이고, 우발적으로 범행에 이르게 된 점, 초범인 점, 그밖에 양형 제반 사항을 고려해 징역 1년 6개월에 처한다"고 밝혔다. 이어진 소 씨의 선고에서 재판부는 "피고인이 자백하고 있고 보관 증거 있어 유죄"라고 했다. 그러면서 "피고인은 법원 경내로 들어간 다음 당직실 유리창을 통해 건물 1층 로비까지 들어가 침입했다"며 "화분 물받이로 창고 플라스틱 문을 긁히게 하고, 부서진 타일 조각을 던져 법원 건물 외벽 타일을 손괴했다"고 말했다. 다만 "피고인이 진지한 반성으로 보이고, 우발적 범행에 이르게 된 점, 초범인 점, 그밖에 양형 제반 사항을 고려해 징역 1년에 처한다"고 밝혔다. 이번 선고에 앞서 재판부는 "어제 딸에게 산책하며 '아빠가 어려운 사건을 선고한다'고 했더니 '이재명 사건이냐, 윤석열 사건이냐?'고 묻더라"며 "더 어려운 사건이 있겠구나 싶었지만, 결단과 선고 순간에는 어렵고 쉬운 사건이 없다고 생각한다"고 말했다. 이어 "이 판결문을 머릿속으로 썼다가 지웠다 수없이 반복했다. 오늘 선고를 할지 말지도 많이 고민했다"고 했다. 그러면서 "오늘 선고가 정답이라고 생각지 않는다. 다만 결정과 결단의 문제라고 생각한다"며 "이 선고가 피고인의 남은 인생을 좌우하지 않는다고 생각하고, 남은 생은 피고인 본인답게 살아달라"고 당부했다. 또 "이 사건과 같은 날 있던 전체 사건을 포함해 법원, 경찰 모두 피해자라고 생각한다"며 "그날 직접 피해를 본 법원, 경찰 구성원분들과 지금도 피해를 수습할 관계자분들 노고에 감사하다. 기자들을 포함해 지금도 피해를 수습하는 과정인 거 같다"고 덧붙였다. 이어 "마지막으로 대한민국 어려운 시기에 시민들께서 사법부뿐 아니라 경찰, 검찰, 법원 전체에 지속적으로 관심을 가져주시길 바란다"고 강조했다. chogiza@newspim.com 2025-05-14 11:05
사진
최정, 500홈런…한화 12연승 끝 [서울=뉴스핌] 장환수 스포츠전문기자= SSG가 7연승 중이던 NC에 짜릿한 역전승을 거두며 간판타자 최정의 KBO리그 첫 통산 500홈런을 자축했다. SSG는 13일 NC와 인천 홈경기에서 6-3으로 승리했다. 11일 KIA와 더블헤더부터 3연승을 달린 SSG는 NC를 제치고 4위 삼성과 승차 없는 5위에 올라섰다. [서울=뉴스핌] 장환수 스포츠전문기자= SSG 최정이 13일 NC와 인천 홈경기에서 6회말 500호 홈런을 날린 뒤 포즈를 취했다. [사진=SSG] 2025.05.13 zangpabo@newspim.com 최정은 0-2로 뒤진 6회말 2사 1루에서 NC 선발 라일리 톰슨의 6구째 시속 135㎞ 슬라이더를 잡아당겨 왼쪽 펜스를 넘기는 시즌 5호 110m 동점 투런포를 쐈다. 500홈런이기에 앞서 삼진 10개를 잡으며 무실점으로 호투하던 톰슨에게 일격을 가한 귀중한 한 방이었다. SSG는 곧 이은 7회초 서재철에게 적시타를 허용해 2-3으로 뒤졌으나 8회말 대거 4점을 뽑으며 역전에 성공했다. 선두 박성한의 볼넷과 최정의 내야 안타로 만든 무사 1, 2루에서 한유섬의 2루타로 3-3 동점을 만들었다. 이어 라이언 맥브룸이 고의볼넷을 얻어 만든 무사 만루에서 최준우의 역전 2타점, 1사 후 정준재의 쐐기 1타점 적시타로 점수 차를 벌렸다. 류현진. [사진=한화] 한화는 두산과 대전 홈경기에서 연장 11회 접전 끝에 3-4로 졌다. 12연승이 중단된 한화는 이날 4연승한 LG에 공동 선두를 허용했다. 두산은 3-3으로 맞선 연장 11회초 강승호의 볼넷 후 대주자로 나간 전다민을 1루에 두고, '1할 타자' 임종성이 좌익선상에 떨어지는 2루타를 날려 귀중한 결승점을 뽑았다. 반면 한화 선발 류현진은 6이닝을 6탈삼진 6안타 1실점으로 막았지만 팀에 승리를 안기지 못했다. 한화는 1-1로 맞선 6회말 무사 만루에서 노시환이 투수 앞 병살타로 물러난 게 뼈아팠다. 연장 11회말에는 노시환의 안타 후 대주자로 나간 이상혁이 채은성의 삼진 때 2루 도루에 실패했다. 이날 두 팀은 한화가 8명, 두산이 6명의 필승조 투수를 모두 투입하는 총력전을 펼쳤다. [서울=뉴스핌] 장환수 스포츠전문기자= 삼성 르윈 디아즈가 13일 kt와 대구 홈경기에서 5회시즌 16호 투런홈런을 날린 뒤 다이아몬드를 돌고 있다. [사진=삼성] 2025.05.13 zangpabo@newspim.com 수석·투수·타격 코치를 교체한 삼성은 kt와 포항 홈경기에서 접전 끝에 5-3으로 승리, 최근 8연패에서 탈출했다. 삼성은 2회말 1사 만루에서 구자욱이 2타점 중전안타로 2-0을 만들었고, 5회말에는 홈런 선두 르윈 디아즈가 시즌 16호 우월 투런홈런을 날려 4-0으로 달아났다. 삼성 선발 이승현은 5이닝을 5안타 무실점으로 막아 시즌 5연패 뒤 첫 승을 신고했다. 반면 kt는 6연패에 빠졌다. 오스틴 딘. [사진 = LG] 잠실에선 LG가 키움을 9-6으로 따돌리고 4연승을 달렸다. 초반 6점 차 리드를 지키지 못하고 6-6으로 동점을 내준 LG는 7회말 오스틴 딘의 솔로 홈런으로 다시 리드를 잡았다. 오스틴은 1회에도 선제 솔로홈런을 날려 한 경기 2홈런을 기록했다. LG는 8회말에는 홍창기와 문성주의 연속 안타로 2점을 보태 승부를 갈랐다. 그러나 LG는 이날 시즌 첫 홈런을 신고하기도 한 붙박이 톱타자 홍창기가 9회초 수비 중 다리를 크게 다쳐 웃을 수 없는 하루가 됐다. 김도영. [사진 = KIA] 광주에선 KIA가 김도영의 결승 2루타를 앞세워 롯데를 4-1로 꺾었다. KIA는 5회말 한승택과 박찬호의 안타로 만든 2사 1,2루에서 김도영이 좌중간 2루타를 터뜨렸고, 최형우가 중전 적시타를 날려 3-0을 만들었다. 8회말에는 김도영의 좌전안타와 볼넷 2개로 만든 무사 만루에서 변우혁의 유격수 병살타 때 1점을 보태 승부를 갈랐다. KIA 선발 김도현은 5.1이닝을 4안타 1실점(비자책)으로 막아 2승(2패)를 올렸다. zangpabo@newspim.com 2025-05-13 22:59
안다쇼핑
Top으로 이동