[기고] 문제는 가이드라인이야

기사입력 : 2023년10월23일 08:39

최종수정 : 2023년10월23일 10:13

하민회 이미지21대표(코가로보틱스 마케팅자문)

'니들이 생성형AI를 알아?'

챗GPT로 대변되는 생성형AI는 등장한지 채 1년도 되지 않아 '모르는 사람은 없지만 다 아는 사람도 없는' 존재가 되었다. 눈 뜨면 신박한 새기술을 선보이며 확실히 전과 다른 AI, 뭐든 다 해낼 수 있을 것 같은 기대를 불러 일으켰지만 그 이면에 숨은 부작용도 만만치 않다.

AI 전망을 조사한 각종 보고서들에 의하면 생성형 AI 기술이 삶의 방식은 물론 업무 방식을 변화시켜 생산성을 획기적으로 향상시킬 것이라는 전망은 지배적이다. 하지만 응답자의 절반가량에 해당하는 기업들이 생성형AI를 도입할 준비를 하지 못한 상태다. 기술 인프라와 인재의 부족, 미진한 구현 로드맵, AI 활용 가이드라인 부재 등이 원인이다.

특히 심각하게 봐야 할 것이 AI 활용 가이드라인의 부재다. 가이드라인은 AI활용에 대한 기업의 정책이자 인재 교육과 직결되는 중요한 사안이기 때문이다.

챗GPT 도입 초기 삼성 반도체 사업부의 정보유출 사고. 한 엔지니어가 오류 확인 목적으로 챗GPT에 기밀 소스 코드를 붙여 넣었고, 다른 엔지니어는 챗GPT와 코드를 공유해 코드 최적화를 요청했다. 직후 사내 챗GPT사용을 금지한 삼성전자는 연내 자체 생성형AI를 개발해 도입할 계획이라 한다. 강력한 기술일수록 도입에는 사전 준비와 지침이 요구된다는 사실을 확인시켜 준 사례다.

내부정보 유출 사고로 인한 챗GPT 금지령은 국내 기업 만의 일은 아니다. 월스트리트저널(WSJ)에 따르면 미국의 애플, 통신업체인 버라이즌, 뱅크오브아메리카(BofA), 골드만삭스와 씨티그룹 등도 자사 소프트웨어 시스템에서 챗GPT를 자동 차단했다. 이들 기업은 내부정보유출을 물론 자칫 고객 정보나 소스 코드에 대한 통제를 잃을 수 있는 위험을 감수하기보단 챗GPT 사용 금지를 택했다.

글로벌 업무관리 플랫폼 아사나의 '기업 내 AI 활용 현황(The State of AI at Work)' 보고서에 의하면 직장에서 일상적으로 AI를 사용하지만, 직원에게 정확한 AI 활용 지침을 제시하는 기업은 4분의 1일에 불과하다. 전체 응답 직원의 48%가 회사에서 상세한 AI 사용 지침을 알려주길 원했지만 직장에서 AI 사용 지침을 받았다고 답한 비율은 24%에 그쳤다. 또 전체 응답자의 39%는 AI 교육이 입사 결정에 영향을 미친다고 답했다.

생성형AI는 경이로운 속도로 발전하고 있지만 개선되어야 할 점도 많다.

프린스턴대·스탠퍼드대·IBM 공동연구에 의하면 챗GPT 등 대형언어모델(LLM)은 미세조정을 하면 모델의 안전 기능이 떨어진다는 연구결과가 나왔다.

미세조정은 이미 훈련된 모델에 새로운 데이터셋을 넣어 재학습하는 기술이다. 막대한 비용을 들여 자체 LLM을 만들 여력이 부족한 다수의 중소 중견 기업은 미세조정을 통해 맞춤형 AI모델을 구축하는 추세다.

연구진은 LLM에 탑재된 '안전 정렬 인프라 (유해하거나 틀린 답변을 내지 못하도록 제어하는 시스템)'가 미세조정 후 어떻게 변하는지 연구했다. 연구 대상인 챗GPT 3.5 터보 모델은 단 10개의 예시를 통한 미세조정으로 거의 모든 유해한 질문과 명령에 반응을 보였다.

이는 악의적인 의도가 아니더라도 일반적인 데이터셋을 사용한 단순한 미세조정만으로도 LLM의 안전성이 떨어질 수 있음을 의미한다. 연구진은 논문 게재 전 연구 결과를 오픈AI에 공유, API에 새로운 안전 개선 사항을 통합할 수 있도록 제언했다.

이제 미세조정 시장에도 안전정렬에 대한 새로운 가이드라인이 생기게 된 셈이다.

생성형AI 활용 가이드라인 못지 않게 AI윤리 가이드라인의 필요성도 커지고 있다.

최근 MS는 생성형AI를 활용한 콘텐츠의 심각성을 점수화해 정책 준수 여부를 쉽게 확인할 수 있는 서비스를 출시했다. 증오나 폭력 같은 잠재적으로 유해한 콘텐츠를 감지해 이를 심각성 점수로 표시함으로써 기업 정책에 근거해 차단하거나 플래그 표식 등으로 콘텐츠 서비스를 맞춤화 할 수 있고 사용 목적과 사례에 맞춰 세분화된 검수 기준을 설정하는 것도 가능하다.

에너지 기업 쉘(Shell)의 경우 자체 개발한 생성 AI 플랫폼을 통해 애플리케이션을 구축하고 배포하는데, 이 과정에서 MS의 서비스를 통해 부적절하거나 유해한 콘텐츠를 거르고 온라인 공개 이전에 관련 정책의 준수 여부를 확인한다.

서구에 비해 보수적인 데다 미성년자 인증제도까지 있어 AI윤리 기준 설정에 어려움을 겪고 있는 국내 콘텐츠 기업들의 경우 AI 윤리가이드라인 준수 여부를 스스로 테스트해볼 수 있는 진단키트나, 관련 법률서비스 등 정책 당국의 현실적이고 구체적인 가이드라인이 절실하다고 말한다.

생성형 AI는 노동의 본질을 바꾸었다. 단순하고 반복되는 번거로운 업무는 AI에게 시키고 인간은 보다 창의적이고 의미로운 일을 하라 한다. 하지만 많은 이들이 동의하지 못한다. AI가 주는 편익과 여유를 누리기커녕 AI 활용조차 익숙하지 않는데 변화의 속도가 무섭기 때문이다. 어쩌면 우리 모두는 성취감, 경제적 안정성, 정체성에 타격을 느끼고 있을지 모른다.

가이드라인이 필요하다. 가이드라인은 혼란을 최소화시키고 방향을 제시하는 역할을 한다. 경험해보지 못한 일에 대한 불안감을 줄이고 치명적인 실수를 방지할 수 있도록 돕는다.

AI 활용 가이드라인이든 AI 윤리 가이드라인이든 지침이 있어야 한다. 급변하는 AI기술 앞에 처음부터 완벽한 가이드라인은 기대하기 어렵다.

최소한이라도 가장 핵심적인 지침을 세우고 기술 발전과 함께 지속적으로 다듬어가야 한다. 지금 당장 우리가 해야 할 창의적이고 의미로운 일은 AI 가이드라인을 세우는 일이다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[관련기사]

[관련키워드]

챗GPT 플랫폼 가이드라인 생성형AI BofA 버라이즌 콘텐츠 하민회 코가로보틱스

GAM - 해외주식 투자 도우미

[미국 특징주] 에스티로더, 구조조정 비용 최대 17.5억달러로 확대

텐센트, 위챗 기반 '샤오웨이'로 AI 경쟁 반격 나서

[홍콩 대장주] 메이퇀 ③ 신성장 동력의 '폭발적 성장'

[홍콩 대장주] 메이퇀② 실적은 고속 상승, 밸류는 역대 저점

[뉴스핌 베스트 기사]

사진

송영길, 정청래 견제하며 당권 출사표 [서울=뉴스핌] 조승진 기자 = 송영길 더불어민주당 의원이 8·17 전당대회 당대표 출마를 공식 선언했다. 송 의원은 이날 서울 여의도 민주당 중앙당사 당원존에서 "원팀 민주당, 총선에서 승리하는 민주당, 국민에게 다시 희망을 주는 민주당을 다시 만들겠다"며 "나는 위기를 이겨본 사람, 무너진 당을 다시 세워본 사람이다 자신있다"고 지지를 호소했다. [서울=뉴스핌] 정일구 기자 = 송영길 더불어민주당 의원이 8일 오전 서울 여의도 민주당 중앙당사에서 당 대표 출마를 선언하고 있다. 2026.07.08 mironj19@newspim.com ◆ 송영길, 당원존서 출마 선언 "이재명이 만든 상징 공간" 출마선언식에는 김영호·민병덕·민홍철·박선원·정일영·허종식 의원과 윤준호 전 의원, 김용 전 민주연구원 부원장, 이승훈 변호사가 자리했다. 송 의원은 "출마 기자회견 전에 김밥 조찬모임을 함께했다"며 "전략 총괄을 해줄 민병덕 의원은 매주 몇 차례 김밥미팅을 했고, 허종식·김영호 의원은 간사, 김용 전 부원장은 내 대학 후배이자 동지, 이승훈 변호사는 강북 지역에서 석연찮게 후보를 박탈당했다"고 소개했다. 이어 송 의원은 "출마 선언 전에 오현지 민주당 전국대학생위원회 수석대변인 말부터 듣겠다"며 청년층을 향한 스킨십에도 공을 들이는 모습을 보였다. 당원존에서 전당대회 출마를 선언한 이유에 대해서 송 의원은 "이재명 대통령이 당 대표 시절 만든 당원존"이라며 당 대표가 되고자 했기 때문에, 여기서 하는 게 맞겠다(고 생각했고), 특히 권리당원과 소통의 장이라는 상징적 의미를 뒀기 때문"이라고 설명했다. [서울=뉴스핌] 정일구 기자 = 송영길 더불어민주당 의원이 8일 오전 서울 여의도 민주당 중앙당사에서 당 대표 출마를 선언하고 있다. 2026.07.08 mironj19@newspim.com ◆ "6·3 지방선거는 패배, 위기는 우리 안에서 시작"… 정청래 지도부 우회 비판 출마선언문에서 송 의원은 그간 민주당이 이재명 정부를 뒷받침하는 책무를 다하지 않았다며 우회적으로 정청래 지도부에 대해 비판했다. 또 이번 지방선거가 사실상 패배했다고 지적했다. 송 의원은 "민주당은 국민의힘하고만 경쟁하는 정당이 아니다. 세계 정당과 경쟁, 협력하고 이재명 정부를 강력히 뒷받침해야 한다"며 "이재명 정부의 성공은 곧 민주당의 책임"이라고 강조 했다. 이어 "지금 이 순간에도, 이재명 대통령은 혼신의 힘을 다하고 있다. 대통령 혼자 가시밭길을 걸어가게 해서는 안 된다"고 했다. 그러면서 "지난 6·3 지방선거는, 승리의 외피를 쓴 패배"라며 "70%에 육박하는 지지율과 이재명 대통령의 땀과 눈물로 만든 성과에도 당은 압승에 실패했다"고 짚었다. 그는 "위기는 밖이 아니라, 안에서 왔다. 우리 안에서 시작됐다"고 거듭 강조한 뒤 "해법도 우리 안에 있다. 이제는 집권여당다운 책임과 실력을 보여야 한다. 똘똘뭉쳐 하나로 뛰는 진짜 여당을 송영길이 만들겠다"고 했다. 또 "이번 지방선거에서 국민들이 민주당에 옐로카드(경고)를 보냈다"며 "대수롭지 않게 넘기면 다음 총선은 레드카드다. 총선 패배"라고 말했다. 그러면서 "총선에서 지면 정권 재창출은 없다. 그러면 이재명 정부의 성공도 장담할 수 없다"고 했다. 송 의원은 "2022년 대선당시 선거에서 패배했을 때 변명하지 않고 책임지고 곧바로 당대표직을 내려놓았다"고 했다. 또 "이번 전당대회는 누가 더 선명한 사람인가를 뽑는 선거가 아니다. 누가 이재명 정부와 협력해 대체불가 대한민국을 만들 대표인지를 선택하는 선거"라고 했다. [서울=뉴스핌] 정일구 기자 = 송영길 더불어민주당 의원이 8일 오전 서울 여의도 민주당 중앙당사에서 당 대표 출마 선언을 위해 이동하고 있다. 2026.07.08 mironj19@newspim.com ◆ "민주당, 동네 정당으로 축소…당이 李 국제무대 힘있게 뒷받침해줘야" 두 발언은 정 전 대표를 겨냥한 것으로 해석될 수 있다. 정 전 대표는 정치권 안팎에서 이번 선거 책임을 지고 물러나야 한다는 주장이 있었으나, 수용하지 않았다. 또 그간 검찰개혁과 관련해 보완수사권 완전폐지를 두고 정부의 '정부안 미제출'을 지적해 내부에서 '선명성 경쟁'을 한다는 비판을 받았다. 그는 "이번에 이 대통령이 포럼에서 외국 패널과 원고없이 바로 즉답하는 모습을 보며 자랑스러웠다"며 "이런 대통령을 보다 힘있게 뒷받침할 민주당이 필요하다"고 했다. 이어 "그동안 민주당 당내 지도부의 워딩(발언)을 보면 국제무대에서 이재명 정부를 뒷받침하는 언급은 너무 적었다"며 "매번 국내문제로 복닥복닥 하는 모습을 보며 답답함을 느꼈다"고 했다. 그러면서 "김대중 대통령, 노무현 대통령의 정신을 계승하는 민주당이 어떻게 동네 정당처럼 축소됐냐"며 "국민의힘과만 경쟁하는 정당이 아닌, 세계 여러 정당과 경쟁하고 협력하고 대한민국 주권을 지켜나가는 민주당을 만드는 것이 내 꿈"이라고 재차 정청래 지도부를 겨냥했다. [서울=뉴스핌] 정일구 기자 = 송영길 더불어민주당 의원이 8일 오전 서울 여의도 민주당 중앙당사에서 당 대표 출마 선언을 위해 이동하고 있다. 2026.07.08 mironj19@newspim.com ◆ "당대표 출마 선언, 정청래에 종속될 문제 아냐" 이후 기자들과 만남에서 '대통령의 마음이 김민석 전 총리, 정청래 전 대표가 아닌 송영길 의원에게 있다고 생각하냐'는 질의에 송 의원은 "당대표는 당원이 결정하는 것이고 당원의 마음이 가장 중요하다"며 즉답을 피했다. 민주당 전당준비위원회에서 선호투표 방식이 결정된 것과 관련해서 송 의원은 "결정을 존중한다. 사표방지 심리가 없어지게 됐다"며 "결과적으로 과반수 득표가 돼 부담없이 송영길을 찍을 분위기가 만들어졌다. 나로서는 승리의 카드"라고 했다. 또 '정 전 대표의 거취를 보고 출마를 판단하겠다고 하지 않았냐'는 질문에는 "정 전 대표의 출마가 확실시 되고 있다. 거기에 종속될 문제가 아니다"라고 말했다. 아울러 송 의원은 ▲'3대 메가 프로젝트' 실현 ▲반도체 전담기구 신설 ▲'AI 고속도로' 정책 뒷받침 ▲서울 주택 공급부족 문제 해결 ▲청년 해외진출을 위한 '장보고 10만 프로젝트' ▲주가누르기 방지법 통과 등을 공약으로 내세웠다. chogiza@newspim.com 2026-07-08 12:00

사진

딥시크도 '자체 AI칩' 개발 추진 [서울=뉴스핌] 고인원 기자= 중국 인공지능(AI) 스타트업 딥시크(DeepSeek)가 자체 AI 반도체 개발에 나선 것으로 알려졌다. 그동안 AI 모델 학습과 운영에 사용해 온 엔비디아와 화웨이 반도체 의존도를 줄이기 위한 전략으로 풀이된다. 개발이 성공하면 중국 AI 대표 기업으로 떠오른 딥시크의 사업 전략이 크게 바뀌는 것은 물론, 중국 AI 반도체 시장에서 영향력을 키워온 화웨이에도 새로운 경쟁자가 등장하게 된다. 로이터 통신은 7일(현지시간) 사안에 정통한 복수의 관계자를 인용해 딥시크가 자체 AI 추론용(inference) 반도체를 개발하고 있다고 보도했다. 추론은 학습을 마친 AI 모델이 사용자의 질문에 답변을 생성하는 단계로, 새로운 모델을 학습시키는 훈련(training)용 반도체와는 용도가 다르다. [AI 이미지 = 배상희 기자] 소식이 전해진 뒤 미국 엔비디아(NASDAQ:NVDA)의 주가는 개장 전 거래에서 약 1.6% 하락했다. 리처드 윈저 라디오프리모바일 애널리스트는 "엔비디아는 중국 시장에서 사실상 퇴출된 상태이며, 앞으로도 상황이 달라질 가능성은 거의 없다"며 "딥시크도 최첨단 반도체 생산 능력을 확보하지 못하면 자체 AI 반도체를 중국 외 시장에 판매하기는 사실상 불가능하다"고 말했다. 그는 따라서 이번 딥시크의 반도체 개발이 엔비디아 실적에는 큰 영향을 주지 않을 것으로 내다봤다. 딥시크는 지난해 공개한 저비용·고효율 AI 모델이 세계적인 주목을 받으며 중국 AI 산업의 대표 기업으로 떠올랐다. 다만 그동안에는 기술 상용화보다 AI 모델 성능 개선에 집중해 온 것으로 알려졌다. ◆ 화웨이 의존 줄이고 자체 생태계 구축 미국의 대중국 수출 규제로 엔비디아의 최첨단 AI 반도체 공급이 막히면서 화웨이는 약 500억달러 규모의 중국 AI 반도체 시장에서 절반가량의 점유율을 확보했다. 딥시크를 비롯한 중국 주요 AI 기업들도 화웨이 반도체를 적극 활용해 왔다. 하지만 화웨이의 독주도 흔들리고 있다. 알리바바와 바이두가 자체 AI 반도체를 개발하며 시장 점유율을 확대하고 있는 데 이어 딥시크까지 경쟁에 뛰어든 것이다. 소식통들에 따르면 딥시크의 반도체 개발은 아직 초기 단계다. 회사는 반도체 설계업체와 파운드리, 메모리 업체 등과 협의를 진행하고 있으며 프로젝트는 약 1년 전 시작됐다. 최근에는 반도체 설계 엔지니어 채용도 확대했지만 공개 채용 사이트에는 공고를 내지 않고 비공개 방식으로 인력을 확보한 것으로 전해졌다. 딥시크는 이번 보도와 관련한 논평 요청에 응답하지 않았다. [AI 이미지 = 배상희 기자] ◆ AI 추론 시장 겨냥…오픈AI도 자체 칩 개발 딥시크의 전략은 글로벌 AI 기업들의 움직임과도 맞닿아 있다. 오픈AI는 지난달 브로드컴과 공동 개발한 첫 자체 추론용 AI 반도체 '할라페뇨(Jalapeno)'를 공개했고, 앤트로픽도 자체 AI 반도체 개발을 검토 중인 것으로 알려졌다. 딥시크에는 미국의 대중국 반도체 수출 규제도 중요한 배경이다. 미국은 중국 기업들이 엔비디아의 최첨단 AI 반도체를 구매하지 못하도록 막고 있으며, 중국 정부는 자국 기업들에 국산 AI 반도체 개발을 독려하고 있다. 딥시크 창업자인 량원펑은 2024년 중국 언론과의 인터뷰에서 미국의 반도체 수출 규제가 회사의 가장 큰 과제 중 하나라고 밝힌 바 있다. 딥시크는 초기에는 엔비디아 H800 반도체를 이용해 AI 모델을 학습시켰지만, 이후 화웨이 어센드(Ascend) 반도체 사용 비중을 꾸준히 늘려왔다. 지난 4월에는 화웨이 어센드에 최적화된 V4 모델을 공개했고, 화웨이는 V4-Flash 모델 학습에도 자사 반도체가 일부 사용됐다고 밝혔다. 이후 중국 대형 IT 기업들의 화웨이 어센드 950 반도체 주문도 크게 증가한 것으로 알려졌다. 딥시크가 개발 중인 추론용 반도체는 AI 산업에서 가장 빠르게 성장하는 시장을 겨냥한다. AI 서비스가 확산되면서 컴퓨팅 수요가 모델 학습보다 실제 서비스를 위한 추론 단계로 빠르게 이동하고 있기 때문이다. 추론용 반도체는 범용 GPU보다 가격이 저렴하고 전력 소비도 적다는 장점이 있다. 다만 성공을 장담하기는 어렵다. 경쟁력 있는 AI 반도체를 개발하려면 막대한 자금과 수년의 개발 기간이 필요하며, 미국의 수출 규제로 중국 기업들은 최첨단 해외 파운드리와 고대역폭메모리(HBM) 접근에도 제약을 받고 있다. 한편 딥시크는 최근 기업가치 520억~590억달러를 인정받는 조건으로 70억달러 규모의 첫 외부 투자 유치를 추진하고 있다. 수년간 외부 투자를 거부해 온 기존 전략을 바꾸는 첫 행보다. koinwon@newspim.com 2026-07-07 22:00