전체기사 최신뉴스 GAM
KYD 디데이
홈 산업 ICT

속보

더보기

네이버, 국내 최초 AI 안전성 실천 체계 'ASF' 공개

기사입력 :

최종수정 :

※ 본문 글자 크기 조정

  • 더 작게
  • 작게
  • 보통
  • 크게
  • 더 크게

※ 번역할 언어 선택

'AI 위험 평가 스케일'로 통제력 상실 방지
'AI 위험 평가 매트릭스'로 악용 가능성도 차단
문화적 다양성 반영한 소버린 AI로 안전성 체계 고도화

[서울=뉴스핌] 양태훈 기자 = 네이버가 17일 인공지능(AI) 시스템의 잠재적 위험을 인식하고 관리하기 위한 자체 대응 체계인 '네이버 ASF(AI Safety Framework)'를 공개했다. AI 안전성 체계를 설계하고 실천하는 것은 네이버가 국내에서 처음 시도하는 사례다.

네이버는 지난 2021년과 2022년 'AI 윤리 준칙'과 'AI 윤리 자문 프로세스'를 내놓은 바 있다. 이번에 선보인 '네이버 ASF'는 AI 시스템을 개발하고 배포하는 모든 단계의 잠재적 위험성을 관리하는 대응 체계로 AI가 초래할 수 있는 위험을 '통제력 상실'과 '악용'으로 정의하고, 각각의 위험에 맞춰 평가와 관리 방법을 설계한 것이 특징이다.

먼저, 인간이 AI에 미치는 영향력이 약화되는 '통제력 상실' 위험을 완화하기 위해 'AI 위험 평가 스케일'을 통해 AI 시스템의 위험을 주기적으로 평가하고 관리한다. 또, 최고 성능의 AI를 '프런티어 AI'로 규정하고 3개월마다 위험도를 점검하며, 성능이 6배 이상 급증하면 추가 평가도 실시한다.

최수연 네이버 대표이사. [사진=네이버]

AI 시스템의 잠재적 위험이라 할 수 있는 '악용' 위험에는 'AI 위험 평가 매트릭스'를 적용해 대응한다. 이는 AI의 용도와 안전 조치 필요 정도에 따라 차등 관리하는 방식으로, 예컨대 생화학 물질 개발과 같이 특수한 목적으로 사용되는 AI는 자격을 갖춘 사용자에게만 제공하고, 안전성이 필수적인 AI는 위험이 해소될 때까지 서비스를 보류한다.

네이버는 ASF를 바탕으로 문화적 다양성을 반영한 글로벌 AI 안전성 체계를 만들어갈 방침이다. 해외에서 소버린 AI를 개발하며 각 지역 문화권의 특성을 고려한 AI 위험 평가 기준을 세울 계획이다. 이미 네이버는 지난해 세계 최고 권위의 자연어처리 학회 중 하나인 'ACL 2023'에서 한국어 기반의 AI 안전성 강화 학습 데이터셋을 다국어로 확장하는 연구를 발표해 주목받은 바 있다.

아울러 네이버는 국내외 유수 연구기관 및 기업들과 적극적으로 협력하며 AI 신뢰성, 안전성 관련 선행 기술 연구를 수행하고 있다. 대표적으로 지난 2021년 설립한 서울대·네이버 초대규모 AI 연구센터(SNU-NAVER Hyperscale AI Center)에서는 '신뢰성 있는 초거대 AI'를 핵심적인 연구 주제로 설정하고 협력 연구를 진행 중이다. 이 외에도 카이스트, 독일 튀빙겐대학교, 캐나다 토론토대학교와도 공동 연구센터를 통해 AI 안전성 기술을 연구하고 있다.

AI 안전성 기술 연구에 대한 네이버의 적극적인 투자는 학술적 성과로도 이어지고 있다. 지난 2022년 컴퓨터공학 공정성 분야 최고 권위 학회 중 하나인 ACM FAccT(ACM Conference on Fairness, Accountability, and Transparency)에서 초거대 AI 윤리를 주제로 워크숍을 개최해 오픈AI, 딥마인드, 구글 등 글로벌 테크 기업을 포함한 전 세계 AI 윤리 관련 연구자 100여 명과 교류했으며, 지난해에는 인간·컴퓨터 상호작용 분야 세계 최고 권위 학회(CHI 2023)에서 AI 안부전화 서비스 '클로바 케어콜' 관련 연구로 '베스트 페이퍼(Best Paper)'에 선정되기도 했다.

올해 들어서는 기존의 언어모델 편향성 측정 벤치마크(Bias Benchmark for Question Answering, BBQ)가 문화적 맥락의 차이 때문에 미국 외의 사회를 기준으로 정확한 평가가 이뤄지기 어렵다는 한계에 착안해 한국어 중심의 편향성 측정 벤치마크 데이터셋 'KoBBQ'를 제안해 글로벌 자연어처리 학회 TACL 2024에 채택됐다. 이 외에도 초대규모 언어모델이 제공하는 답변의 신뢰도를 예측할 수 있는 모델을 제안한 연구 및 AI가 생성하는 콘텐츠가 한국 사회의 보편적 인식과 얼마나 부합하는지를 측정하는 평가 지표를 제안한 연구 등이 최고 권위 AI 학회에 채택되는 등 우수한 연구 성과를 거두고 있다.

최수연 네이버 대표이사는 "네이버는 한국에서 하이퍼클로바X라는 소버린 AI를 개발한 경험을 통해, 문화적·지정학적 상황과 지역적 이해가 AI의 성능뿐만 아니라 안전성에도 영향을 미친다는 점을 실증했다"며, "향후 글로벌 시장에서도 소버린 AI를 개발하면서 네이버 ASF를 지속적으로 개선해나갈 계획이고, 이를 통해 다양한 지역의 문화와 가치를 반영하는 다수의 AI 모델이 안전하게 사용되며 공존하는 지속 가능한 AI 생태계에 네이버가 적극적으로 기여할 것"이라고 강조했다.

dconnect@newspim.com

[뉴스핌 베스트 기사]

사진
삼성전자, 온양에 46조 투자 속도 [서울=뉴스핌] 조민교 기자 = 삼성전자가 12일 충남 아산 온양사업장에서 고대역폭메모리(HBM) 첨단 패키징 공장 착공에 들어갔다. 인공지능(AI) 거품론과 엔비디아의 경영 불확실성에도 중장기 생산능력 확대에 속도를 내겠다는 전략이다. 삼성전자는 글로벌 대형 고객사 10곳과 메모리 장기공급계약(LTA)을 체결하고 추가 10곳과 협상 중이다. 고객사들의 HBM 증량 요청도 이어지고 있다. HBM은 D램을 여러 층 쌓아 만드는 제품인 만큼 공급을 늘리려면 웨이퍼 생산뿐 아니라 칩을 쌓고 연결하는 후공정 능력도 확충해야 한다. 삼성전자는 2029년 5월 온양 신공장 가동을 통해 첨단 패키징 생산 기반을 강화할 계획이다. 삼성전자와 충남도에 따르면 이날 착공한 '온양 5공장'은 약 3만1000㎡ 규모의 클린룸을 갖춘 HBM 전용 생산시설이다. 1단계에 약 6조원, 중장기적으로 총 46조원을 투입한다. 완공 후 온양사업장 연면적은 27만㎡에서 42만㎡로 56% 늘어난다. 충남도와 아산시는 도시계획 심의를 한 달가량 앞당겨 착공을 지원했다. 이날 착공식에 참석한 이재용 삼성전자 회장은 "일반 반도체를 단순 조립·검사하는 공정이 중심이던 이곳이 앞으로는 AI 반도체의 심장인 최첨단 HBM 거점으로 변모할 것"이라고 밝혔다. 전영현 삼성전자 대표이사 부회장도 "온양과 천안에 있는 반도체 생산 기반을 강화해 충청권을 세계 최고의 최첨단 패키징 글로벌 메카로 육성하겠다"고 말했다. 이재용 삼성전자 회장. [사진=KTV 캡쳐] ◆ 거품론에도 '완판'…고객사 증량 요청 줄이어 글로벌 AI 산업을 둘러싼 불확실성은 커지고 있다. 막대한 AI 투자에 비해 수익 창출이 더디다는 거품론이 확산하는 가운데 엔비디아의 경영 리스크까지 불거졌다. 엔비디아 이사회는 지난 8일(현지시간) 젠슨 황 최고경영자(CEO)가 외국 정보활동의 표적이 됐다는 의혹에 대해 독립 조사에 착수했다. 월스트리트저널(WSJ)이 11일 황 CEO의 퇴진 가능성을 보도하자 엔비디아 주가는 시간외 거래에서 9% 넘게 하락했다. 반면 삼성전자의 HBM 수요는 여전히 공급을 웃돌고 있다. 김재준 삼성전자 메모리사업부 부사장은 지난달 29일 3분기 실적발표 콘퍼런스콜에서 "2027년 HBM 공급 물량은 목표 수준의 가격으로 협상이 완료돼 이미 솔드아웃된 상태"라며 "주요 고객들의 추가 HBM 공급 증량 요청이 지속 접수되고 있다"고 밝혔다. 3분기 HBM4 매출은 전 분기의 3배 이상으로 늘어 전체 HBM 매출의 60%를 차지했다. 회사는 메모리 수요 강세가 2028년에도 이어질 것으로 내다봤다. 장기공급계약 확대도 견조한 수요를 보여준다. 업계에 따르면 삼성전자는 2027년 메모리 생산 물량의 80% 가까이를 LTA로 확보한 것으로 알려졌다. 일부 계약에는 선수금 20~25%와 의무구매 조건까지 붙는 등 공급자 우위 시장이 형성되고 있다. 계약 수요도 AI 기업을 넘어 모바일·자동차·네트워크 분야로 확대되는 추세다. 삼성전자는 2030년까지 전체 메모리 생산능력의 60~70%를 장기계약으로 확보한다는 목표다. 삼성전자 HBM4E. [사진=삼성전자] ◆ 웨이퍼만으론 부족…온양이 '증량' 받칠 거점 늘어나는 HBM 주문에 대응하려면 첨단 패키징 생산능력 확충이 필수적이다. 업계에서는 삼성전자의 HBM 공급량이 향후 3년간 연평균 52% 증가해 현재의 약 3.5배에 이를 것으로 전망한다. 그러나 D램 생산을 늘리더라도 이를 쌓고 연결하는 후공정이 뒷받침되지 않으면 완제품 공급에는 한계가 있다. 범용 반도체 조립·검사 기지였던 온양을 HBM 거점으로 전환하는 이유다. 차세대 HBM으로의 전환도 후공정 수요를 키우고 있다. 삼성전자는 2027년 상반기 7세대 HBM4E 양산을 추진할 계획이다. 제품 세대가 높아질수록 칩을 정밀하게 쌓고 연결하는 기술이 중요해지는 만큼 신규 패키징 시설의 역할도 커질 전망이다. 경쟁사인 SK하이닉스도 생산시설 확충에 속도를 내고 있다. SK하이닉스는 2029년까지 D램·HBM 수요를 사실상 확보했다고 밝혔으며, 충북 청주에 20조원 규모의 첨단 패키징 공장(P&T7)을 2027년 말까지 완공할 계획이다. HBM 시장 경쟁력은 확보한 주문을 얼마나 빠르게 실제 공급으로 연결하느냐에 달려 있다. 삼성전자 온양 5공장은 2029년 가동을 시작하면 기존 천안 중심의 첨단 패키징 생산 기반을 확대하는 역할을 맡는다. 고객사들의 증량 요청이 이어지는 가운데 신규 공장 구축과 생산 안정화를 얼마나 신속하게 마무리하느냐가 HBM 공급 경쟁력을 좌우할 전망이다. mkyo@newspim.com 2026-11-12 11:38
사진
'스파이 의혹' 앨리스 황, 베이징 체류 확인 [서울=뉴스핌] 최원진 기자= 엔비디아 젠슨 황 최고경영자(CEO)와의 혼외 관계로 논란의 중심에 선 중국 스파이 의혹 인물, 앨리스 황(중국명 황러)이 본국인 중국 베이징으로 건너가 머물고 있는 것으로 확인됐다. 11일(현지시간) 블룸버그통신은 사안에 정통한 복수의 소식통을 인용해 싱가포르 '메가스피드 인터내셔널'(이하 메가스피드)의 창업자이자 젠슨 황 CEO와의 사생활 스캔들 및 스파이 의혹을 빚은 앨리스 황이 현재 중국 보안 당국이 소재를 파악한 가운데 베이징에 거주하고 있다고 보도했다. 젠슨 황과 엘리스 황.[사진=로이터 뉴스핌] 그가 언제 어떤 경위로 베이징으로 이동했는지, 현재 어떤 활동을 하고 있는지는 즉각 확인되지 않았다. 중국 외교부는 앞서 그가 스파이라는 의혹을 부인했으며, 이번 보도와 관련해서도 즉각적인 입장을 내놓지 않았다. 앨리스 황은 사모펀드와 방송 업계에서 경력을 쌓은 뒤 2023년 메가스피드를 설립했다. 이 회사는 조 바이든 전 미국 대통령이 중국을 상대로 첨단 인공지능(AI) 칩 수출에 대한 광범위한 제재를 가한 지 불과 몇 달 만에 중국 대형 비디오 게임 기업 '세븐로드 홀딩스'에서 분사했다. 세븐로드는 먼저 자사의 싱가포르 자회사를 영국령 버진아일랜드 소재 법인인 '황러'에 매각했고, 이후 앨리스 황이 경영권을 인수했다. 이어 2023년 11월, 황러 법인은 메가스피드를 싱가포르의 한 페이퍼컴퍼니(유령회사)에 다시 매각했다. 매각이 이뤄진 지 불과 며칠 만에 메가스피드는 엔비디아의 공식 클라우드 파트너(NCP)로 지정됐는데, 이는 엔비디아로부터 첨단 칩을 우선적으로 공급받을 수 있는 핵심 지위다. 무역 기록상 메가스피드는 이후 46억 달러가 넘는 엔비디아 칩을 사들여 동남아 데이터센터를 통해 알리바바 등 중국 기업들에 대여해 왔다. 미국 당국의 조사와 엔비디아 이사회의 진상 규명이 진행 중인 가운데, 핵심 당사자인 앨리스 황이 베이징에 체류 중인 것으로 확인되면서 젠슨 황 CEO의 거취 논란과 미 행정부 내 제재 갈등은 더욱 증폭될 것으로 보인다. wonjc6@newspim.com   2026-11-12 14:24
기사 번역
결과물 출력을 준비하고 있어요.
종목 추적기

S&P 500 기업 중 기사 내용이 영향을 줄 종목 추적

결과물 출력을 준비하고 있어요.

긍정 영향 종목

  • Lockheed Martin Corp. Industrials
    우크라이나 안보 지원 강화 기대감으로 방산 수요 증가 직접적. 미·러 긴장 완화 불확실성 속에서도 방위산업 매출 안정성 강화 예상됨.

부정 영향 종목

  • Caterpillar Inc. Industrials
    우크라이나 전쟁 장기화 시 건설 및 중장비 수요 불확실성 직접적. 글로벌 인프라 투자 지연으로 매출 성장 둔화 가능성 있음.
이 내용에 포함된 데이터와 의견은 뉴스핌 AI가 분석한 결과입니다. 정보 제공 목적으로만 작성되었으며, 특정 종목 매매를 권유하지 않습니다. 투자 판단 및 결과에 대한 책임은 투자자 본인에게 있습니다. 주식 투자는 원금 손실 가능성이 있으므로, 투자 전 충분한 조사와 전문가 상담을 권장합니다.
안다쇼핑
Top으로 이동