전체기사 최신뉴스 GAM 라씨로
KYD 라이브
KYD 디데이
산업 ICT

속보

더보기

네이버, 국내 최초 AI 안전성 실천 체계 'ASF' 공개

기사입력 : 2024년06월17일 09:41

최종수정 : 2024년06월17일 09:41

'AI 위험 평가 스케일'로 통제력 상실 방지
'AI 위험 평가 매트릭스'로 악용 가능성도 차단
문화적 다양성 반영한 소버린 AI로 안전성 체계 고도화

[서울=뉴스핌] 양태훈 기자 = 네이버가 17일 인공지능(AI) 시스템의 잠재적 위험을 인식하고 관리하기 위한 자체 대응 체계인 '네이버 ASF(AI Safety Framework)'를 공개했다. AI 안전성 체계를 설계하고 실천하는 것은 네이버가 국내에서 처음 시도하는 사례다.

네이버는 지난 2021년과 2022년 'AI 윤리 준칙'과 'AI 윤리 자문 프로세스'를 내놓은 바 있다. 이번에 선보인 '네이버 ASF'는 AI 시스템을 개발하고 배포하는 모든 단계의 잠재적 위험성을 관리하는 대응 체계로 AI가 초래할 수 있는 위험을 '통제력 상실'과 '악용'으로 정의하고, 각각의 위험에 맞춰 평가와 관리 방법을 설계한 것이 특징이다.

먼저, 인간이 AI에 미치는 영향력이 약화되는 '통제력 상실' 위험을 완화하기 위해 'AI 위험 평가 스케일'을 통해 AI 시스템의 위험을 주기적으로 평가하고 관리한다. 또, 최고 성능의 AI를 '프런티어 AI'로 규정하고 3개월마다 위험도를 점검하며, 성능이 6배 이상 급증하면 추가 평가도 실시한다.

최수연 네이버 대표이사. [사진=네이버]

AI 시스템의 잠재적 위험이라 할 수 있는 '악용' 위험에는 'AI 위험 평가 매트릭스'를 적용해 대응한다. 이는 AI의 용도와 안전 조치 필요 정도에 따라 차등 관리하는 방식으로, 예컨대 생화학 물질 개발과 같이 특수한 목적으로 사용되는 AI는 자격을 갖춘 사용자에게만 제공하고, 안전성이 필수적인 AI는 위험이 해소될 때까지 서비스를 보류한다.

네이버는 ASF를 바탕으로 문화적 다양성을 반영한 글로벌 AI 안전성 체계를 만들어갈 방침이다. 해외에서 소버린 AI를 개발하며 각 지역 문화권의 특성을 고려한 AI 위험 평가 기준을 세울 계획이다. 이미 네이버는 지난해 세계 최고 권위의 자연어처리 학회 중 하나인 'ACL 2023'에서 한국어 기반의 AI 안전성 강화 학습 데이터셋을 다국어로 확장하는 연구를 발표해 주목받은 바 있다.

아울러 네이버는 국내외 유수 연구기관 및 기업들과 적극적으로 협력하며 AI 신뢰성, 안전성 관련 선행 기술 연구를 수행하고 있다. 대표적으로 지난 2021년 설립한 서울대·네이버 초대규모 AI 연구센터(SNU-NAVER Hyperscale AI Center)에서는 '신뢰성 있는 초거대 AI'를 핵심적인 연구 주제로 설정하고 협력 연구를 진행 중이다. 이 외에도 카이스트, 독일 튀빙겐대학교, 캐나다 토론토대학교와도 공동 연구센터를 통해 AI 안전성 기술을 연구하고 있다.

AI 안전성 기술 연구에 대한 네이버의 적극적인 투자는 학술적 성과로도 이어지고 있다. 지난 2022년 컴퓨터공학 공정성 분야 최고 권위 학회 중 하나인 ACM FAccT(ACM Conference on Fairness, Accountability, and Transparency)에서 초거대 AI 윤리를 주제로 워크숍을 개최해 오픈AI, 딥마인드, 구글 등 글로벌 테크 기업을 포함한 전 세계 AI 윤리 관련 연구자 100여 명과 교류했으며, 지난해에는 인간·컴퓨터 상호작용 분야 세계 최고 권위 학회(CHI 2023)에서 AI 안부전화 서비스 '클로바 케어콜' 관련 연구로 '베스트 페이퍼(Best Paper)'에 선정되기도 했다.

올해 들어서는 기존의 언어모델 편향성 측정 벤치마크(Bias Benchmark for Question Answering, BBQ)가 문화적 맥락의 차이 때문에 미국 외의 사회를 기준으로 정확한 평가가 이뤄지기 어렵다는 한계에 착안해 한국어 중심의 편향성 측정 벤치마크 데이터셋 'KoBBQ'를 제안해 글로벌 자연어처리 학회 TACL 2024에 채택됐다. 이 외에도 초대규모 언어모델이 제공하는 답변의 신뢰도를 예측할 수 있는 모델을 제안한 연구 및 AI가 생성하는 콘텐츠가 한국 사회의 보편적 인식과 얼마나 부합하는지를 측정하는 평가 지표를 제안한 연구 등이 최고 권위 AI 학회에 채택되는 등 우수한 연구 성과를 거두고 있다.

최수연 네이버 대표이사는 "네이버는 한국에서 하이퍼클로바X라는 소버린 AI를 개발한 경험을 통해, 문화적·지정학적 상황과 지역적 이해가 AI의 성능뿐만 아니라 안전성에도 영향을 미친다는 점을 실증했다"며, "향후 글로벌 시장에서도 소버린 AI를 개발하면서 네이버 ASF를 지속적으로 개선해나갈 계획이고, 이를 통해 다양한 지역의 문화와 가치를 반영하는 다수의 AI 모델이 안전하게 사용되며 공존하는 지속 가능한 AI 생태계에 네이버가 적극적으로 기여할 것"이라고 강조했다.

dconnect@newspim.com

[뉴스핌 베스트 기사]

사진
버핏, 하락장에 옥시덴털 등 주식 더 샀다 [뉴욕=뉴스핌] 김민정 특파원 = '오마하의 현인' 워런 버핏의 버크셔 해서웨이가 이번 주 뉴욕증시 하락 장세 속에서 그동안 꾸준히 매수해 온 옥시덴털 페트롤리엄의 지분을 추가 매수했다. 20일(현지시간) CNBC에 따르면 버크셔는 890만 주의 옥시덴털 지분을 4억500만 달러(약 5860억 원)에 매수했다. 이번 지분 인수는 지난 17일과 18일, 19일에 걸쳐 이뤄졌다. 이번 매수로 버크셔가 보유한 옥시덴털의 지분은 28%로 확대했다. 버핏 회장은 하락장에 주식을 저렴하게 산 것으로 보인다. 옥시덴털의 주가는 이번 달 들어 10% 하락해 연초 이후 24%의 낙폭을 기록 중이다. 전날 옥시덴털의 주가는 52주래 최저치를 기록하기도 했다. 버크셔 해서웨이의 워런 버핏 회장 [사진=블룸버그] 옥시덴털은 버크셔가 보유한 주식 중 6번째로 규모가 크지만, 버핏 회장은 완전한 인수설을 부인했다. 버크셔가 옥시덴털을 추가 매수한 것은 지난 6월 이후 이번이 처음이다. 현재 버크셔가 보유한 옥시덴털의 가치는 120억 달러에 이르지만 투자 전문매체 배런스는 옥시덴털 투자로 버크셔가 10억 달러의 손실을 보고 있을 것으로 추정했다. 같은 기간 버크셔는 북미 최대 위성 라디오 사이러스XM 지분 500만 주를 1억1300만 달러에 샀다. 사이러스XM은 올해 60%나 급락해 현재 10여 년간 가장 낮은 수준에서 거래되고 있다. 최근 투자자들은 회사가 2025년 실적 전망치를 하향 조정하면서 주식을 공격적으로 매도했다. 도메인 등록 서비스업체 베리사인의 지분 23만4000주를 약 4500만 달러에 사들였다. 현재 버크셔는 이 회사의 지분 13%를 보유 중이다. 이로써 지난 3거래일간 버크셔가 매수한 지분은 최소 5억6000만 달러에 달한다. mj72284@newspim.com 2024-12-21 00:55
사진
달러/원 환율 1,450원 돌파...15년래 최고 [서울=뉴스핌] 고인원 기자= 19일 달러/원 환율이 1450원도 돌파하며 15년 6개월 만에 최고치를 기록했다. 올해 마지막 연방공개시장위원회(FOMC) 정례 회의에서 미국 연방준비제도(Fed)가 예상대로 기준 금리를 0.25%포인트 인하했으나 내년 기준 금리 인하 속도를 줄일 가능성을 시사한 여파다. 연준은 18일(현지 시각) 이틀간 연방공개시장위원회(FOMC) 정례 회의를 마치고 기준 금리를 4.25~4.50%로 0.25%포인트(%p) 인하한다고 밝혔다. 이로써 연준은 9월과 11월에 이어 이달까지 세 번의 회의에서 연속으로 기준 금리를 내렸다. 연준은 별도로 공개한 경제 전망 요약(SEP)에서 내년 말까지 금리 인하 폭을 0.50%p로 제시했다. 이는 9월 1.00%p를 기대한 것에서 크게 축소된 수치다. 이 같은 예상대로면 연준은 내년 0.25%p씩 총 두 차례 금리를 낮추게 된다. 매파적인 연준의 내년 금리 전망에 이날 미 달러화는 2년 만에 최고 수준으로 올라섰고, 달러/원 환율은 한국 시간 19일 오전 6시 50분 기준 1453원으로 1450원도 넘어섰다. 이는 지난 2009년 3월 이후 약 15년 만에 최고치다. 지난 2017년 도널드 트럼프 당시 대통령이 제롬 파월 당시 연방준비제도(Fed) 이사를 차기 의장으로 지명했다. [사진=블룸버그] koinwon@newspim.com 2024-12-19 06:58
안다쇼핑
Top으로 이동