[서울=뉴스핌] 양태훈 기자 = 네이버는 21일, 과학기술정보통신부 주최로 다음 달 11일과 12일 양일간 열리는 '생성형 AI 레드팀 챌린지(Gen AI Korea 2024)'에 대표 파트너사로 참여한다고 밝혔다.

이번 행사는 한국정보통신기술협회(TTA)와 초거대AI추진협의회의 주관 하에 개최되며, 네이버는 AI 학습 데이터 플랫폼 스타트업 '셀렉트스타'와 함께 AI 안전성에 대한 기술 교류 및 논의의 장을 마련할 예정이다.

'생성형 AI 레드팀 챌린지'는 초거대 언어모델(Large Language Model, LLM)의 안전성, 신뢰성 및 보안을 강화하기 위해 참가자들이 모의 프롬프트 공격을 실시하여 모델의 안전성을 검증하는 대회로, AI 윤리 및 안전에 관심 있는 국민 누구나 참여할 수 있다. 이 대회에서는 총 1700만 원 규모의 상금이 우수 참가자들에게 제공된다.

[사진=네이버]

또한, 안전한 AI 개발을 주제로 한 컨퍼런스도 개최, 북미 AI 스타트업 '코히어(Cohere)'의 공동 창업자 에이단 고메즈, AI 윤리·안전 포럼 '프런티어 모델 포럼'의 대표이사 크리스 메세롤 등이 연사로 참여할 예정이다.

네이버는 이번 행사에서 자체 개발한 초대규모 AI '하이퍼클로바X(HyperCLOVA X)'를 통해 LLM의 안전성 검증 및 강화에 기여할 계획이며, 네이버 퓨처 AI 센터장 하정우가 컨퍼런스 연사로 참여해 안전한 AI 개발을 위한 네이버의 노력을 소개할 예정이다. 

자세한 정보와 참가 신청은 공식 홈페이지에서 확인할 수 있다.

dconnect@newspim.com