[뉴욕=뉴스핌] 김민정 특파원 = 인공지능(AI) 스타트업 앤스로픽이 10일(현지시간) 미 의회에 '재앙적 AI 위험'을 다루는 엄격한 연방법을 제정하지 않는 한 AI를 규제하는 주(州)법을 막지 말라고 촉구했다. 다리오 아모데이 최고경영자(CEO)는 정부가 위험한 AI 모델의 배포를 차단할 권한을 가져야 한다고 주장했다.

앤스로픽은 이날 성명에서 의회가 AI 기업들이 가장 강력한 모델을 독립적인 안전 테스트에 통과시키도록 요구해야 한다고 촉구했다. 앤스로픽은 미국 기업공개(IPO)를 준비하면서 AI 규제 형성에 나서고 있다.

아모데이 CEO는 이날 장문의 에세이에서 AI 모델이 사이버보안 위협과 생물학 무기 조력 등 여러 범주에서 제기하는 위험을 평가하기 위해 제3자의 의무 테스트를 거쳐야 한다고 주장했다.

그는 "AI가 수용할 수 없는 위험을 제기한다고 판단되면 정부가 배포를 차단하거나 저지할 권한을 가져야 한다"고 적었다.

이번 발언은 AI 기술이 고도화되는 가운데 더 엄격한 AI 규제에 대한 아모데이 CEO의 가장 강력한 촉구 중 하나다. 지난주 앤스로픽은 정부와 AI 개발사들이 기술의 잠재적 위험을 막기 위해 작업 속도를 늦출 시점을 집단적으로 결정하는 시스템의 창설도 촉구한 바 있다.

이달 초 도널드 트럼프 미국 대통령은 행정명령을 통해 AI가 제기하는 사이버보안 위협에 대한 불간섭주의적 접근의 윤곽을 제시했다. 미 정부에 모델에 대한 자발적 접근권을 부여하도록 요청하는 내용이지만 개발사들이 명시적 승인을 받도록 요구하는 데까지는 나아가지 않았다.

아모데이 CEO는 "투명성을 넘어 더 진지하고 구속력 있는 AI 규제로 나아갈 때"라며 "적어도 현재의 기하급수적 단계에서 최선의 비유는 자동차나 비행기, 의약품이다. 현대 경제에 필수적인 강력한 기술이지만 잘못 설계되거나 운용되면 많은 사람을 죽일 수 있다"고 강조했다.

앤스로픽은 앞서 핵심 소프트웨어의 취약점을 발견하고 악용할 수 있는 더 강력한 AI 모델 '미토스(Mythos)'를 발표해 경각심을 일으킨 바 있다. 회사는 이 도구의 출시를 선별된 파트너들로 제한하기로 결정했고 전날에는 사이버보안 능력에 대한 접근이 차단된 다른 버전을 출시했다.

아모데이 CEO는 에세이에서 미토스를 "AI의 놀라운 힘과 그 위험을 보여주는 대표 사례"라고 언급하고 "우리는 이제 전 세계적으로 그리고 집단적으로 느리고 삐걱거리는 정책 기구를 가동해 지금부터 놀랍도록 빠르게 누적될 위험과 기회에 대처해야 한다"고 강조했다.

mj72284@newspim.com