[세종=뉴스핌] 이경태 기자 = "초거대AI를 활용하는 데는 사실상 데이터에 대한 규제 자체가 필요합니다. 현 시점에서는 저희를 좀 멈춰줘야 합니다."

한 중견 AI 기업 임원의 얘기다. 최근들어 초거대AI 경쟁이 치열해졌으나 그 이용에 대한 위험성을 오히려 AI 업계가 제기하고 있는 모습이다.

◆ 상용화 속도내는 초거대AI…왜곡·환각 현상 '무방비'

21일 AI 업계 등에 따르면, 마이크로소프트(MS)를 비롯해 구글, 메타 등이 초거대AI 시장을 현재 이끌어가고 있다. 여기에 중국의 바이두, 알리바바도 챗봇 및 초거대AI 시장의 문을 두드렸다.

여기에 국내에서는 네이버, 카카오, KT, LG, SKT 등의 기업이 초거대AI 서비스를 일부 내놓았고 하반기께 추가 출시를 예고하고 있다. 

오픈AI의 챗GPT가 지난해 11월말께 출시되면서 AI 시장은 지각 변동을 맞이했다. 국내에서는 데이터댐 등 학습용 데이터 확보에 여념이 없었고 이와 관련된 데이터 바우처 사업 등이 AI 시장의 터전을 마련했을 정도다.

챗GPT 출시 이후 국내 ICT 기업들이 앞다퉈 서비스 출시에 힘을 쏟는 데는 이미 글로벌 기업들이 점유하고 있는 초거대AI 시장에서 국내 시장까지 넘겨주는 것 아니냐는 불안감 때문으로 파악된다.

한 국내 AI 기업 관계자는 "챗GPT나 바드가 현재까지는 가장 앞선 기술로 평가되고 있는데 똑같은 수준으로 도달하기는 쉽지 않지만 한글을 토대로 한 초거대AI 서비스를 통해 경쟁력을 키워나갈 필요가 있다"고 전했다.

다만 우려되는 부분도 적지 않다. 초거대AI의 상용화가 가속화되면서 학습된 데이터값에 따라 실제 결과가 예측하기 어려울 정도로 달라질 수 있다는 지적이 끊이지 않기 때문이다. 

이미 인종차별, 정치성향에서 일부 편향된 결과가 도출된다는 얘기가 나오고 있어서다.

AI 업계 역시 이 부분에 대해서는 확답을 내놓지 못하고 있다. 이미 생성이 된 콘텐츠 결과값을 AI가 재학습하고 있는 상황이 반복되고 있다보니 '할루시네이션(환각 현상)'이 발생할 확률도 높다는 데 업계 전문가들은 입을 모은다.

정치권 한 관계자는 "다양한 분야에서 편향된 프롬프트(입력 문자)가 대규모로 입력되면 서비스 자체가 어떤 결과를 내놓을 지 알 수가 없게 된다"며 "선거를 앞두고 음모론이 계속해서 나오는 이유가 바로 그런 부분이기 때문에 기업을 옥죄지 않은 수준에서 규제도 함께 마련돼야 한다"고 말했다.

◆ 유럽연합 규제도 아직 걸음마…한미일 AI 규범·AI 권리장전 마련 주목

AI 분야에 대한 규제는 이미 국제사회 역시 논의하고 있다. 

지난 6월 유럽연합(EU) 의회는 AI 시스템의 위험성을 규제하는 인공지능법안을 가결한 바 있다. 법안 시행을 앞두고 EU 집행위원회, 이사회 등 3자 협상이 진행되고 있다.

규제가 나오긴 했지만 EU 역시 아직은 AI 전반의 효율성과 위험성 사이에서 충분한 결과를 도출하지 못한 만큼 향후 법안 시행 이후에도 상당 부분 시장과 국제사회에 적응기가 필요할 것이라는 얘기가 이어진다.

미국도 규제 마련에 나섰다. 미국 의회에서도 지난해 상·하원에 AI 시스템이 소비자에 미치는 영향을 기업이 평가하는 책임 법안이 발의됐다. 

국제사회가 AI의 진화 속도에 뒤처지고 있지만 규제 필요성에 대해서는 어느 정도는 합의에 도달한 분위기다.

최근 한·미·일 정상회담을 통해 3국 역시 AI 규범을 공동으로 마련하는 방안을 논의했다. 실질적으로 AI 산업을 이끌어갈 주요국가이다보니 이같은 규범으로 AI 산업을 키우고 소비자의 피해도 방지해야 한다는데 3국 정상도 공감했다.

이런 분위기 속에서 과학기술정보통신부가 다음달께 디지털 권리장전을 발표할 예정이어서 국제사회 역시 시선을 모으고 있다. 

과기부는 최근 업계를 비롯해 주요 학회 등과 함께 디지털 권리장전에 담길 내용을 공유하고 의견을 수렴하고 있다. 디지털 권리장전은 AI 기술 확산 등 새로운 디지털 환경의 질서 정립을 목표로 마련될 예정이다.

박윤규 과기부 2차관은 지난 8일 열린 새로운 디지털 질서 정립 공론화 현장에서 "권리장전이 역사적으로 개인의 자유가 억압된 중세 사회를 종결하고 근대라는 새로운 시대를 여는 중요한 문서의 역할을 했다는 의미를 가져오려 했다"며 "완전히 새로운 디지털 사회로의 전환을 규정하는 문서가 되길 바란다"고 강조했다.

박준섭 웨인힐스브라이언트 이사는 "AI 산업 발전을 위해서도 AI가 과·오용되지 않도록 개념을 확실히 잡고 기업의 숨통을 틔우면서 소비자들의 피해를 막는 방법으로 규범이 마련돼야 할 것"이라며 "국내 서비스 역시 충분히 시장에서 경쟁력을 얻을 수 있도록 정부의 다양한 정책적인 배려도 필요하다"고 말했다.

이승호 포에스맵퍼 대표는 "AI가 실제 데이터를 대체할 수 있을 정도로 향후에는 발전하겠지만 그 과정에서 여전히 실제 데이터와의 간극도 크기 때문에 이런 부분을 해소할 논의도 충분히 필요하다"며 "무조건 AI에만 의존할 것이 아닌, 실제 값이 여전히 원석으로 기준을 잡을 수 있도록 토대를 마련해야 한다"고 덧붙였다.

biggerthanseoul@newspim.com