이 기사는 인공지능(AI) 번역을 통해 생성된 콘텐츠로 원문은 7월 15일 CNBC 기사입니다.

[서울=뉴스핌] 최원진 기자= 애플(NASDAQ: AAPL)이 AI 모델을 아이폰에서 직접 구동할 수 있도록 압축하는 스타트업과 협의 중이라고 CNBC가 14일(현지시간) 보도했다.

미국 캘리포니아공과대학(CalTech) 연구팀에서 분사한 스타트업 프리즘ML(PrismML)의 바박 하시비 최고경영자(CEO)는 CNBC에 애플을 비롯한 여러 기업이 자사 모델의 속도·에너지 효율·기기 성능을 평가하고 있다고 밝혔다.

그는 "애플이 현재 우리 기술을 정말로 평가하고 있다"면서, 논의가 초기 단계이며 어디로 이어질지 불분명하지만 "일이 잘 진행되고 있다"고 덧붙였다. 

프리즘ML은 알리바바의 오픈소스 '큐웬(Qwen)' AI 모델 압축 버전을 공개했다. 약 54기가바이트(GB) 모델을 4기가바이트 미만으로 줄여 270억 개의 파라미터 전체를 아이폰15 이상 기기에서 구동할 수 있게 했다. 이 기술은 모델 내부 정보 저장 방식을 단순화해 각 값을 16비트에서 1~3개의 가능한 값으로 줄이는 방식이다. 하시비 CEO는 반도체 업계의 8비트에서 4비트로의 전환과 비슷하지만 한 단계 더 나아간 것이라고 설명했다. 이 방식으로 압축된 모델은 기존 버전 대비 메모리를 10~15배 덜 사용하고 응답 속도는 6~8배 빠르며 에너지 소비는 3~6배 적다고 프리즘ML은 밝혔다. 다만 전반적 성능이 몇 퍼센트포인트 떨어지며 특히 사실 회상 능력이 추론·수학·코딩보다 먼저 약화된다는 단점이 있다.

이번 기술이 애플에 중요한 이유는 현재 애플 AI 전략의 핵심 제약을 해결할 수 있기 때문이다. 가장 유능한 모델들은 통상 스마트폰에서 구동하기에 너무 많은 메모리와 처리 능력이 필요하다. 기기에서 직접 AI를 처리하면 데이터를 원격 서버로 전송하는 데 따른 지연이 줄어들고 클라우드 비용이 낮아지며 프라이버시 측면에서도 유리하다. 인터넷 연결 없이도 일부 기능을 사용할 수 있게 된다. 애플은 이미 번역·요약 등 일부 AI를 기기에서 처리하고 있지만 더 복잡한 요청은 클라우드로 보내고 있다.

다만 전문가들은 프리즘ML의 주장이 실제 환경에서도 입증돼야 한다고 신중한 입장을 보였다. 카운터포인트리서치의 타룬 파탁 연구이사는 "수백만 건의 쿼리, 수천 가지 기기 조합, 대규모 견고성 테스트가 최종 시험대가 될 것"이라고 말했다. IDC의 필 솔리스는 전력 소비가 가장 큰 미지수라고 지적했다.

프리즘ML은 다음 단계로 구글의 오픈소스 '젬마(Gemma)' 모델 압축을 진행할 예정이며 이후 현재 데이터센터 하드웨어가 필요한 대형 프론티어 모델로 확장할 계획이다. 코슬라벤처스 등의 투자를 받아 지난 3월 1천625만 달러의 시드 투자를 유치했다.

wonjc6@newspim.com