프리즘ML, 270억 매개변수 모델 아이폰 구동 성공…성능 저하 없는 온디바이스 AI 구현

미국 스타트업 프리즘ML(PrismML)이 270억 매개변수 규모의 대형언어모델(LLM)을 아이폰에서 구동하는 데 성공했다. 이는 현재까지 스마트폰에서 실행된 AI 모델 중 최대 규모로, 애플의 온디바이스 AI 전략에 새로운 전환점을 제시할 수 있는 기술로 평가받고 있다. 프리즘ML은 자체 압축 기술을 통해 알리바바의 오픈소스 모델 '큐원 3.6' 270억 매개변수 버전을 4GB 미만으로 축소해 아이폰 17 프로에서 실행할 수 있도록 했으며, 다음 주 오픈소스로 공개할 계획이다. 이 기술은 모바일 환경에서도 대형 AI 모델에 가까운 성능을 가능하게 하며, 데이터센터 기반 AI 인프라 확대 경쟁과는 다른 방향성을 제시한다.