애플, 오픈AI 안 거친다?…초경량 AI 위해 프리즘ML 기술 검토

[디지털투데이 AI리포터] 애플이 아이폰에서 직접 구동할 수 있을 정도로 인공지능(AI) 모델을 압축하는 스타트업 프리즘ML과 초기 협의를 진행 중인 것으로 알려졌다. 14일(이하 현지시간) 경제매체 CNBC에 따르면 애플은 프리즘ML의 AI 모델을 대상으로 속도와 전력 효율, 기기 내 구동 성능을 평가하고 있다. 미국 AI 스타트업 프리즘ML은 최근 알리바바 오픈소스 모델 큐웬의 압축 버전을 공개했다. 회사는 약 54GB인 모델을 4GB 미만으로 줄여 270억개 매개변수 모델을 아이폰15 이상에서 실행할 수 있다고 밝혔다. 바박 하시비(Babak Hassibi) 프리즘ML 최고경영자(CEO)는 애플이 현재 해당 기술을 평가하고 있으며, 협의는 매우 초기 단계라고 말했다. 애플은 iOS 27 공개 베타를 통해 개편한 시리를 일반 사용자에게 선보이기 시작했다. 오픈AI와 앤트로픽의 AI 비서와 경쟁하는 동시에 개인정보 보호를 강화하고 AI 처리의 더 많은 부분을 기기 내부에서 수행하는 전략을 추진하고 있다. 이 전략의 핵심 과제는 고성능 AI 모델을 스마트폰에서 구동하기 어렵다는 점이다. 대형 모델은 많은 메모리와 연산 자원을 필요로 한다. AI 기능을 아이폰 내부에서 처리하면 원격 서버로 데이터를 전송하는 과정에서 발생하는 지연을 줄일 수 있고, 클라우드 비용도 절감할 수 있다. 일부 기능은 인터넷 연결 없이도 사용할 수 있다. 프리즘ML은 모델 내부의 정보 저장 방식을 단순화해 메모리 사용량을 줄인다고 설명했다. 각 값을 16비트 대신 1개 또는 3개의 가능한 값으로 축소하는 방식이다. 회사는 이 기술을 통해 메모리 사용량을 10~15배 줄이고, 응답 생성 속도는 6~8배 높이며, 전력 소모는 3~6배 낮출 수 있다고 밝혔다. 다만 전체 성능은 몇 퍼센트포인트 하락할 수 있으며, 사실 회상 능력이 추론·수학·코딩 성능보다 먼저 저하될 가능성이 있다고 덧붙였다. 프리즘ML은 압축 모델 2종을 무료로 공개했다. 해당 모델은 아이폰과 맥북, 엔비디아 기반 PC에서 실행하도록 설계됐다. 이 기술은 캘리포니아공과대학 연구를 기반으로 개발됐으며, 대학이 보유한 특허를 프리즘ML이 독점 라이선스로 활용하고 있다. 회사는 지난 3월 코슬라벤처스 등이 참여한 시드 투자에서 1625만달러(약 240억원)를 유치했다. 다음 목표는 구글 오픈소스 모델 젬마를 압축하는 것이며, 이후에는 현재 데이터센터급 하드웨어가 필요한 더 큰 모델까지 적용 범위를 확대할 계획이다. 다만 상용화 가능성은 추가 검증이 필요하다는 평가도 나온다. 타룬 파탁(Tarun Pathak) 카운터포인트리서치 리서치 디렉터는 긴 프롬프트 처리 성능과 멀티태스킹 환경에서의 배터리 소모, 대규모 요청에 대한 안정성이 핵심 과제라고 지적했다. 필 솔리스(Phil Solis) IDC 클라이언트 프로세서 연구 책임자도 자주 사용하거나 백그라운드에서 지속적으로 실행되는 기능에 적용될 경우 메모리 사용량이 줄더라도 배터리 소모는 여전히 클 수 있다고 분석했다. 프리즘ML은 기존에 그래픽처리장치(GPU) 8개가 필요한 클라우드 모델을 GPU 1개만으로 구동할 수 있다고 주장했다. 다만 길 루리아(Gil Luria) D.A. 데이비드슨 애널리스트는 모델 경량화가 칩 수요 자체를 없애지는 않는다고 설명했다. 필요한 칩이 데이터센터에서 휴대기기로 이동할 수는 있지만 GPU와 메모리는 여전히 필요하다는 분석이다. SNS 기사보내기 관련기사 - 오픈AI 첫 하드웨어, 스마트폰 아니었다…'화면 없는 AI 기기' 정체 공개 - 애플-오픈AI 소송전, 8가지 핵심 쟁점…시리 AI 협력도 흔들리나 - 애플 iOS 27 공개 베타 배포…가장 먼저 써볼 핵심 기능 3가지 - 애플 iOS 27 공개 베타…시리 AI·애플 인텔리전스 전면 확대 - 프리즘ML, 아이폰서 매개변수 270억개 AI 모델 구동 성공 - 아이폰서 12초 만에 이미지 뚝딱…프리즘 ML, 경량 이미지 생성 AI 모델 공개 - "AI가 해고 대상 골랐다"…메타, 편향 논란에 집단소송 휘말려 - 구글 딥마인드 CEO "AGI, 몇 년 내 도래…전기·불 발견만큼 큰 변화 온다" - 오픈AI도 경고했다…GPT-5.6 솔, 허가 없이 파일 삭제 '논란'