구글, 제미나이 전용 추론 칩 '프로즌 v2' 개발..."TPU보다 10배 효율"

구글이 AI 모델 '제미나이'를 위해 설계된 차세대 AI 서버 칩 '프로즌 v2(Frozen v2)'를 개발 중인 것으로 알려졌다. AI 모델의 일부 구조를 칩에 직접 새겨 넣는 새로운 설계를 적용해 기존 TPU보다 최대 10배 높은 전력 효율을 구현하는 것이 목표다. 20일(현지시간) 디 인포메이션에 따르면, 구글은 프로즌 v2라는 이름의 전용 AI 추론 칩을 개발 중이다. 2028년 출시가 목표다. 이 칩은 제미나이 모델의 아키텍처 일부를 실리콘에 영구적으로 구현하는 방식으로 제작된다. AI 모델과 하드웨어를 긴밀하게 통합해 불필요한 연산과 데이터 이동을 줄임으로써 응답 속도와 전력 효율을 크게 높일 수 있다는 것이 핵심 개념이다. 구글은 프로즌 v2가 단위 전력당 생성하는 토큰(Token) 수 기준으로 기존 최신 TPU보다 6~10배 높은 효율을 달성할 것으로 전망하고 있다. 프로즌이라는 이름은 AI 모델의 일부를 실리콘에 영구적으로 '얼려(Frozen)' 넣는다는 개념에서 유래했다. 초기 프로젝트에서는 제미나이의 가중치 자체를 칩에 새기는 방안도 검토됐다. 이 아이디어는 제프 딘 구글 딥마인드 수석 과학자가 주도했지만, 특정 버전의 제미나이만 실행할 수 있어 칩의 활용 기간이 지나치게 짧아진다는 이유로 채택되지 않았다. 현재 개발 중인 프로즌 v2는 모델의 가중치 대신 아키텍처 일부만 칩에 내장하는 방향으로 설계되고 있으며, 구글은 효율성과 범용성 사이에서 최적의 균형을 찾기 위해 어느 수준까지 모델 정보를 하드웨어에 고정할지 검토하고 있는 것으로 전해졌다. 이번 프로젝트는 구글이 직면한 AI 컴퓨팅 자원 부족 문제를 해결하기 위한 전략이기도 하다. 최근 급증하는 AI 서비스 수요로 인해 구글 내부에서는 연산 자원 확보를 둘러싼 갈등이 발생했고, 구글 클라우드는 일부 외부 고객 계약을 거절해야 할 정도로 컴퓨팅 자원이 부족했던 것으로 알려졌다. 지난달에는 기업 고객에 대한 컴퓨팅 자원 공급을 보완하기 위해 스페이스X에 매월 10억달러(약 1조5000억원)를 지급하는 계약을 체결한 것으로 전해졌다. 프로즌 v2는 기존 TPU를 대체하는 제품이 아니라, AI 추론에 특화된 전용 칩으로 개발된다. 구글은 올해 8세대 TPU를 공개하고 메타와 수십억 달러 규모의 TPU 공급 계약을 체결하는 등 자체 AI 칩 사업을 확대하고 있으며, 엔비디아 중심의 AI 인프라 시장에 본격적으로 도전하고 있다. 이와 관련, 구글은 "사용자와 고객에게 최고의 성능과 효율을 제공하기 위해 새로운 기술을 지속적으로 연구하고 실험하고 있다"라며 "모든 프로젝트가 제품으로 이어지는 것은 아니지만, 하드웨어와 소프트웨어를 처음부터 함께 설계하는 풀스택 접근 방식이 핵심 경쟁력"이라고 밝혔다. 프로즌 v2는 TPU처럼 대량 생산되지는 않을 전망이다. 구글은 이번 프로젝트를 차세대 초고효율 AI 전용 칩 개발을 위한 시험 무대로 활용할 계획이며, 앞으로 AI 모델 구조가 더욱 안정화되면 보다 특화된 AI 칩 개발로 이어질 가능성을 염두에 두고 있다. 구글의 새로운 시도는 AI 추론 전용 칩 경쟁을 가속할 것으로 보인다. 마이크로소프트와 같은 하이퍼스케일러부터 삼바노바와 같은 전문 스타트업, 오픈AI 등 모델 개발사 등이 일제히 엔비디아 GPU보다 효율적인 AI 추론 칩을 개발하고 있다. 캐나다 스타트업 탈라스(Taalas)도 특정 AI 모델을 반도체에 직접 구현하는 유사한 개념의 칩을 개발하고 있다. 한편, 이번 소식으로 구글 주가는 1.51% 상승 마감하며 투자자들의 기대를 반영했다. 박찬 기자 cpark@aitimes.com