키미 K3, AI 인프라 판도 'GPU'에서 '메모리'로 전환..."딥시크와는 달라"

문샷 AI의 '키미 K3(Kimi K3)'가 AI 인프라 시장의 새로운 변곡점으로 떠오르고 있다. 컴퓨팅 효율을 극대화하면서도 초대형 메모리를 요구하는 구조를 채택하면서, AI 산업의 핵심 경쟁력이 GPU 연산 성능에서 고대역폭메모리(HBM)와 메모리 중심 시스템 설계로 이동할 것이라는 전망이 나오고 있다. 20일(현지시간) 블룸버그에 따르면, 키미 K3가 AI 인프라 시장의 패러다임을 '컴퓨팅 성능'에서 '메모리 용량' 중심으로 바꿀 수 있다는 전망이 제기되고 있다. 컴퓨팅 효율은 크게 높이면서도 초대형 모델을 구동하기 위해 막대한 메모리 자원이 필요해지면서, SK하이닉스와 삼성전자 등 고대역폭메모리(HBM) 업체와 TSMC 같은 첨단 반도체 기업이 새로운 수혜자가 될 것이라는 분석이다. 키미 K3는 총 2조8000억개의 매개변수를 갖춘 중국 최대 규모의 모델이다. 특히 이번 모델에는 업계 최고 수준의 '희소성 비율(Sparsity Ratio)'이 적용됐다. 희소성 비율은 전체 모델 크기 대비 실제 작업 수행 시 활성화되는 매개변수의 비율을 의미하며, 이 수치가 높을수록 필요한 연산량이 줄어들어 컴퓨팅 효율이 향상된다. 이 같은 접근법은 지난해 초 글로벌 시장을 뒤흔든 '딥시크-R1'과 비교된다. 당시 딥시크는 AI 학습과 추론 비용을 획기적으로 낮출 수 있다는 기대를 불러일으키며 "AI가 예상보다 적은 컴퓨팅 자원이 필요할 것"이라는 우려를 키웠다. 그 결과 엔비디아의 시가총액은 하루 만에 약 6000억달러(약 887조원) 증발하는 등 반도체 업종 전반이 큰 충격을 받았다. 키미 K3 공개 이후에도 반도체 주가는 비슷한 반응을 보였지만, 업계에서는 이번 사례가 딥시크와는 본질적으로 다르다고 평가한다. 키미 K3도 연산 효율을 높였지만, 훨씬 더 거대한 모델 구조를 채택하면서 AI 인프라가 요구하는 자원의 성격 자체를 바꾸고 있기 때문이다. 핵심은 메모리다. 키미 K3는 작업 시 일부 매개변수만 활성화하지만, 2조8000억개의 매개변수 전체는 항상 메모리에 저장돼 있어야 한다. 저 정밀도 데이터 형식을 적용해 최대한 압축하더라도 모델 자체가 차지하는 메모리 용량은 약 1.4테라바이트(TB)에 달한다. 이 때문에 키미 K3를 실제 서비스에 배포하려면 엔비디아 블랙웰 'GB300'과 같이 HBM을 대규모로 탑재한 최신 AI 프로세서 클러스터가 사실상 필수적이다. 연산량은 줄었지만, 메모리 요구량은 오히려 크게 증가하는 구조인 셈이다. 시장에서는 이러한 변화가 HBM 시장에는 긍정적으로 작용할 것으로 보고 있다. SK하이닉스와 삼성전자 같은 메모리 업체는 물론, 첨단 AI 칩 생산을 담당하는 TSMC도 지속적으로 해택받을 가능성이 높다는 전망이다. AI 모델이 점점 거대해질수록 컴퓨팅 효율 개선만으로는 해결되지 않는 메모리 병목 현상이 더 중요해질 것이라는 분석이다. 문샷 AI는 오는 27일 키미 K3의 모델 가중치를 공개할 예정이다. 기업들은 이후 문샷의 클라우드 서비스를 거치지 않고 자체 데이터센터에서 모델을 직접 운영할 수 있게 된다. 소프트웨어는 무료로 사용할 수 있어도, 이를 대규모로 서비스하기 위해서는 막대한 AI 서버와 메모리 인프라 투자가 불가피하다. 중국 AI 생태계도 빠르게 확장되고 있다. 알리바바는 2조4000억개의 매개변수를 갖춘 '큐원 3.8-맥스 프리뷰'를 공개했으며, 중국 AI 기업들은 자국산 AI 반도체에 맞춰 모델을 최적화하는 전략을 강화하고 있다. 이러한 기대감에 중국 기술주 중심의 차이넥스트(ChiNext) 지수는 장중 3.6%까지 상승했다. 업계에서는 키미 K3와 같은 초대형 오픈웨이트 모델이 오픈AI와 앤트로픽 등 미국 AI 기업들의 가격 결정력을 약화하는 동시에, 오히려 AI 데이터센터와 메모리 중심의 인프라 투자를 더 확대하는 계기가 될 것으로 전망하고 있다. 박찬 기자 cpark@aitimes.com