세레브라스·업스테이지, 국내에 ‘초당 2000토큰’ 초고속 추론 제공

미국의 AI 반도체 기업 세레브라스(Cerebras)와 국내 대표 AI 기업 업스테이지가 전 세계 개발자와 기업들을 대상으로 초고속 상용 AI 서비스를 제공하기 위해 협력한다. 세레브라스는 10일(현지시간) 업스테이지와의 파트너십을 체결하고, 추론 클라우드(Cerebras Inference Cloud)에서 업스테이지의 대형언어모델(LLM) '솔라(Solar) 31B'를 구동한다고 발표했다. 세레브라스의 독자적인 '웨이퍼 스케일 엔진(WSE)' 기반 인프라와 업스테이지의 기업용 AI 모델 기술이 결합하면서, 솔라 31B 모델은 초당 최대 2000개의 토큰을 처리하는 고속 추론 성능을 달성하게 됐다. 이번 협력은 금융, 보험, 의료, 제조 등 실시간 데이터 처리가 필수적인 주요 산업 전반에 변화를 가져올 것으로 기대된다. 기존 GPU 기반 시스템 대비 지연 속도(Latency)가 획기적으로 줄어들어 복잡한 검색 쿼리나 데이터 분석, 실시간 상호작용이 필요한 비즈니스 워크플로우를 몇 분이 아닌 몇 초 만에 처리할 수 있다는 설명이다. 개발자들은 기존 애플리케이션 개발 워크플로우를 변경하지 않고 오픈AI 호환 API를 통해 세레브라스의 고속 컴퓨팅 환경을 그대로 활용할 수 있다. We're excited to collaborate with @upstageai, one of Korea's leading AI companies. Upstage's Solar 31B is now running on Cerebras at up to 2,000 tokens/sec. Watch Solar 31B complete a deep research query across 246 sources...how much faster do you think it is? pic.twitter.com/dnGVZ41Kif — Cerebras (@cerebras) July 10, 2026 김성훈 업스테이지 대표는 "세레브라스와 협력해 업계 최고 수준의 추론 속도를 자랑하는 솔라 모델을 개발자들에게 제공하게 돼 기쁘다"라며 "양사는 빠르고 바로 사용 가능한 AI 애플리케이션을 대규모로 구축하는 것을 더 쉽게 만들어갈 것"이라고 말했다. 줄리 최 세레브라스 최고 마케팅책임자(CMO)는 "한국은 AI 혁신의 최전선에 있으며, 업스테이지와 협력해 한국을 비롯한 전 세계 개발자와 기업들이 새로운 차원의 추론 성능을 구현할 수 있도록 지원하게 되어 매우 기쁘다"라고 밝혔다. 양사는 이번 협력을 시작으로 기술적 기회 평가 및 구체적인 사용 사례 발굴에 긴밀히 협력할 계획이며, 앞으로 더 많은 업스테이지의 고성능 모델을 세레브라스 플랫폼에 도입해 초고속 다국어 실시간 AI 애플리케이션 생태계를 확장해 나갈 방침이다. 장세민 기자 semim99@aitimes.com