노타, 업스테이지 '솔라 오픈 2' GPU 2장만으로 구동 성공

노타(대표 채명수)는 업스테이지의 2차 독자 AI 파운데이션 모델 '솔라 오픈 2' 전용 경량화 모델을 공개했다고 27일 밝혔다. 솔라 오픈 2는 문서 업무, 코딩, 툴 호출, 다단계 추론 등 에이전트 AI에 최적화된 대형언어모델(LLM)이다. 2500억개(250B) 매개변수 규모의 오픈웨이트 모델로, 연산 효율을 위해 실제 작업 시에는 150억개만 활성화되는 전문가 혼합(MoE) 구조를 적용했다. 노타는 이번 경량화를 통해 가중치 메모리를 500.6기가바이트(GB)에서 117.8GB로 약 76.5% 감축했다. 이를 통해 엔비디아 'H100' GPU 8장이 필요했던 구동 환경을 2장만으로도 가능하게 구현했다. 경량화에는 ▲데이터 기반 MoE 양자화 ▲라우터 인지형 MoE 양자화 ▲비균일 전역 프루닝 기술 등이 적용됐다. 모델 가중치를 4비트 형식으로 변환하고 중요도가 낮은 연산 모듈을 선별해 정리하는 방식으로 효율을 높였으며, 양자화 이후에도 솔라 오픈2의 핵심 기능인 툴 호출은 안정적으로 유지됐다. 이번 성과로 기업에 실제 적용할 수 있는 수준으로 최적화했다는 점에서 기업의 AI 도입 실용성을 높이고, 인프라 비용 효율화에도 기여할 수 있다고 덧붙였다. 김태호 노타 최고 기술책임자(CTO)는 "앞으로도 기업이 자사 환경에 에이전트 AI를 도입하고 활용할 수 있도록 모델 구조와 하드웨어 환경에 맞춘 양자화 및 경량화 기술을 고도화해 나가겠다"라고 말했다. 김해원 기자 hwkim@aitimes.com - 노타, AMD 로보틱스 생태계 합류..."작지만 똑똑한 로봇 AI 만든다" - “GPU 2장으로 고성능 에이전트 구동”…업스테이지 ‘솔라 오픈 2’ 공개 - 노타, 글로벌 학회 'ICML 2026' AI 모델 최적화 챌린지 세계 3위 기록 - 한전KDN, 국토부 스마트도시 핵심사업 동시 참여... 미래형 에너지 기반 도시 조성 본격화 - 노타, AWS '트레이니움' 칩 도입 기업에 모델 최적화 서비스 지원 - [게시판] SK AX, 한국전력기술과 발전·에너지 산업 AI 전환 협력 등 단신 - 노타, 퓨리오사 NPU에 'K-엑사원' 탑재..."크기 71% 압축하며 성능 유지"