다음 AI 오버뷰, 국산 NPU·LLM으로 돌린다..."GPU 대비 30% 비용 절감"

24개 칩으로 하루 5억 토큰 처리...사용량 확대로 전성비·가성비 증가 전망 AI 서비스 쇼핑·맛집 등 버티컬 확장...개인 에이전트 서비스도 구상 중 포털 다음이 업스테이지 대규모언어모델(LLM) '솔라'를 기반으로 한 'AI 오버뷰' 서비스를 제공한다. LLM 구동을 위한 인프라에는 퓨리오사AI 2세대 신경망처리장치(NPU) '레니게이드'가 사용된다. 칩과 AI 모델, 플랫폼 모두 국산 제품을 써 현장 사례를 만들려는 시도로 풀이된다. 김성훈 업스테이지 대표는 15일 온라인 간담회를 통해 "우리가 만든 기술을 더 많이 사용해달라"며 이같이 밝혔다. 제품이나 서비스에 대한 더 많은 이용이 더 나은 기술 개발로 이어진다는 이유에서다. 그는 "다음 오버뷰를 사용하면 솔라를 사용하는 것이고, 이는 NPU를 사용하는 것과 같으니 선순환을 만들 수 있다"고 강조했다. 다음 AI 오버뷰는 사용자가 포털에서 질문을 하면 검색엔진이 내놓은 결과를 '솔라'가 요약해 보여주는 서비스다. 포털 네이버와 줌에서도 유사한 서비스를 'AI 브리핑'과 'AI 1초 요약'이라는 명칭으로 각각 제공 중이다. 특히 줌은 지난달 'AI 1초 요약'과 'AI 이슈 트렌드' 서비스 핵심 모델을 LG AI연구원의 LLM 'K-엑사원'으로 교체하며 포털에 국산 AI 모델을 접목했다는 평가를 다음보다 한발 앞서 받은 바 있다. 업스테이지는 여기에 하드웨어 인프라(칩)까지 국산으로 사용한 점을 차별화 요소로 내세웠다. 국산 기술만으로 완성한 풀스택 소버린 AI의 첫 사례라는 설명이다. 이날 현장에는 이건수 다음(AXZ) 대표, 백준호 퓨리오사AI 대표가 자리를 함께해 퓨리오사AI 레니게이드 칩과 업스테이지 솔라 모델, AXZ 다음 AI 서비스 간 협력 방식을 소개했다. 백준호 대표는 "레니게이드가 솔라 모델을 가속하고 있다"며 "서버 3개 노드, 24개 칩이 투입돼 하루 평균 약 5억개 토큰을 처리 중"이라고 말했다. 퓨리오사AI는 레니게이드를 바탕으로 솔라를 구동하는 과정에 수반된 '최적화' 노력도 언급했다. 하드웨어 가속기 실리콘 개발을 비롯해 그 위에 들어가는 소프트웨어, AI 모델을 가속기에 맵핑할 수 있는 컴파일러와 서빙에 드는 엔진 개발 등이 이에 해당한다. 백준호 대표는 "하드웨어와 소프트웨어를 코디자인(Co-design) 해서 거의 원천 설계로 새로운 패러다임을 만들었다"며 "(그 결과) 가성비와 전성비가 엔비디아 H200보다 좋게 나온다"고 밝혔다. AI 서비스가 대중화 되며 토큰 사용량이 급증하는 환경에서 GPU 대비 고효율을 강조한 것이다. 그는 "각 기업에서 AI 전환(AX) 작업을 할 때도 국산 칩(NPU)을 사용하면 전체 비용을 1.5배에서 2배 정도 절감할 수 있다"며 "소버린 AI 칩이 결합된 모델들과 칩들은 공급망 관점과 국제 정세 측면에서도 확보해야 하는 기술들"이라고 덧붙였다. 김성훈 대표는 "우리도 다음과 함께 하루에 30B 정도의 토큰을 사용하는데 올해 이 규모가 300B까지 늘어날 것으로 본다"며 "현재 30% 정도 절감 효과를 보고 있다"고 말했다. 다음은 AI 서비스를 더욱 확대해 국산 NPU와 AI 모델 샤용량 증가에 기여할 전망이다. 전체 질의에서 20% 정도 적용되던 AI 오버뷰 범위를 절반 이상으로 확대하는 것이 1차 목표다. 이건수 대표는 "AI 오버뷰 포 쇼핑, 포 맛집 식으로 버티컬하게 깊이 들어가 확장하는 안도 계획 중"이라며 "향후 다음 사용자에게는 1인 1에이전트를 보급할 것"이라고 말했다. 그러면서 사용자 관심사에 기반해 관련 뉴스를 매일 아침 자동으로 취합해주는 형태의 서비스를 예시로 언급했다. 김성훈 대표는 "다음 달이면 (업스테이지에서도) '독자 AI 파운데이션 모델' 사업의 두 번째 모델이 나온다"며 "여러분의 많은 사용이 품질 개선을 이끌어내고, 그렇게 나온 더 좋은 품질로 더 많은 사용을 기대할 수 있다"고 말했다. 임경호 기자 lim@techm.kr 관련기사 - 임세령·임상민 '자매 경영' 본격화…대상그룹, 식품 넘어 미래 먹거리 키운다 - 김홍국 회장 차녀의 첫 시험대…김현영의 오드그로서, 투자만큼 성과 낼까 - "팔기 전에 AI 소비자에게 묻는다"...유통가, '가상소비자' 실험 본격화 - "글로벌은 3세가 직접 뛴다"…농심 신상열, 북미·중화권 전면 배치 'K-라면' 영토 넓힌다 - ADR 쇼크는 하루였다…SK하이닉스, 美가 먼저 인정한 가치에 다시 200만원 회복 - 질적 성장 통했다…2분기도 순항하는 JB금융, 김기홍식 '강한 은행' 통했다 - "中 자본에 회사 넘겨도 흔들림 없다"...위메이드의 스테이블코인 사업 '굳건' - 카카오, 카카오톡 업데이트...메시지 요약·챗GPT 기능 강화 - 퀄컴-하이퍼클라우드 "서울 600년 XR로 즐기세요" - "블랙먼데이 딛고 7000피 탈환"…코스피, 하루 만에 반등하며 투자심리 회복 - "AX는 생존 과제" 신동빈, 롯데 사장단에 AI 전환·수익성 혁신 주문 - SK하이닉스가 연 문…삼성전자 ADR 가능성 다시 수면 위로 - ASML, 2분기 '깜짝실적'..."EUV 주문, 2028년분 접수 중"