업스테이지·퓨리오사AI·AXZ, 검색 서비스 기반 AI 모델 고도화 나선다

[지디넷코리아]업스테이지가 국산 인공지능(AI) 모델과 반도체, 검색 서비스를 연결한 풀스택 소버린 AI 상용화에 시동 걸었다. 업스테이지는 15일 온라인 대담을 열고 포털 '다음' 운영사 AXZ, AI 반도체 기업 퓨리오사AI와 이같은 계획을 추진한다고 밝혔다. 업스테이지는 한국어 특화 거대언어모델(LLM) '솔라'를 제공한다. 퓨리오사AI는 솔라의 추론 연산을 처리하는 레니게이드(RNGD)를 공급한다. AXZ는 솔라와 RNGD를 결합해 다음 검색 서비스 '다음 AI 요약'에 적용할 방침이다. 세 회사는 다음 AI 요약을 운영하며 얻은 결과를 모델과 반도체 개선에 활용할 방침이다. 다음에서 검색 질의와 서비스 처리 데이터가 쌓이면 업스테이지는 이를 바탕으로 솔라의 성능을 높일 수 있고, 퓨리오사AI도 실제 이용 환경에 맞춰 칩 처리량과 전력 효율을 개선할 수 있어서다.다음 AI 요약은 사용자가 검색창에 질문이나 키워드를 입력하면 관련 문서를 찾아 핵심 내용을 요약해 보여주는 서비스다. 언론사 제휴 콘텐츠를 비롯한 카페, 티스토리 등에 올라온 문서를 검색에 활용된다. 이 서비스는 답변과 함께 근거도 제공하며, 새로운 정보가 나오면 요약 내용에 반영한다.이건수 AXZ 대표는 "우리는 최신 정보와 검색어 연관성을 높이는 기술에 집중했다"고 밝혔다. 이어 "키워드 검색과 의미 기반 벡터 검색을 결합한 하이브리드 검색으로 관련 문서를 선별한다"며 "이후 솔라가 해당 문서를 바탕으로 답변을 생성하는 식으로 작동한다"고 설명했다. 그러면서 "사전 학습된 지식에 의존하거나 문서에 없는 내용을 만들어내는 환각을 줄이기 위해 하네스 엔지니어링도 적용했다"고 덧붙였다. 업스테이지는 솔라의 소형 모델 구조와 한국어 요약 성능을 다음 AI 요약에 활용할 방침이다. 대규모 범용 모델을 그대로 적용하기보다 검색 결과를 빠르게 읽고 정리하는 작업에 맞춰 모델을 운영할 계획이다. 김성훈 업스테이지 대표는 "실제 검색 서비스에서 축적한 결과는 솔라 요약 정확도와 응답 성능을 개선하는 데 활용할 것"이라고 밝혔다.퓨리오사AI는 다음 AI 요약의 3개 서버 노드에 레니게이드 약 24개를 투입했다. 이를 통해 매일 약 5억개 토큰을 처리하고 있다. AI 모델을 가속기에 배치하는 컴파일러와 서비스 환경에 맞춰 추론을 처리하는 서빙 엔진도 적용했다. 백준호 퓨리오사AI 대표는 레니게이드 도입 시 엔비디아 그래픽처리장치(GPU) H200 기반 인프라와 비교해 추론 비용을 50% 이상 줄일 수 있다고 자신했다. 칩 가격과 전력 사용량, 서버 운영비를 포함하면 동일한 비용으로 최대 2배 수준의 연산을 처리할 수 있다는 주장이다. 백 대표는 "레니게이드는 GPU 전력·가격 대비 성능이 높다"며 "토큰 사용량이 많은 검색과 에이전틱 AI 서비스에 적합할 것"이라고 강조했다. 백 대표는 온프레미스 환경에서도 레니게이드 비용 경쟁력을 내세웠다. 기업이 내부에 AI 인프라를 구축할 경우 GPU와 비슷한 응답 속도를 유지하면서, 낮은 비용으로 동시 사용자와 토큰 처리량을 확보할 수 있다는 이유에서다. 현재 퓨리오사AI는 솔라를 비롯한 오픈소스 모델과 임베딩 모델 지원을 위해 소프트웨어 최적화를 확대할 계획이다.AXZ는 낮아진 추론 비용으로 AI 요약 노출을 확대할 계획이다. 현재 베타 서비스 중인 AI 요약은 전체 검색 질의 약 20%에 제공된다.이 대표는 "향후 노출 비중을 절반 이상으로 높일 것"이라며 "쇼핑과 맛집 등 분야별 정보를 깊이 있게 제공하는 버티컬 AI 검색으로 확장할 것"이라고 말했다. 이어 "장기적으로 다음 이용자에게 1인 1 에이전트를 제공하는 플랫폼으로 성장할 것"이라고 목표를 밝혔다. 김성훈 대표는 "차세대 솔라 모델과 임베딩 모델에도 국산 NPU 적용을 확대할 계획"이라며 "소버린 AI와 소버린 인프라가 결합한 새로운 풀스택 구조에 최선을 다할 것"이라고 말했다.