[K-NPU] SCP에서 GPU·NPU 골라 쓴다...삼성SDS, 퓨리오사AI NPUaaS 16일 출시

기업 환경에 적합한 자원 자동 배정...국가AI컴퓨팅센터에도 함께 구축 삼성SDS가 퓨리오사AI 신경망처리장치(NPU)를 삼성 클라우드 플랫폼(SCP)에서 서비스형 플랫폼 형태로 제공한다. 고객의 AI 추론 작업을 분석해 GPU와 NPU 중 비용과 성능에 적합한 자원을 자동으로 배정하는 서비스도 준비했다. 최정진 삼성SDS 그룹장은 14일 서울 중구 더 플라자 호텔에서 열린 '2026 K-NPU 테크 웨이브'에서 "레니게이드 기반 서비스형 NPU(NPUaaS)를 오는 16일 정식 출시한다"고 밝혔다. 레니게이드는 퓨리오사AI의 2세대 NPU로 올해 초 양산을 시작했다. 기업들은 별도 NPU 서버 구축 없이도 SCP에서 레니게이드를 탑재한 가상머신(VM)을 신청해 사용할 수 있다. 탑재 분량은 1장·2장·4장·8장 등이다. 여러 서버를 연결한 클러스터와 완전관리형 및 서버리스 방식도 지원한다. 삼성SDS는 현재 엔비디아 A100과 H100, B300 GPU를 클라우드 서비스로 제공하고 있다. 레니게이드가 추가되면서 AI 모델 학습에는 GPU를, 대규모 추론에는 NPU를 선택할 수 있게 된다. NPU는 GPU 대비 추론에 특화돼 전력과 비용 효율이 높은 칩으로 알려져있다. 신규 서비스 '심플 AI 인퍼런스'에는 지능형 추론 라우팅 기능이 적용된다. 고객이 응용프로그램 인터페이스(API)로 추론을 요청하면 시스템이 작업 특성과 자원 상태를 분석해 GPU 풀과 NPU 풀 가운데 적합한 자원으로 자동 전달한다. 데이터와 모델만으로 추론 서비스를 운영하도록 지원하는 구조다. 모델 학습을 지원하는 '심플 AI 트레이닝'도 함께 출시한다. 사용자가 서버와 분산학습 환경을 직접 구성하지 않아도 모델 학습을 진행할 수 있는 완전관리형 서비스다. 최정진 그룹장은 "추론 수요가 적은 시간대 유휴 GPU를 학습에 배정하는 혼합 워크로드 스케줄링로 GPU 필요 자원을 약 20% 줄일 수 있다"고 설명했다. 삼성SDS는 자체 조사를 통해 추론 인프라 수요 증가세도 확인했다. 최정진 그룹장은 "AI 활용량 증가가 추론과 모델 서빙 트래픽 증가로 이어지고 있다"며 "GPU와 NPU를 함께 제공해 고객 토큰 생산량과 비용 효율을 최적화할 것"이라고 말했다. 삼성SDS는 해남 국가AI컴퓨팅센터에도 GPU와 NPU를 함께 구축할 계획이다. 범정부 초거대 AI 공통기반에서 자원이 부족할 경우 동탄 데이터센터의 NPU를 연결해 제공하는 방안도 관계 기관과 협의하고 있다. 최정진 그룹장은 "반도체와 인프라, AI 플랫폼, 설루션을 연결한 생태계를 구축해 고객이 별도 인프라 운영 부담 없이 AI를 도입하도록 지원할 것"이라고 말했다. 임경호 기자 lim@techm.kr