리벨리온, 국산 NPU로 SKT 독자 모델 'A.X K1' 구동 성공

리벨리온(대표 박성현)은 SK텔레콤의 독자 AI 파운데이션 모델 '에이닷엑스 케이원(A.X K1)'을 자체 신경망처리장치(NPU) 서버에서 구동하는 데 성공했다고 23일 밝혔다. A.X K1은 5190억개 매개변수의 대형언어모델(LLM)로 추론 시 330억개만 활성화되는 전문가 혼합(MoE) 구조로 설계됐다. 리벨리온은 이에 맞춰 소프트웨어를 최적화하고, 반도체 칩에 효율적인 방식으로 병렬 처리하는 분산 기술을 구현했다. 그 결과, NPU 단일 서버만으로도 고성능 GPU 서버에 준하는 인프라 역량을 확인했다는 설명이다. 이를 기반으로 다수 사용자 요청을 동시에 처리하는 에이전트 서비스 데모도 함께 선보였다. 지도(Map)형 에이전트 서비스에서 '주말에 이용 가능한 약국'처럼 일상 질문을 동시에 던져도 병목 없이 즉시 결과를 도출했다. 리벨리온은 과학기술정보통신부의 독자 파운데이션 모델(독파모) 사업에 SKT 컨소시엄으로 참여 중이며, SKT의 '에이닷 전화 통화요약' 등 대규모 트래픽이 발생하는 서비스도 구동 중이다. 양사는 정부 주도 '3대 메가프로젝트'와 '모두의 AI' 등 실생활 AI 서비스의 상용화를 위해 지속적으로 협력할 예정이다. 리벨리온 박성현 대표는 "이번 실증으로 국산 초거대 모델과 국산 NPU의 인프라 효율성과 실사용 가능성을 입증한 만큼 누구나 일상에서 AI를 누릴 수 있는 한국형 AI 인프라를 만들기 위해 노력할 것"이라고 말했다. 김해원 기자 hwkim@aitimes.com - 이통3사, AI 안경 '레이밴 메타' 판매 시작...요금제 결합 할인도 - SKT, AI 스타트업 육성 프로그램 'SKTCH with AI' 모집 - SKT, 하나금융과 AI로 사회적 약자 돕는 '테크포굿' 해커톤 진행 - SKT, SK바이오팜과 AI 기반 난치성 암 표적치료 유효물질 발굴 - [게시판] SKT, 차세대 AI 네트워크 'AI-RAN' 구축사업 선정 등 단신 - 리벨리온, 내년 상반기 코스피 상장 추진…”정부 메가프로젝트 수혜 기대” - 리벨리온, 'AI 최적화' 스퀴즈비츠 인수..."풀스택 AI 인프라 완성" - SKT, 로봇 학습 데이터 표준화 나선다...ITU-T 신규 과제 채택