카카오, 경량 AI 모델 '카나나-2' 오픈소스 공개

[디지털투데이 이호정 기자] 카카오가 자체 개발한 인공지능(AI) 모델 '카나나'의 경량 언어모델(SLM)을 오픈소스로 공개하며 기술 경쟁력 강화와 생태계 확장에 나선다. 카카오는 28일 글로벌 AI 플랫폼 허깅페이스에 스마트폰 등 제한적인 디바이스 환경에서 직접 구동할 수 있는 경량 언어모델 4종을 오픈소스로 공개했다. 이번에 배포된 라인업은 '카나나-2' 시리즈로 ▲Kanana-2-1.3B-base ▲Kanana-2-1.3B-instruct ▲Kanana-2-3B-base ▲Kanana-2-3B-instruct 등 총 4종이다. 회사측에 따르면 이번에 공개한 모델들은 작은 크기에도 불구하고 한국어, 영어 모두에서 글로벌 수준의 성능을 구현한 것이 특징이다. 유사 크기의 최신 오픈소스 모델 대비 한국어, 영어, 지식, 수학, 코드 등 대부분의 대표 벤치마크(성능 평가)에서 우수한 성능을 기록했다. 특히 'Kanana-2-1.3B-instruct'와 함께 개발한 더 작은 크기의 'Kanana-2-0.9B-instruct'는 대화, 지식, 코드, 수학, 지시이행, 툴 호출 등 실제 서비스 활용 역량에서 '큐웬', '젬마' 등 동급 글로벌 모델과 경쟁력 있는 지표를 보였다. 아울러 카카오가 자체 개발한 한국어 특화 토크나이저를 적용해 기존 대비 한국어 처리 효율을 30% 이상 끌어올렸다. 토크나이저는 AI 모델이 텍스트를 처리할 때 문장을 잘게 쪼개는 단위를 결정하는 핵심 기술이다. 한국어에 최적화된 토크나이저를 사용할수록 동일 문장을 더 적은 단위로 연산해 속도가 빨라지고 구동 비용이 절감된다. 카카오는 지난해 개발 완료한 한국어 특화 토크나이저를 이번 모델 전반에 적용했다. 이번 라인업은 메모리와 연산 자원이 제한적인 온디바이스 환경에 맞춰 최적화 설계를 마쳤다. 긴 대화를 처리할 때 메모리 사용량이 급격히 늘어나는 병목 현상을 해결하기 위해 '슬라이딩 윈도우 어텐션' 구조를 도입했다. 이를 통해 최대 32K(3만2000토큰, 약 2만4000단어) 길이 수준의 대화에서도 메모리를 최대 72.7%까지 절감하면서 안정적인 성능을 유지할 수 있다. 카카오는 이번 모델을 상업적 활용까지 허용하는 '카나나 오픈 라이선스'로 배포한다. 개발자, 연구기관, 기업 등 누구나 별도의 제약 없이 기술을 활용할 수 있어, 국내 고성능 한국어 AI 모델 활용 기반 확대와 신규 서비스 개발 활성화에 기여할 전망이다. 이미 카카오 내부적으로는 이번 모델 개발 과정에서 축적한 기술을 '카나나 인 카카오톡', '카카오톡 대화요약 및 통화요약', 'AI 국민비서' 등 실제 서비스에 적용해 활용하고 있다. 노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "에이전틱 AI 시대를 준비하며 클라우드의 대규모 AI와 온디바이스 경량 AI 모두의 중요성을 체감하고 있다"며 "카카오는 두 영역에서 기술 경쟁력을 높여가고 있으며, 이번 오픈소스 공개 모델들이 더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다"고 말했다.