카카오, 온디바이스용 '카나나-2' 경량 모델 4종 오픈소스 공개

카카오(대표 정신아)는 자체 AI 모델 '카나나'의 경량 언어모델(SLM)을 허깅페이스에 오픈소스로 공개했다고 28일 밝혔다. 공개한 모델은 ▲카나나-2-1.3B-base ▲카나나-2-1.3B-instruct ▲카나나-2-3B-base ▲카나나-2-3B-instruct 등 4종이다. 이번 모델은 상업적 활용까지 허용하는 '카나나 오픈 라이선스'로 스마트폰이나 개인 PC 등의 환경에서도 별도 제약 없이 직접 구동할 수 있다. 현재 카카오의 경량 모델은 '카나나 인 카카오톡' '카카오톡 대화요약 및 통화요약' 'AI 국민비서' 등 서비스에 활용되고 있다. 크기를 줄였음에도 한국어와 영어 모두에서 유사 크기의 최신(SOTA) 오픈소스 모델 대비 우수한 성능을 기록했다. 대화, 지식, 코드, 수학, 지시이행, 툴 호출 등 실제 서비스 활용 역량에서도 큐웬, 젬마 등 글로벌 모델과 견줄 만한 경쟁력을 나타냈다. 특히 자체 한국어 특화 토크나이저를 적용해 기존 대비 한국어 처리 효율을 30% 이상 개선했다. 또, '슬라이딩 윈도우 어텐션' 구조를 도입해 최대 32K(32000 토큰) 길이의 대화에서도 메모리 사용량을 최대 72.7%까지 절감하는 등 온디바이스 환경에 최적화했다. 노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "에이전틱 AI 시대를 준비하며 클라우드의 대규모 AI와 온디바이스 경량 AI 모두의 중요성을 체감하고 있다"라며 "이번 공개 모델이 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다"라고 말했다. 김해원 기자 hwkim@aitimes.com