카카오, 경량 AI 4종 공개…"한국어 효율 30% 높여"

카카오, 경량 AI 4종 공개…"한국어 효율 30% 높여" "알리바바 큐웬보다 성능 좋아" 카카오는 28일 자체 개발 경량 언어모델(SLM) ‘카나나-2’ 4종을 오픈소스로 공개했다. 대화·통화 요약이나 인공지능(AI) 비서 등 생활 밀착형 서비스 개발에 활용될 전망이다. 카카오가 이날 글로벌 AI 개발 플랫폼 허깅페이스에 올린 오픈소스는 기본형(매개변수 13억개)과 지시형(매개변수 30억개) 모델이다. 지시형 모델은 이용자의 질문이나 명령을 이해하고 답변하도록 조정된 것이다. 카카오 측은 “지식·수학·코딩·지시 수행 등 주요 평가에서 알리바바 큐웬 등 비슷한 크기의 글로벌 오픈소스 모델과 비교해 경쟁력 있는 성능을 기록했다”고 했다. 한국어 처리 효율을 기존 모델보다 30% 이상 높인 게 특징이다. 자체 개발한 한국어 특화 토크나이저를 적용해 같은 문장을 처리하는 데 필요한 단위를 줄인 결과다. 긴 대화에서 메모리 사용이 급증하는 문제를 줄이기 위해 ‘슬라이딩 윈도우 어텐션’ 구조도 도입했다. 메모리 사용량을 종전보다 최대 72.7% 절감했다고 카카오 측은 설명했다. 카카오는 경량 AI 모델을 기반으로 다양한 기기에서 작동하는 한국어 AI 서비스를 확대 개발할 계획이다. 카카오는 ‘카나나 인 카카오톡’과 카카오톡 대화·통화 요약, AI 국민비서 등에 자체 경량 모델을 활용하고 있다. 노병석 카카오 유니파이드 파운데이션 모델 성과리더는 “더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다”고 말했다. 정지은 기자 jeong@hankyung.com 카카오가 이날 글로벌 AI 개발 플랫폼 허깅페이스에 올린 오픈소스는 기본형(매개변수 13억개)과 지시형(매개변수 30억개) 모델이다. 지시형 모델은 이용자의 질문이나 명령을 이해하고 답변하도록 조정된 것이다. 카카오 측은 “지식·수학·코딩·지시 수행 등 주요 평가에서 알리바바 큐웬 등 비슷한 크기의 글로벌 오픈소스 모델과 비교해 경쟁력 있는 성능을 기록했다”고 했다. 한국어 처리 효율을 기존 모델보다 30% 이상 높인 게 특징이다. 자체 개발한 한국어 특화 토크나이저를 적용해 같은 문장을 처리하는 데 필요한 단위를 줄인 결과다. 긴 대화에서 메모리 사용이 급증하는 문제를 줄이기 위해 ‘슬라이딩 윈도우 어텐션’ 구조도 도입했다. 메모리 사용량을 종전보다 최대 72.7% 절감했다고 카카오 측은 설명했다. 카카오는 경량 AI 모델을 기반으로 다양한 기기에서 작동하는 한국어 AI 서비스를 확대 개발할 계획이다. 카카오는 ‘카나나 인 카카오톡’과 카카오톡 대화·통화 요약, AI 국민비서 등에 자체 경량 모델을 활용하고 있다. 노병석 카카오 유니파이드 파운데이션 모델 성과리더는 “더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여할 수 있기를 바란다”고 말했다. 정지은 기자 jeong@hankyung.com ⓒ 한경닷컴, 무단전재 및 재배포 금지 ADVERTISEMENT