메타, AI 라우터 '스위치보드' 개발 착수..."AI 비용 절감 총력"

메타가 AI 서비스 운영 비용을 줄이기 위해 작업 난이도에 따라 적합한 AI 모델을 자동으로 선택하는 AI 모델 라우터 '스위치보드(Switchboard)' 개발에 착수한 것으로 알려졌다. 급증하는 AI 인프라 투자 부담을 낮추는 동시에, 앞으로 기업 고객을 위한 상용 서비스로 확대하는 방안도 검토하고 있다. 디 인포메이션은 21일(현지시간) 메타가 지난 3월 출범한 사내 AI 인큐베이터 'AAI 랩스(AAI Labs)'에서 스위치보드 프로젝트를 추진 중이라고 보도했다. 메타 내부 문서에 따르면, AAI 랩스는 직원들이 AI 기반 제품과 서비스를 제안하면 소규모 개발팀을 구성해 시제품을 제작하고 내부 검증을 거쳐 외부 서비스로 출시하는 방식으로 운영된다. 현재 소비자 서비스, 개발자 도구, 내부 인프라 등 200여개의 프로젝트가 승인된 상태다. 이 중 하나인 스위치보드는 사용자 요청이나 AI 에이전트 작업을 분석해 난이도를 평가한 뒤, 가장 적합한 AI 모델에 자동으로 배분하는 시스템이다. 간단한 작업은 소형 모델이 처리하고, 복잡한 문제만 고성능 프론티어 모델에 맡겨 추론 비용을 최소화하는 것이 핵심이다. 메타는 특히 내부에서 활용 중인 AI 코딩 에이전트의 운영 비용 절감을 주요 목표로 삼고 있다. 내부 문건에는 "현재는 모든 요청이 하나의 모델로 처리되기 때문에 쉬운 작업에는 과도한 비용을 지불하고, 어려운 작업에서는 충분한 성능을 확보하지 못하는 문제가 있다"라며 "추론 비용이 AI 에이전트 확산을 가로막는 가장 큰 장애물"이라고 명시된 것으로 알려졌다. 스위치보드는 오픈라우터(OpenRouter)의 '오토 라우터(Auto Router)'와 유사한 개념이다. 오픈AI도 'GPT-5'를 출시하며 프롬프트의 난이도에 따라 저렴한 모델로 자동 전환하는 기능을 도입했으며, 데이터브릭스와 팔란티어 등도 비용 절감을 위한 AI 라우팅 기술을 개발하고 있다. 메타는 우선 스위치보드를 내부 인프라에 적용해 AI 개발 비용을 줄인 뒤, 대규모 AI 코딩 에이전트를 운영하는 기업을 대상으로 외부 서비스로 제공하는 방안도 검토하고 있다. 다만 프로젝트는 아직 초기 단계로, 실제 제품 출시 여부는 확정되지 않았다. 이번 프로젝트는 AI 투자 확대에 따른 비용 부담을 줄이려는 메타의 전략과도 맞물린다. 메타는 올해 AI 인프라와 설비 투자 규모가 최대 1450억달러(약 214조원)에 이를 것으로 전망하고 있으며, 최근에는 직원들의 AI 토큰 사용량에 제한을 두고 예산 관리 플랫폼을 구축하는 등 내부 비용 통제도 강화하고 있다. 한편 AAI 랩스에서는 스위치보드 외에도 애플 카플레이와 안드로이드 오토에서 동작하는 AI 관광 가이드, 인스타그램 지도 서비스와 연계한 여행 추천 기능, 레이밴 스마트 안경과 연동하는 위치 기반 AI 서비스 등 다양한 프로젝트가 동시에 추진되고 있다. 마크 저커버그 메타 CEO는 AI 에이전트가 소규모 팀의 생산성을 크게 높여 수십개의 새로운 앱 개발을 가능하게 할 것이라는 비전을 제시한 바 있다. 박찬 기자 cpark@aitimes.com