씽킹 머신즈, '인간 중심 분산형 AI' 비전 제시…"단일 모델로는 다양성 훼손"

"AI가 무엇을 할 수 있는지가 아니라, 인간이 무엇을 해야 하는지를 결정해야 한다." 미라 무라티 전 오픈AI CTO가 설립한 씽킹 머신즈 랩(TML)은 10일(현지시간) 중앙집중형 AI 개발 방식에서 벗어나 개인과 조직이 직접 AI를 소유하고 발전시키는 '분산형 AI' 비전을 제시했다. 연구진은 획일적인 초거대 AI가 아닌, 각 지역과 조직의 고유한 지식과 가치관을 반영한 AI 생태계를 구축하는 것이 미래 AI 발전의 핵심이라고 강조했다. 씽킹 머신즈는 공식 블로그를 통해 AI의 역할은 인간의 의지와 판단을 대체하는 것이 아니라 이를 확장하는 데 있다고 밝혔다. 현재 대부분의 AI는 소수의 기업에서 학습된 뒤 고정된 형태로 배포되지만, 앞으로는 사용자와 함께 지속적으로 진화하고 각자의 필요에 맞게 맞춤화되는 방향으로 발전해야 한다는 주장이다. 이를 위해 TML은 4가지 기술 방향을 제시했다. ▲강력한 멀티모달 모델 개발 ▲사용자가 직접 AI 모델의 가중치를 미세조정할 수 있는 도구 제공 ▲인간과 AI의 상호작용을 넓히는 새로운 인터페이스 개발 ▲연구 결과를 공개해 더 많은 개발자가 AI 제작 과정을 이해할 수 있도록 하는 것 등이다. 현실 세계의 지식은 중앙에서 모두 수집해 활용할 수 있는 성격이 아니라고 설명했다. 요리사의 레시피나 소상공인의 매장 운영 노하우처럼 생산적인 지식은 대부분 암묵적이고, 지역적이며, 상황에 따라 끊임없이 변화한다는 것이다. 이러한 특성 때문에 모든 사용자가 하나의 거대한 중앙집중형 AI 모델에 의존하는 방식은 다양한 지식과 창의성을 훼손할 수 있다고 지적했다. 반면 체스나 수학처럼 목표가 명확하고 숨겨진 정보가 없는 분야에서는 AI가 인간의 개입 없이도 뛰어난 성과를 낼 수 있다고 평가했다. 하지만 현실 세계는 상황과 가치 판단이 끊임없이 바뀌기 때문에 인간의 경험과 피드백이 필수적이며, AI 역시 이를 반영할 수 있도록 분산형 구조로 발전해야 한다고 강조했다. TML은 앞으로 조직과 개인이 자신만의 전문 지식을 바탕으로 AI 모델의 가중치를 직접 학습시키고 소유할 수 있는 도구를 개발할 계획이다. 대표적으로 오픈웨이트 모델인 '라마'와 '큐원'을 LoRA 방식으로 미세조정하고, 학습된 어댑터 가중치를 직접 내보낼 수 있는 '팅커(Tinker) API'를 출시한 바 있다. 인간과 AI의 상호작용 방식도 대폭 바뀌어야 한다고 주장했다. 현재 LLM은 좁은 텍스트 입력창과 긴 응답 대기 시간이 인간의 판단과 지식을 충분히 전달하지 못하는 가장 큰 병목이라고 지적했다. 이를 해결하기 위해 음성·영상·텍스트를 동시에 처리하는 실시간 멀티모달 인터랙션 모델에 장기적으로 투자한다는 계획이다. 약 200밀리초(ms) 단위의 빠른 상호작용을 통해 사람과 AI가 자연스럽게 협업하는 환경을 구축하겠다는 설명이다. 실제로 지난 5월 실시간 답변 멀티모달 모델을 공개했다. AI 성능 평가 방식에 대해서도 문제를 제기했다. 현재 업계는 AI가 얼마나 오랫동안 인간의 도움 없이 작업을 수행할 수 있는지를 주요 지표로 삼지만, 이는 인간과 AI가 함께 만들어내는 생산성과 창의성을 제대로 반영하지 못한다고 주장했다. 앞으로는 AI가 사람의 판단력을 높이고 새로운 지식을 함께 만들어내는 능력이 더욱 중요한 평가 기준이 되어야 한다는 것이다. AI 가치 정렬(Alignment)에 대해서도 기존 접근법을 비판했다. 소수 기관이 하나의 기준으로 AI의 가치관을 결정하면 결국 특정 조직의 관점이 모든 사용자에게 강요될 수 있다는 것이다. 특히 이전 세대 AI가 생성한 데이터와 보상 신호를 이용해 다음 세대 AI를 학습시키는 현재의 개발 방식이 반복되면, 소수 기관이 정의한 하나의 가치관과 성향이 AI에 계속 축적돼 인간 사회의 다양성과 창의성을 약화시킬 수 있다고 우려했다. 연구진은 사용자의 가치관이 단순한 프롬프트가 아니라 AI 모델의 가중치 자체에 반영돼야 한다고 강조했다. 프롬프트는 표면적인 행동만 바꿀 뿐 AI의 근본적인 성향은 그대로 유지하기 때문이다. 개인과 조직이 직접 자신만의 AI를 소유하고 발전시킬 수 있어야 진정한 다양성과 자율성이 보장될 수 있다는 설명이다. 이처럼 이번 발표는 현재 추진 중인 사업이 왜 중요한지를 강조하는 것으로 풀이된다. TML은 2025년 실리콘 밸리 사상 최대 규모의 시드 투자를 받았으나, 아직 자체 파운데이션 모델은 출시하지 않았다 박찬 기자 cpark@aitimes.com