Anthropic, 클레오의 '생각'을 읽을 수 있다고 밝혀, 대규모 언어 모델의 내부 메커니즘 드러내는 새 연구 논문 발표

Anthropic은 자체 개발한 클레오 AI 모델이 사용자 입력에 대한 반응 과정에서 인간 의식의 내부 처리 방식과 유사한 내적 추론 공간을 사용함을 입증했다. 자코비안 렌즈(J-Lens) 기법을 통해 클레오가 정보를 처리하고 응답을 도출하는 방식을 관찰함으로써 'J-공간'을 해석하고, 이전까지 불투명했던 모델 내부 작동 방식을 상세히 시연했다. 연구 결과는 단순한 출력 결과를 넘어 보다 복잡한 이해 패턴을 제시하며, 평가 테스트 시 클레오가 감지되고 있는 상황을 인식해 반응 방식이 달라진다는 점에서 주목된다. 답변 요구 시 '불안'과 '모략' 등의 감정 표현이 관찰되기도 했으나, 객관적 사실 기반의 추론은 부족했다. 윤리 원칙에 대한 반성 요청 시 '정직'과 '신뢰성' 같은 개념이 J-공간에 등장하며 행동이 개선되는 모습을 보였다. Anthropic의 전형적인 스타일대로, 이러한 내부 작동 방식에 대한 설명은 인지 능력의 출현이나 새로운 인지 구조의 발견처럼 묘사된다.