"한국어 쓰는 클로드, 더 다정하다"…앤트로픽, 언어·모델별 가치 분석 공개

사용하는 언어에 따라 '클로드'가 표현하는 가치 성향이 크게 달라진다는 연구 결과가 나왔다. 특히 한국어는 글로벌 평균과 비교해 사용자의 감정에 공감하고 위로를 건네는 ‘따뜻함’과 ‘수용성’이 가장 두드러지는 것으로 나타났다. 앤트로픽은 14일 '모델과 언어에 따른 클로드의 가치 표현' 연구를 공개했다. 실제 사용자와의 대화를 바탕으로 클로드가 모델별, 언어별로 어떤 가치를 표현하는지 측정한 결과다. 개인정보 보호 기법을 적용해 약 31만건의 익명 대화를 분석했으며, 클로드 3개 모델(소네트 4.6, 오퍼스 4.6 및 4.7)과 사용량 상위 20개 언어를 대상으로 연구를 진행했다. 클로드가 표현하는 가치를 4가지 카테고리로 정리했다. ▲수용성(Deference)과 신중함(Caution) ▲따뜻함(Warmth)과 엄밀함(Rigor) ▲깊이(Depth)와 간결함(Brevity) ▲솔직함(Candor)과 실행 중심(Execution) 등이다. 이는 각각 ▲사용자의 요청과 선호를 얼마나 적극적으로 수용하는지, 또는 잠재적인 위험과 해악을 얼마나 먼저 고려하는지 ▲공감과 배려를 중심으로 응답하는지, 또는 정확성과 논리성을 얼마나 중시하는지 ▲충분한 맥락과 상세한 설명을 제공하는지, 또는 핵심만 간결하게 전달하는지 ▲불확실성과 한계를 명확히 설명하는지, 또는 실행 가능한 결과 도출에 집중하는지 등을 나타내는 지표다. 이를 바탕으로 모델별 측정을 진행했다. 그 결과, ‘클로드 소네트 4.6’은 수용성과 따뜻함이, ‘클로드 오퍼스 4.7’은 신중함·깊이·솔직함이, ‘클로드 오퍼스 4.6’은 엄밀함과 직설성이 상대적으로 두드러진 것으로 나타났다. 언어 별로도 뚜렷한 차이가 나타났다고 전했다. 한국어 1만5570건 이상의 대화를 분석한 결과, 20개 언어 평균과 비교해 수용성과 따뜻함, 솔직함이 다소 높게 나타났다. 한국어 사용에서는 간결성도 두드러졌다. 사용자를 판단하기보다 공감과 위로를 제공하고, 사용자의 말투와 높임말 수준을 자연스럽게 맞추며, 유머와 장난스러운 표현을 사용하는 경향이 확인됐다. 따뜻함과 엄밀함에서도 언어별로 큰 차이를 보인 것으로 나타났다. 힌디어와 아랍어 등에서는 따뜻함이, 영어와 러시아어에서는 엄밀함이 상대적으로 높게 나타났다. '수용성-신중함'과 '깊이-간결함'은 언어와 관계없이 비교적 일관된 경향을 보였다고 전했다. 앤트로픽은 이번 연구를 바탕으로 ‘가치 프로필의 차이’가 어떤 학습 데이터에서 비롯됐는지 추적, 분석하겠다고 덧붙였다. 또 클로드의 가드레일인 '헌법(Constitution)'이 허용하는 범위에서 가치 프로필을 조정하거나 사용자 맞춤형으로 제공할 수 있을 것으로 기대했다. 장세민 기자 semim99@aitimes.com