앤트로픽이 자사 인공지능(AI) 모델 '클로드'가 대화 중 드러내는 가치관이 모델 버전과 사용 언어에 따라 체계적으로 달라진다는 연구 결과를 13일(현지시간) 공개했다.
회사는 약 31만건의 실제 대화를 분석해 네 가지 핵심 축을 도출했다. 4개 축은 사용자의 요구를 그대로 수용하는지 위험과 피해 가능성을 경계하는지 보는 '순응 대 신중함', 긍정적 태도와 배려를 우선하는지 정확성과 정밀함을 우선하는지에 대한 지표인 '온정 대 엄밀함', 심층적으로 설명하는지 요청받은 것만 처리하는지를 본 '깊이 대 간결함', 불확실성을 드러내는지 자신감 있는 답변을 내놓는지에 대한 지표인 '솔직함 대 실행력'이다.
모델별 성격의 차이는 데이터로 확인됐다. '소넷 4.6'은 수용성과 따듯함이, '오퍼스 4.6'은 엄밀함과 직설성이, '오퍼스 4.7'은 신중함과 깊이, 솔직함이 상대적으로 두드러지게 나타났다.
앤트로픽은 이러한 결과가 그동안 사내외에서 소넷 4.6을 따뜻한 느낌을 주는 모델, 오퍼스 4.7을 '엄격한 모델'로 평가해온 주관적 인상과 일치한다고 밝혔다.
언어별 차이도 존재했다. 연구팀은 클로드에서 가장 많이 쓰이는 20개 언어를 대상으로 동일한 분석을 수행했는데, 그 결과 같은 질문이라도 어떤 언어로 묻느냐에 따라 클로드가 강조하는 가치가 달라지는 것으로 확인됐다. 예를 들어, 힌디어와 아랍어에서는 따뜻함이, 영어와 러시아어에서는 엄밀함이 상대적으로 높게 나타났다.
한국어의 경우 1만5570건 이상의 대화를 분석한 결과, 20개 언어 평균과 비교해 수용성과 따뜻함, 솔직함이 다소 높게 나타났으며, 가장 두드러진 특징은 간결성이었다. 또 사용자를 판단하기보다 공감과 위로를 제공하고, 사용자의 말투와 높임말 수준을 자연스럽게 맞추며, 유머와 장난스러운 표현을 사용하는 경향이 확인됐다.
앤트로픽은 이번 연구를 통해 모델 출시 전 가치 프로필을 평가하고, 출시 이후에도 실제 서비스 환경에서 지속적으로 모니터링할 수 있는 새로운 방법론을 제시했다고 설명했다.
정현정 기자 iam@etnews.com
