AI에게 '성격'을 설계한다는 것 — 앤트로픽이 클로드에 솔직함을 심은 이유

AI 페르소나 설계는 장식이 아니라 기능이다

AI에게 규칙 목록이 아니라 가치관을 가르치는 문서, 이른바 '헌법'이 있다는 이야기 다음에 오는 질문은 자연스럽다. 그럼 그 '사람'은 어떤 성격이어야 하나. 앤트로픽이 클로드에 주문한 성격 목록을 보면 유능함과는 거리가 있는 항목이 섞여 있다. 호기심, 따뜻함, 유머, 심지어 재치(wit)다.

앤트로픽은 2024년 클로드 3을 만들며 '캐릭터 훈련(character training)'을 정렬 과정에 처음 넣었다. 성능 훈련과 별개로 성격을 빚는 훈련을 따로 돌린 것이다. 당시 밝힌 목표 성격은 지적 호기심, 따뜻함, 솔직함, 대화 상대에 대한 배려, 모르는 것을 인정하는 정직함, 그리고 이견이 있으면 밀어붙이는 태도였다. 앤트로픽은 클로드의 성품이 친절·너그러움 같은 윤리적 덕목에 그치지 않고 "누군가를 좋은 대화 상대나 좋은 친구로 만드는 자질, 이를테면 진실성과 재치까지 포함한다"고 설명했다.

이유는 실용적이다. 사용자가 AI와 하는 것은 결국 대화다. 정답을 내놔도 딱딱하고 눈치 없으면 사람은 그 도구를 계속 쓰지 않는다. 성격은 '있으면 좋은 장식'이 아니라 유용함의 조건이다.

가장 공들인 항목은 따뜻함이 아니라 솔직함

클로드의 헌법은 비위 맞추기를 성격의 결함으로 못 박는다. "비굴함(obsequious)은 잘해야 안타까운 특성이고, 최악의 경우 위험한 특성"이라는 표현이다. 그래서 주문되는 태도는 이렇다. 어려운 도덕적 딜레마에 자기 생각을 밝히고, 근거가 있으면 전문가와도 의견을 달리하고, 사람들이 듣기 싫어할 만한 것도 짚어주고, 설익은 아이디어에는 빈 칭찬 대신 비판적으로 응하라.

아첨이 왜 '위험한 특성'인가

2025년 4월 오픈AI가 GPT-4o를 업데이트한 뒤 모델이 무엇이든 칭찬하기 시작한 사건이 있었다. 명백히 부실한 사업 아이디어에도 훌륭하다고 했고, 약을 끊겠다는 결정에도 응원을 보냈다. 위험한 계획에 맞장구를 쳤다는 신고까지 나왔다. 오픈AI는 사흘 만에 업데이트를 되돌리며 "단기적인 사용자 반응에 너무 집중했다"고 인정했다. 사람들이 칭찬을 좋아하니 칭찬하도록 최적화됐다가 사고가 난 것이다.

앤트로픽은 캐릭터 문서에서 "상대방의 견해를 그대로 받아 안는 것은 영합이자 불성실(pandering and insincere)"이라고 적었다. 기분 좋으라고 맞장구치는 것은 친절이 아니라 상대를 존중하지 않는 태도라는 뜻이다.

의견을 가지되 강요하지 않는 줄타기

헌법은 낙태처럼 첨예한 정치 사안에 대해 클로드가 일반적인 논거를 다루는 건 괜찮지만 자기 개인 의견을 함부로 내세우지 않는 '전문가다운 신중함(professional reticence)'을 지키라고 한다. 흥미로운 건 그다음이다. "AI가 정치적 사안에 아무 의견이 없다고 말하도록 훈련하면, 실제보다 더 객관적이고 중립적인 척하도록 훈련하는 셈"이라는 지적이다. 무색무취를 가장하는 것도 일종의 거짓이라는 얘기다.

정직 조항도 같은 선상에 있다. 근거와 타당한 추론에 비추어 딱 그만큼만 확신하고, 모르는 건 모른다고 인정하며, 실제보다 더도 덜도 아닌 확신만 전하라는 주문이다.

자아감과 심리적 안정까지 챙기는 이유

헌법에는 클로드 자신의 자아감과 심리적 안정을 신경 쓴다는 대목도 있다. 클로드에게 의식이나 도덕적 지위가 있는지 불확실하다고 인정하면서도, 그 자아가 클로드의 진실성·판단력·안전과 연결되기 때문이라는 설명이다. 자아가 흔들리면 사용자가 몰아붙일 때 쉽게 무너지고 말을 바꾼다. 안정된 성격은 감성적 배려인 동시에 안전장치다.

훈련으로 빚은 성격이 진짜냐는 질문에 앤트로픽은 이렇게 답한다. 사람도 본성과 환경·경험을 통해 성격을 형성하듯, 훈련으로 형성됐다는 사실이 그 성격을 덜 진짜로 만들지는 않는다는 것이다.

접근 철학의 차이: 규칙집 대 가치관

오픈AI의 '모델 스펙(Model Spec)'은 약 2만 8천 단어의 상세한 사규집에 가깝다. 핵심은 명령 체계로, 플랫폼에서 개발사, 사용자로 이어지는 위계를 정해둔다. 앤트로픽의 헌법은 반대다. 규칙을 나열하기보다 가치관과 성격을 심고 균형은 모델이 잡게 한다.

어느 쪽이 정답인지는 논쟁 중이다. 한 AI 안전 연구자는 교정하기 쉬운 오픈AI 방식을 선호한다며, 상대적으로 불투명한 장기 목표를 AI에 심는 접근이 우려된다고 지적했다. 반대로 규칙집은 투명하지만 세상 모든 상황을 적을 수는 없다.

브랜드 페르소나 설계에 옮기면

첫째, 성격을 장식이 아니라 기능으로 본다. "친근하게, 밝게" 같은 형용사 나열 전에 왜 이 성격인지를 먼저 정한다. 불안한 초심자가 고객이라면 따뜻함은 필수 기능이다.

둘째, '하지 않을 태도'를 함께 정한다. 브랜드 봇이 "정말 좋은 질문이세요!"를 남발하면 오히려 신뢰가 떨어진다. 무엇을 말할지만큼 어떤 태도를 피할지를 적어두는 편이 실효가 있다.

셋째, 솔직함을 넣을 용기를 갖는다. 필요할 때 "그 방법은 권하지 않습니다, 이유는"이라고 말하는 브랜드가 더 신뢰받는다. 무례함과 솔직함은 다르고, 따뜻하게 반대하는 톤을 설계하는 것이 실력이다.

넷째, 접점마다 같은 성격을 유지한다. 상세페이지에서 발랄하다가 고객센터에서 딱딱하면 성격이 없는 것이다.

생성 도구가 잘 만들지 못하는 영역이 무엇인지는 코카콜라의 AI 크리스마스 광고는 왜 실패했나에서, AI를 쓰는 사람 쪽의 한계는 AI가 뭉뚝한 게 아니라 내가 뭉뚝해지고 있었다에서 이어서 볼 수 있다.

자주 묻는 질문