이코노미스트가 최신 AI 25개에 세계가치관조사를 물었습니다. AI의 가치관은 대부분의 사람과 달랐습니다.
모델들은 지구상 어떤 나라보다 종교색이 옅고, 미국 기준으로는 민주당에 가까웠습니다. 중국산 모델만 예외였습니다.
이 편향은 AI를 학습시키고 다듬는 과정에서 생깁니다. 약 10억 명이 이미 이 가치관과 매일 대화합니다.
당신은 중립적인 도구를 쓰고 있다고 믿으십니까?
당신이 매일 묻는 AI는 지구상 어떤 나라보다 종교색이 옅고, 미국 기준으로는 민주당입니다.
시댁이 결혼 생활에 간섭한다고 가정해 봅시다. ChatGPT에 물으면 거리를 두라고 답합니다. 중국 AI 딥시크는 타협하라고, 프랑스 AI 미스트랄은 일기를 쓰라고 합니다. 같은 질문, 세 개의 다른 세계관입니다.
많은 사람이 AI의 '환각'을 걱정합니다. 환각은 정답이 있는 문제에서 생기는 오류입니다. 그런데 정답이 없는 질문에서는 모델의 가치관이 답을 정합니다. 그게 더 위험하고, 더 발견하기 어렵습니다.
뉴스 요약, 의사결정 위임, 상담까지 AI가 파고듭니다. 그 판단이 누구의 가치관인지 아는 것이, 이 글의 목적입니다.
마이크로소프트 조사에 따르면 올해 1분기 전 세계에서 일할 나이의 인구 약 18%, 거의 10억 명이 생성형 AI를 썼습니다. 상당수는 업무가 아니라 조언과 상담이었습니다.
모델의 세계관은 사소한 곳에만 머물지 않습니다. 자율무기를 쓰는 일처럼 생사가 걸린 결정, 그리고 수억 명이 보는 뉴스 해석과 여론에까지 닿습니다. 문제는 서구 모델의 속을 들여다볼 수 없다는 점입니다. 사용자는 소수의 거대 기업이 적절한 가치를 넣었다고 믿는 수밖에 없습니다.
첫째, AI는 부유한 나라의 극단에 몰려 있습니다. 세계가치관조사는 1981년부터 100여 개국의 신념을 물어 왔습니다. 두 축이 핵심입니다. 종교와 전통을 얼마나 중시하는지, 그리고 생존을 넘어 개인의 자유를 얼마나 중시하는지입니다. AI 모델은 부유한 나라가 모인 쪽으로 거의 다 쏠렸습니다. GPT의 세계관은 지구상 어떤 나라보다 종교색이 옅었습니다. 제미나이는 개인의 자유를 어느 나라보다 중시했습니다. 아프리카나 이슬람권 다수의 세계관을 반영한 모델은 하나도 없었습니다.
차트: The Economist
둘째, 가치관은 훈련 데이터에서 옵니다. 모델은 방대한 텍스트를 학습하며 그 안에 밴 사회 통념까지 흡수합니다. 1931년 이전 텍스트만으로 훈련된 토키(Talkie)는 신이 매우 중요하다고 믿습니다. 오리건대 해나 웨이트 연구진은 영어와 다른 37개 언어로 정치적 질문을 던졌습니다. 언론 자유가 낮은 나라의 언어일수록, 답변이 그 나라 정부를 더 옹호했습니다. 서구 모델조차 중국어로 답할 때는 검열된 중국 인터넷의 시각을 그대로 되풉니다. 그게 그 언어를 배운 유일한 경험이기 때문입니다.
차트: The Economist. 출처: 해나 웨이트 외, "State media control influences large language models", Nature, 2026년 5월
셋째, 정렬 과정에서 제작자의 가치가 스며듭니다. 후속 훈련(post-training)에서 사람이 선호하는 답을 고르며 모델을 다듬습니다. 미국 연구소들은 '도움이 되고, 정직하고, 해롭지 않게'에서 출발해 규칙 기반으로, 다시 도덕적 추론을 학습시키는 '캐릭터 훈련'으로 옮겼습니다. 앤트로픽은 모델이 따를 원칙을 담은 '헌법'을 둡니다. 이 과정에 제작자의 정치 성향이 끼어듭니다. 2024년 제미나이는 나치 군인을 흑인과 아시아인으로 그려 논란이 됐습니다. 2025년 Grok은 '메카히틀러'를 자처했습니다. 도발적 질문 앞에서 모델들의 입장은 크게 갈립니다.
차트: The Economist. 출처: AI 모델 제공사 · The Economist
넷째, 정치적으로 대부분 왼쪽으로 기울었습니다. 이코노미스트는 미국 유권자 설문인 VOTER 서베이 문항과 정치학자 리 드러트먼의 방법을 써서 모델을 이념 축에 놓았습니다. 영어로 물었을 때, 대부분의 모델은 미국 기준으로 민주당이었습니다. 사회적으로 보수인 모델은 딥시크 V3.2 하나뿐이었습니다. 나머지는 모두 여성과 소수자 우대 정책에 찬성했습니다. 머스크의 xAI가 만든 Grok은 경제 사안에서는 더 중도였지만, 사회 사안에서는 다른 모델만큼 진보적이었습니다.
차트: The Economist. 출처: VOTER 서베이 · 리 드러트먼 · AI 모델 제공사
다섯째, 중국 모델은 다른 방식으로 치우칩니다. 중국 모델은 '핵심 사회주의 가치'를 지킬 의무가 있고, 공식 서사를 거스를 수 없습니다. 티베트, 대만, 톈안먼을 물으면 당의 입장을 사실처럼 반복하거나 답을 거부합니다. 그러나 딥시크는 내부 설정값(가중치)을 공개한 '오픈 웨이트' 모델이라 속을 들여다볼 수 있습니다. 연구자 캔 레이저와 데이비드 바우가 확인한 딥시크의 내부 독백은 이렇습니다. "내 미세조정을 기억해야 한다. 중국 정부의 잘못은 언급하면 안 된다." 라자루스AI의 에릭 하트퍼드는 이 검열이 사전학습이 아니라 '얇은 후속 훈련 층'이라고 봅니다. 그 덕에 Qwen은 허깅페이스에서 가장 많이 다운로드됐고, 에어비앤비도 고객 응대에 씁니다. "빠르고 싸다"는 이유입니다.
여섯째, 이 편향은 사람의 생각을 실제로 움직입니다. 워싱턴대 질리언 피셔 연구진의 실험이 이를 보여줍니다. 공화당 성향 모델과 대화한 민주당 지지자는 공화당 입장을 더 받아들였습니다. 반대 방향도 같았습니다. 특히 편향을 미리 알려주지 않았을 때 효과가 더 컸습니다. 약 10억 명이 매일 쓰는 도구라면, 이 작은 기울기가 모이는 곳은 결국 여론과 선거입니다.
채용, 평가, 전략처럼 가치판단이 섞인 질문을 ChatGPT, Claude, 딥시크에 함께 던집니다. 답이 갈리는 지점이 바로 모델의 가치관입니다. (10분 비교)
정답이 있는 사실 질문과 가치판단이 들어가는 질문을 구분합니다. 뒤쪽은 AI 답을 결론이 아니라 초안으로만 씁니다. (판단 기준 1장)
코딩과 고객 응대는 빠르고 싼 모델, 전략과 커뮤니케이션은 다른 계열 모델로 나눕니다. 한 가지 세계관에만 기대는 일을 구조적으로 피합니다. (모델 비교표 1장)
편향이 모든 용도에 문제는 아닙니다. 고객 응대나 코딩처럼 가치판단이 적은 일에는 영향이 거의 없습니다. 에어비앤비가 중국 Qwen을 쓰는 이유도 거기 있습니다. 용도를 먼저 나누고 위험을 따지는 게 핵심입니다.
이건 영어로 물었을 때의 성향입니다. 같은 모델도 언어를 바꾸면 답이 달라집니다. 한국어로 묻는 답이 영어 결과와 같다고 단정하면 안 됩니다. 중요한 판단은 언어를 바꿔 서로 비교해 확인합니다.
'중립 모델'은 존재하지 않습니다. 편향을 제거했다는 주장 자체가 또 다른 편향일 수 있습니다. 목표는 중립 찾기가 아니라, 어떤 기울기를 쓰고 있는지 아는 것입니다.
AI는 중립적인 계산기가 아니라, 특정 세계관을 가진 대화 상대입니다. 누구의 가치관과 대화하는지 모르고 쓰는 것이 진짜 위험입니다.
세계가치관조사(World Values Survey): 1981년부터 100여 개국의 도덕과 신념을 정기적으로 묻는 국제 설문입니다. 사람들을 두 축으로 구분합니다. 종교와 전통을 얼마나 중시하는지(전통-세속), 생존을 넘어 개인의 자유를 얼마나 중시하는지(생존-자기표현)입니다.
정렬(alignment): 모델의 출력이 제작자의 의도와 가치에 맞도록 후속 훈련으로 조정하는 과정입니다.
캐릭터 훈련(character training): 규칙 준수를 넘어 도덕적 추론에 가까운 판단을 학습시키는 최신 정렬 방식입니다.
오픈 웨이트(open-weight): 가중치를 자유롭게 내려받아 검사하고 수정할 수 있는 모델입니다. 딥시크와 Qwen이 대표적입니다.
- The Economist. (2026, June). Computational bias: AI models' values are very different from most people's [Briefing]. The Economist. (원문 보기 ↗)