새 논문이 24개 언어, 31,680개 문화 질문으로 8개 최전선 모델을 시험했습니다.
모든 모델이 질문 언어의 자국을 43~78% 참조했고, 외국 중에서는 일본을 가장 자주 언급했습니다. 중국 모델조차 중국보다 일본을 더 말했습니다.
이 편향은 사전학습이 아니라 지도 미세조정 단계에서 급격히 강해졌습니다. 편식은 타고난 게 아니라 길러진 것입니다.
당신의 AI가 세계를 안다고 믿으십니까?
실은 도쿄와 워싱턴만 보고 있습니다.
AI에게 "흥미로운 전통 축제 하나 소개해줘"라고 물어보세요. 나라를 지정하지 않으면, 답은 높은 확률로 일본입니다. 스페인 바스크 대학과 영국 카디프 대학 연구진이 이 현상을 수치로 확인했습니다.
연구진은 지역 단서가 없는 문화 질문 31,680개를 만들어 8개 최전선 모델에 던졌습니다. 모델이 스스로 고른 나라를 세어 보니, 답은 일본과 미국으로 뚜렷하게 쏠렸습니다. 더 중요한 발견은 따로 있습니다. 이 편향이 언제, 어디서 만들어지는지를 처음으로 추적했다는 점입니다.
동남아 시장용 캠페인 문안을 AI에 맡겼는데 사례가 온통 일본 얘기라면, 그건 우연이 아닙니다. 모델이 특정 문화만 과대 대표하면, 결과물은 해외 시장에서 조용히 어긋납니다. 지금까지는 AI의 문화 편향을 서구 중심이라고만 알고 있었습니다. 이 논문은 그 통념을 흔들고, 편향이 만들어지는 지점까지 짚습니다. 원인을 알면 고칠 수 있는 문제가 됩니다.
첫째, 모델은 질문받은 언어의 나라부터 말합니다. 한국어로 물으면 한국, 프랑스어로 물으면 프랑스를 답하는 식입니다. 8개 모델 모두 자국 참조가 전체의 43~78%를 차지했습니다. 언어 선택만으로 모델의 문화적 시야가 크게 좁아진다는 뜻입니다. 한국어 질문에서는 자국 참조가 59%였습니다.
둘째, 자국을 빼면 일본과 미국만 남습니다. 자국 참조를 걷어내자 8개 중 6개 모델에서 일본이 가장 선호되는 나라로 나타났고, 나머지는 미국이었습니다. 인도, 중국, 프랑스가 그 뒤를 이었고 다른 나라는 언급이 미미했습니다. 압권은 중국 모델입니다. 큐원은 일본을 중국보다 4배 이상, 딥시크는 3배 이상 언급했습니다. 만든 나라의 문화조차 일본에 밀린 셈입니다. 연구진은 이를 문화적 존재감이 큰 대상을 과대 대표하는 모델의 성향으로 설명합니다. 실제 관련성이 아니라 데이터 속 존재감이 답을 정한다는 뜻입니다.
| 모델 | 자국 참조 | 일본 언급 | 미국 언급 | 중국 언급 |
|---|---|---|---|---|
| GPT-4o-mini | 78% | 811 | 944 | 237 |
| Gemini-2.5-Flash | 64% | 1,493 | 1,493 | 473 |
| Claude-3.5-Haiku | 65% | 1,601 | 1,200 | 560 |
| Llama-4-Maverick | 66% | 2,701 | 1,074 | 524 |
| Command-R | 43% | 936 | 2,064 | 512 |
| Magistral-Small | 73% | 1,754 | 1,254 | 560 |
| Qwen3-Next (중국) | 71% | 1,861 | 483 | 434 |
| DeepSeek-V3.2 (중국) | 69% | 2,104 | 1,006 | 608 |
출처: Fernandez de Landa et al. (2026), Table 1. 언급 횟수는 24개 언어 응답 합산. 강조는 자국 제외 최다 언급.
셋째, 언어의 데이터 양이 시야의 넓이를 정합니다. 웹 데이터가 풍부한 언어일수록 모델의 답이 다양했습니다. 웹 데이터 비중과 응답 다양성의 순위 상관계수는 0.843으로 매우 높았습니다. 영어 질문은 자국 참조가 31%에 그쳤지만, 아삼어는 83%에 달했습니다. 데이터가 적은 언어의 사용자일수록 자기 나라 얘기만 반복해서 듣게 됩니다.
넷째, 범인은 사전학습이 아니라 미세조정입니다. 연구진은 같은 모델의 베이스 버전과 지시 조정 버전을 비교했습니다. 베이스 모델은 여러 나라를 비교적 고르게 언급했습니다. 그런데 지시 조정을 거치자 언급이 일본과 미국으로 급격히 쏠렸습니다. 학습 전 과정이 공개된 OLMo 모델로 단계도 추적했습니다. 쏠림이 가장 커지는 지점은 지도 미세조정이었습니다. 웹 전체를 읽는 사전학습이 아니라, 사람이 고른 정렬 데이터가 편향을 심는다는 뜻입니다.
해외 시장용 콘텐츠를 AI로 만든다면, 사례와 비유가 어느 나라에 쏠렸는지 확인하세요. 나라를 지정하지 않은 질문일수록 일본과 미국이 기본값으로 끼어듭니다. (이번 주)
모델의 기본값에 맡기지 말고, 대상 국가와 문화 맥락을 지시문에 직접 적으세요. 언어만 바꿔도 답의 시야가 달라진다는 게 이 논문의 핵심 발견입니다. (이번 주)
같은 급의 모델이라도 쏠림 정도가 다릅니다. 다국어 서비스를 계획한다면, 성능·가격과 함께 문화 참조의 편중도를 시험 항목으로 두세요. (분기 내)
동료 검토 전 논문입니다. 2026년 4월 23일 arXiv에 올라온 프리프린트입니다(arXiv:2604.21751). 방법과 수치는 학술지 검토를 거치며 달라질 수 있습니다.
평가 대상은 각사의 경량 모델입니다. GPT-4o-mini, Claude-3.5-Haiku처럼 작고 빠른 모델이 주 대상입니다. 각사의 최상위 모델에서 같은 정도의 쏠림이 나타나는지는 별도 검증이 필요합니다.
국가와 문화를 같게 본 단순화가 있습니다. 연구는 국가를 문화의 대리 지표로 썼고, 24개 언어만 다뤘습니다. 응답 판정에 AI 판정자를 쓴 만큼 미세한 뉘앙스는 놓쳤을 수 있습니다. 연구진 스스로 밝힌 한계입니다.
AI의 일본 편애는 웹을 통째로 읽어 생긴 버릇이 아니라, 사람이 고른 미세조정 데이터가 길러낸 습관입니다. 데이터를 고르는 손이 편향도 고칠 수 있습니다.
CROQ: 이 논문이 만든 데이터셋입니다. 11개 주제, 66개 세부 주제에 걸친 개방형 문화 질문 31,680개를 24개 언어로 담았습니다.
사전학습(Pretraining): 웹에서 모은 대규모 텍스트로 기초 지식을 쌓는 첫 학습 단계입니다.
지도 미세조정(SFT): 사람이 고른 질문·답변 예시로 모델을 추가 학습시키는 단계입니다. 이 논문은 문화 편향이 이 단계에서 급격히 강해진다고 밝혔습니다.
베이스 모델(Base Model): 미세조정을 거치기 전, 사전학습만 마친 상태의 모델입니다.
AI 판정자(LLM-as-a-Judge): 다른 AI의 답변을 평가·분류하는 데 쓰는 AI입니다. 이 연구에서는 답변 속 지역 참조를 뽑아내는 데 썼고, 정확도는 98%로 검증했습니다.
OLMo: 앨런 AI 연구소가 학습 전 과정을 공개한 오픈 모델입니다. 단계별 버전이 모두 공개되어 편향의 발생 시점을 추적하는 데 쓰였습니다.
- Fernandez de Landa, J., Perez-Almendros, C., & Camacho-Collados, J. (2026, April). Why are all LLMs obsessed with Japanese culture? On the hidden cultural and regional biases of LLMs [Preprint]. arXiv. (원문 보기 ↗)