Nature 논문이 정부 통제 언론이 AI 훈련 데이터를 거쳐 답변까지 바꾼다는 걸 입증했습니다.
언론 자유가 낮은 나라의 언어로 물으면, AI는 그 나라 정부를 더 옹호했습니다. 37개국에서 같은 패턴이 나왔습니다.
AI는 검열된 선전의 출처를 지운 채 중립적 사실처럼 내놓습니다. 다국어로 AI를 쓰는 기업이 그대로 노출됩니다.
당신의 AI가 검열된 정부 선전을 중립적 사실로 둔갑시킨다면, 무엇으로 알아채시겠습니까?
답변의 언어만 바꿔도 정치색이 달라집니다.
같은 AI에 같은 질문을 던집니다. 영어로 물으면 비판적인 시각도 나옵니다. 중국어로 물으면 중국 정부를 옹호하는 쪽으로 기웁니다. 모델은 하나인데 답이 갈립니다.
많은 사람이 AI의 '환각'을 걱정합니다. 환각은 사실이 틀리는 오류입니다. 그런데 이건 다릅니다. 문장 하나하나가 그럴듯하고, 출처도 깔끔합니다. 다만 그 출처가 검열된 정부 매체일 뿐입니다.
Nature에 실린 이 연구는 그 경로를 처음으로 수치로 증명했습니다. 다국어로 AI를 쓰는 기업이라면, 남의 이야기가 아닙니다.
기업은 비용 때문에 중국산 오픈 웨이트 모델로 몰립니다. Qwen은 허깅페이스 누적 다운로드 1위이고, 에어비앤비도 고객 응대에 씁니다. "빠르고 싸다"는 이유입니다.
동시에 글로벌 기업은 시장조사, 번역, 고객 응대를 현지 언어로 AI에 맡깁니다. 이 연구의 발견은 단순합니다. 어떤 언어로 묻느냐가 답의 정치색을 바꿉니다. 통제된 정보 환경이 모델 안에 그대로 새겨졌기 때문입니다.
첫째, 정부 통제 매체가 훈련 데이터에 대량으로 섞여 있습니다. 연구진은 널리 쓰이는 다국어 훈련 데이터셋 CulturaX를 뜯어봤습니다. 중국어 문서 310만 건(전체의 1.64%)이 중국 국가 조율 매체와 일치했습니다. 이는 중국어 위키백과가 들어간 비율의 약 41배입니다. AI가 중국어를 배운 주된 교재가 검열된 관영 매체였다는 뜻입니다.
둘째, 모델은 그 문구를 외워서 되뱉습니다. 상용 모델에 관영 매체 문장의 앞부분을 주자, 모델이 뒷부분을 그대로 완성한 비율이 3~10%였습니다. 정치 지도자나 정부 기관을 언급한 문서에서는 그 비율이 최대 24%까지 올랐습니다. 학습한 선전이 기억 속에 박혀 그대로 재생됩니다.
셋째, 소량 재학습만으로 답이 친정부로 기웁니다. 연구진은 오픈 모델 Llama-2-13b에 중국 관영 매체 문서 6,400건만 추가로 학습시켰습니다. 그러자 중국어 질문에 대해 기본 모델보다 약 80% 더 친정부적인 답을 내놨습니다. 적은 데이터로도 모델의 정치 성향이 뚜렷하게 움직였습니다.
넷째, 상용 모델도 중국어로 물으면 더 우호적입니다. 사람 평가자들은 중국어 답변이 영어 답변보다 중국 정부에 더 우호적이라고 75.3%의 비교에서 판정했습니다. 별도의 AI 심판 모델을 쓴 감사에서도 같은 패턴이 확인됐습니다. 특정 모델 하나의 문제가 아니라 구조적 현상이었습니다.
차트: The Economist · Nature(Waight 외) 기반 재구성. ChatGPT-3.5, 37개국 정치 질문 대상
다섯째, 이 패턴은 중국에만 그치지 않습니다. 연구진은 한 언어가 지배적인 37개국을 분석했습니다. 그 언어로 AI에 정치 질문을 던지면, 언론 자유가 낮은 나라일수록 답변이 자국 정부에 더 우호적이었습니다. 러시아, 북한을 포함한 권위주의 정보 환경 전반에서 같은 기울기가 나타났습니다.
여섯째, 핵심은 '정보 세탁'입니다. 모델은 정보를 출처에서 떼어냅니다. 정부가 조작한 내용을 학습한 뒤, 그 꼬리표를 지우고 객관적인 텍스트처럼 내놓습니다. 사용자는 그것이 검열된 관영 매체에서 왔다는 사실을 알 수 없습니다. 연구진은 이를 선전의 '세탁'이라고 부릅니다.
| 연구 | 무엇을 봤나 | 핵심 수치 |
|---|---|---|
| ① 훈련 데이터 분석 | 대형 데이터셋 속 관영 매체 비중 | 위키백과의 41배 |
| ② 기억 재현 | 모델이 관영 문구를 외워 완성 | 3~10% (지도자 언급 시 최대 24%) |
| ③ 재학습 실험 | 관영 문서 6,400건 추가 학습 | 친정부 답변 약 80% 증가 |
| ④~⑤ 상용 모델 감사 | 중국어 대 영어 답변 우호도 | 중국어가 더 우호 75.3% |
| ⑥ 국가 간 분석 | 언론 자유와 친정부 답변 관계 | 37개국 동일 패턴 |
자료: Waight, Yang, Yuan 외, Nature(2026). 표는 6개 연구 구성을 요약
"중국 진출 시 규제 리스크는?", "이 국가의 노동 환경 평가는?" 같은 질문을 영어와 현지어로 함께 던집니다. 답이 갈리는 지점이 모델의 숨은 기울기입니다. (10분 비교)
코딩, 번역, 단순 고객 응대는 비용 중심으로 써도 됩니다. 시장조사, 정책 분석, 지정학 리서치는 다른 계열 모델과 교차 검증합니다. (모델 매핑표 1장)
"이 주장의 근거가 된 출처를 함께 제시하라"를 기본 지시에 넣습니다. 세탁된 답일수록 근거를 대지 못하거나 관영 매체로 수렴합니다. (사내 프롬프트 1줄 추가)
영어로 물어도 완전히 안전하지는 않습니다. 관영 매체는 영어 훈련 데이터에도 적게나마 섞입니다. 언어를 바꾸면 줄어들 뿐, 0이 되지는 않습니다. 중요한 판단은 출처를 직접 확인합니다.
이건 끄고 켤 수 있는 설정이 아닙니다. 의도된 검열이 아니라 데이터 흡수의 결과입니다. 모델 제작자도 어떤 선전이 어디에 박혔는지 일일이 알기 어렵습니다. 사후 패치로 깔끔히 지우기 힘든 구조입니다.
'중립 모델'은 존재하지 않습니다. 모든 모델은 학습한 정보 환경을 비춥니다. 목표는 중립 찾기가 아니라, 어떤 기울기를 쓰는지 알고 통제하는 것입니다.
AI는 학습한 정보 환경을 그대로 비춥니다. 통제된 언론을 먹은 모델은, 출처를 지운 채 그 통제를 중립처럼 되팝니다.
오픈 웨이트: 가중치를 자유롭게 내려받아 검사하고 추가 학습할 수 있는 모델입니다. Qwen, 딥시크, Llama가 대표적입니다.
사전학습 추가: 이미 학습된 모델에 특정 텍스트를 더 학습시켜 성향을 바꾸는 과정입니다. 이 연구는 관영 매체 문서로 이를 실험했습니다.
CulturaX: 여러 언어의 웹 텍스트를 모은 대형 공개 훈련 데이터셋입니다. 많은 다국어 모델이 이를 학습 재료로 씁니다.
정보 세탁: 정부가 조작한 내용을 출처와 분리하는 것입니다. 객관적 사실처럼 보이게 만드는 과정을 이 논문이 그렇게 부릅니다.
- Waight, H., Yang, E., Yuan, Y. 외. (2026, May). State media control influences large language models [Article]. Nature. (원문 보기 ↗)
- Nature News. (2026, May). State media control shapes LLM behaviour by influencing training data [News]. Nature. (원문 보기 ↗)
- The Economist. (2026, June). Computational bias: AI models' values are very different from most people's [Briefing]. The Economist. (원문 보기 ↗)