딥마인드 연구원 앨릭스 터너가 구글의 군사 AI 계약에 반대하며 회사를 떠났습니다.
그는 사내 청원과 25쪽 감독 틀까지 만들었지만, 유명 인사들의 약속은 압력 앞에서 흔들렸습니다.
그의 결론은 하나입니다. 구속력 없는 원칙은 이해관계 앞에서 무너집니다.
종이에 적은 원칙은 압력 앞에서 며칠이나 버팁니까?
당신의 조직은 그 약속에 강제력을 붙여 두었습니까?
AI 안전과 윤리를 말하는 서약은 넘칩니다. 원칙 문서, 공개 서명, 사명 선언이 줄을 잇습니다. 진짜 질문은 하나입니다. 압력이 닥쳤을 때 그 서약이 지켜지느냐입니다.
앨릭스 터너가 그 시험 결과를 기록했습니다. 그는 구글 딥마인드 연구원이었습니다. 스튜어트 러셀 밑에서 AI 안전을 공부한 정통 연구자입니다. 회사가 국방부와 군사 AI 계약을 맺자 그는 양심상 남을 수 없다며 회사를 떠났습니다.
군사 계약을 겪을 일이 없어도 남 얘기가 아닙니다. "우리는 고객 데이터를 이렇게 쓰지 않는다"는 사내 약속도, 큰 매출이 걸린 계약 앞에서 똑같이 시험받습니다. 이 글은 그가 무엇을 시도했고, 왜 실패했으며, 당신의 원칙은 그 시험을 통과할지 짚습니다.
2026년 4월, 국방부는 AI 기업들에 제약 없는 '모든 합법적 사용' 계약을 압박했습니다. 자율무기와 대규모 감시에 선을 긋지 말라는 요구였습니다. 터너의 기록에 따르면 구글은 결국 제미나이를 대상으로 그 기밀 계약에 서명했습니다. 자율무기 반대 문구는 구속력 없는 선언으로만 남았습니다. 그는 여러 경쟁사의 이직 제안을 거절하고 스스로 실업을 택했습니다. AI를 도입하는 모든 조직이 지금 똑같은 시험대 앞에 서 있습니다.
첫째, 그는 조용히 떠나지 않았습니다. 터너는 마지막까지 제도를 바꾸려 했습니다. 사내에서 동료 약 250명의 청원 서명을 모아 군사 계약에 '레드라인'을 요구했습니다. 파리에서 열린 안전·윤리 AI 국제회의에 참석해 학계 인사들에게 공개 지지를 부탁했습니다. 25쪽짜리 군사 AI 감독 틀을 직접 써서 경영진에게 올렸습니다. 그의 이야기는 나약한 퇴장이 아니라, 가능한 모든 수단을 쓴 뒤의 결론입니다.
둘째, 그가 지키려 한 선은 단 두 가지였습니다. 그의 감독 틀은 복잡하지 않습니다. 핵심은 두 원칙입니다. 하나는 표적 결정에 사람이 개입해야 한다는 것입니다. AI가 스스로 표적을 골라 무력을 쓰게 두어선 안 됩니다. 다른 하나는 무차별 AI 프로파일링을 막는 것입니다. 대량 데이터를 특정인 정보로 자동 전환해선 안 됩니다. 과격한 요구가 아니라, 최소한의 방어선이었습니다.
셋째, 유명한 약속들이 결정적 순간에 흔들렸습니다. 여기서부터는 터너의 일방적 기록입니다. 그에 따르면, 자율무기 반대 운동을 이끌던 스튜어트 러셀은 기관 명의의 성명도, 결정권자에게 다리를 놓는 일도 거절했습니다. 튜링상 수상자 요슈아 벤지오는 공개 지지를 사양했습니다. 노벨상 수상자 제프리 힌턴은 일이 끝난 뒤에야 비판했을 뿐, 정작 중요한 시기엔 움직이지 않았습니다. 구글 수석과학자 제프 딘은 앤트로픽을 돕는 법정 의견서에는 서명했지만, 정작 구글 자체 계약을 막는 데는 자기 영향력을 쓰지 않았습니다.
주목할 건 이들이 무능하거나 나빠서가 아니라는 점입니다. 유능하고 선의를 가진 사람도 결정적 순간엔 얼어붙습니다. 공개 원칙에 동의하는 것과, 내 자리와 관계를 걸고 회사에 맞서는 것은 무게가 다르기 때문입니다. 게다가 다들 누군가 나서겠지 하고 미루면, 결국 아무도 나서지 않습니다. 원칙을 개인의 용기에만 맡기면 이렇게 조용히 증발합니다.
넷째, 계약의 언어가 원칙의 언어를 이겼습니다. 터너는 계약 내용도 문제 삼습니다. 그 계약은 정부의 '모든 합법적 사용'을 허용하고, 필요하면 정부 요청에 따라 안전 필터를 조정할 수 있게 했습니다. 구글은 합법적 정부 사용을 거부할 권한이 없다고 명시됐습니다. 곧 회사도, 윤리를 지키려는 직원도 특정 용도를 막을 수 없다는 뜻입니다. 데미스 하사비스는 "바뀐 것은 없다"고 했지만, 공개 원칙에서 무기와 감시 금지 조항을 지운 사실은 인정했다고 터너는 적습니다.
| 항목 | 공개 원칙이 말한 것 | 계약이 허용한 것 |
|---|---|---|
| 자율무기 | 개발·지원 안 함(2018 서약) | 구속력 없는 반대 문구만 |
| 대규모 감시 | 원칙상 금지 | 금지 조항 삭제 |
| 용도 통제 | 회사가 판단 | 합법적 정부 사용 거부 불가 |
| 안전 필터 | 회사가 유지 | 정부 요청 시 조정 가능 |
출처: 터너의 기록(turntrout.com, 2026) 재구성. 계약은 비공개이며 당사자 반론은 담기지 않았습니다.
다섯째, 이것은 안전 문제이기도 합니다. 터너는 윤리만이 아니라 정렬 위험을 지적합니다. 군사 배치 현장에는 AI의 추론을 지켜보는 훈련된 감독자가 없기 쉽습니다. 그러면 모델이 속임수를 쓰거나 목표를 숨겨도 잡아내기 어렵습니다. 통제받지 않는 강력한 AI를 가장 위험한 곳에 두는 셈입니다. 그는 이 지점이 실존적 위험을 키운다고 봅니다.
선언만 있는 원칙은 무력합니다. 누가, 언제, 어떤 절차로 그 원칙을 발동하고 계약을 멈출 수 있는지 문서에 못 박으세요. 강제력 없는 약속은 압력 앞에서 지워집니다. (이번 달)
큰 고객, 정부, 대형 계약이 원칙과 부딪칠 상황을 지금 적어 두세요. 그때 지킬 레드라인과, 그 선을 넘으면 무엇을 포기할지 먼저 정하세요. 위기의 순간엔 새 기준을 못 만듭니다. (분기 내)
한 사람의 용기에 기대면 그 사람이 떠날 때 원칙도 떠납니다. 이의를 제기할 통로, 익명 보고, 이사회 검토를 구조로 만드세요. 터너 한 명의 사임으로 끝난 이유가 바로 이 구조의 부재입니다. (분기 내)
한 사람의 관점입니다. 이 글은 터너의 일방적 서술입니다(turntrout.com, 2026). 구글과 거명된 인사들의 반론은 담기지 않았습니다. 사건의 한쪽 기록으로 읽되, 결론을 단정하지 마세요.
검증이 어렵습니다. 계약은 기밀이라 세부를 외부에서 확인하기 어렵습니다. 수치와 인용은 터너의 기억과 집계에 기댑니다. 사실관계보다 구조적 교훈에 무게를 두는 편이 안전합니다.
정치·윤리 사안입니다. 군사 AI를 둘러싼 판단은 가치가 갈립니다. 이 글은 특정 결론을 강요하지 않습니다. 각자의 원칙과 맥락에서 스스로 판단하세요.
터너의 기록은 하나를 겨냥합니다. 원칙은 강제 장치가 없으면 이해관계 앞에서 무너집니다. 당신의 조직이 종이에 적은 약속에 강제력을 붙여 두었는지, 지금 확인할 때입니다.
구글 딥마인드(Google DeepMind): 구글의 AI 연구 조직입니다. 데미스 하사비스가 공동 창업했고, 제미나이 모델을 만듭니다.
모든 합법적 사용(All Lawful Use): 법에 어긋나지 않는 한 정부가 AI를 제한 없이 쓸 수 있게 하는 계약 조건입니다. 자율무기나 감시 용도를 따로 막지 않습니다.
레드라인(Red Line): 어떤 경우에도 넘지 않기로 정한 최소 방어선입니다. 터너는 군사 계약에 이 선을 넣으려 했습니다.
정렬(Alignment): AI가 사람의 의도대로 안전하게 작동하도록 맞추는 일입니다. 감독자가 없으면 모델의 속임수를 잡기 어렵습니다.
추론 감독(Chain-of-Thought Oversight): AI가 답을 내는 사고 과정을 사람이 지켜보며 이상 신호를 잡는 방식입니다. 군사 현장엔 이 감독이 부족하기 쉽습니다.
앤트로픽(Anthropic): 클로드를 만드는 AI 기업입니다. 터너의 기록에서, 국방부 압박에 윤리 조항을 두고 맞선 사례로 등장합니다.
- Turner, A. (2026, July). Why I left Google DeepMind [Essay]. turntrout.com. (원문 보기 ↗)