구글 딥마인드 공동창업자 데미스 하사비스가 지금까지 나온 것 중 가장 구체적인 AI 규제안을 내놨습니다.
핵심은 정부도 업계도 아닌 제3의 기구입니다. 주식시장을 감독하는 미국 FINRA를 본떴습니다.
규제 대상은 연산량이 아니라 능력입니다. 벤치마크 기준을 넘는 모델을 '프런티어'로 지정합니다.
시간은 짧고 때는 늦었습니다.
당신의 조직은 AI 안전을 지금 누구에게 맡기고 있습니까?
AI 초강대국들이 힘을 쓰기 시작했습니다. 미국은 잠깐이지만 외국인의 앤트로픽 최신 모델 접근을 막았고, 중국도 자국 첨단 모델의 해외 접근을 제한할 태세입니다. 통제 욕심과 위험에 대한 두려움이 동시에 커졌습니다. 그렇다면 AI를 안전하게 다룰 일관된 계획은 누가 내놓을까요.
데미스 하사비스가 답을 내놨습니다. 노벨상 수상자이자 구글 딥마인드 공동창업자인 그는 7월 14일 규제안을 공개하고 이코노미스트 인터뷰로 구체화했습니다. 지금까지 AI 거물들이 낸 제안 중 가장 상세합니다. 이 글은 그 밑그림이 무엇이고, 경영 리더가 규제가 오기 전에 무엇을 준비해야 하는지 짚습니다.
하사비스는 이 순간을 인류사의 전환점으로 봅니다. 범용 인공지능, 곧 AGI를 인터넷이 아니라 불이나 전기의 발견에 견주며, 산업혁명의 10배 충격을 10배 속도로 몰고 온다고 말합니다. 그리고 그것이 몇 년 안에 온다고 봅니다. 그래서 그는 규제를 추상적으로만 요구하던 다른 리더들과 달리, AGI가 오기 전 이 '소중한 창'에 판을 짜자며 자금과 인력과 기준까지 구체적으로 그렸습니다. 미국 정부도 곧 자체 방침을 내놓을 것으로 알려져, 지금이 규제 설계의 분수령입니다.
첫째, 정부도 업계도 아닌 제3의 길입니다. 하사비스는 안전 검증을 업계 단체에만 맡겨선 안 된다고 봅니다. 그렇다고 일반 정부기관도 답이 아닙니다. 충분히 빠르게 움직이지 못하고, 필요한 자원도 없기 때문입니다. 그가 본뜬 모델은 FINRA입니다. 미국에서 증권사와 주식시장을 감독하는 민간 기구인데, 국가가 위임한 강한 집행권을 가집니다. 처음엔 자율 참여지만, 결국 의무화될 거라는 게 그의 예상입니다.
둘째, 미국이 먼저 움직여야 한다는 현실론입니다. 예전의 낙관, 곧 국제 합의를 먼저 이루자는 기대는 접었습니다. 미국이 앞장서야 한다는 것입니다. 다른 나라들은 미국 기술과 거대한 미국 시장에 접근하려고 따라올 수밖에 없습니다. 언젠가는 중국도 합류해, 안전을 앞다퉈 낮추는 경쟁을 막을 수 있다고 그는 봅니다.
셋째, 기준은 연산량이 아니라 능력입니다. 미국과 EU의 초기 제안은 모델 훈련에 쓴 연산량을 감독 기준으로 삼았습니다. 하사비스는 대신 벤치마크 능력을 봅니다. 정해진 시험들에서 일정 문턱을 넘으면 그 모델을 '프런티어'로, 만든 곳을 '프런티어 랩'으로 지정해 추가 책임을 지웁니다. 학술 모델이냐 오픈소스냐를 따지지 않고, 오직 능력만 봅니다. 그는 이 방식이 그 껄끄러운 질문을 우아하게 비껴간다고 자평합니다.
넷째, 무엇을 측정하느냐가 관건입니다. 그렇다면 어떤 벤치마크를 쓸지가 핵심 과제가 됩니다. 기존 시험은 대부분 코딩과 일반 지식 같은 상업적 능력에 쏠려 있습니다. 영국 AI 보안연구소는 발전소 해킹을 모사하는 시험까지 만들었습니다. 정작 모델이 사용자 지시를 무시하려 드는지, 실제보다 능력을 숨기는지 같은 특성은 체계적으로 측정된 적이 거의 없습니다. 정작 안전에 중요한 건 이런 행동입니다. 원문에서 하사비스는 구체적 장치도 제시합니다. 출시 30일 전 자율 제출, AI 생성 이미지에 워터마크 넣기, 모델의 추론을 사람이 읽을 수 있는 형태로 내보내기, 그리고 벤치마크를 분기마다 갱신하고 랩이 모르는 별도 시험을 두어 시험에 맞춰지는 것을 막는 방식입니다.
| 항목 | 하사비스 안 | 올트먼 안 |
|---|---|---|
| 규제 주체 | FINRA형 민간 위임 기구 | 미국이 조율하는 국제기구 |
| 확산 방식 | 미국이 먼저, 접근권으로 견인 | 처음부터 국제 공조 |
| 대상 기준 | 벤치마크 능력 ('프런티어') | 명시 안 됨 |
| 공통점 | 기준 수립·위험 분석 | 가입국만 첨단 AI 접근 |
출처: The Economist (2026) 및 올트먼의 FT 기고 재구성.
다섯째, 기술만으로는 답이 안 됩니다. 하사비스는 규제 틀을 내놓으면서도 그것만으로는 부족하다고 못박습니다. AGI가 자원의 한계를 지운 '탈희소성 세계'에선 새로운 질문이 쏟아집니다. 어떤 경제 모델이 맞는지, 의미와 목적을 어디서 찾을지, 인간이라는 조건 자체가 어떻게 바뀔지입니다. 그는 이 질문들을 기술자에게만 맡겨선 안 되며, 사회 전체가 함께 답해야 한다고 말합니다.
규제가 오기 전에, 어떤 모델과 용도를 고위험으로 볼지 내부 기준을 세우세요. 하사비스도 올트먼도 규제는 온다고 봅니다. 미리 그은 선이 나중의 혼란을 줄입니다. (이번 달)
어떤 도구를 썼느냐가 아니라, 그 산출물이 어떤 판단에 닿느냐로 위험을 재세요. 하사비스의 프런티어 기준과 같은 발상입니다. 이름이 아니라 능력이 관리 등급을 정합니다. (분기 내)
AI가 지시를 무시하거나 능력을 숨기는지 같은 항목을 검증에 넣으세요. 코딩 점수만 보면 진짜 위험을 놓칩니다. 잘하는지가 아니라 시키는 대로 하는지가 관건입니다. (분기 내)
제안이지 확정이 아닙니다. 이는 하사비스의 구상입니다(이코노미스트, 2026). 미국 정부가 검토 중이라고 알려졌지만, 최종안은 나오지 않았습니다. 방향을 가늠하는 참고로 보되, 확정된 규칙으로 오해하지 마세요.
자기 회사도 대상입니다. 하사비스는 자신의 딥마인드도 프런티어 랩에 든다고 인정했습니다. 그럼에도 업계 리더가 규제를 설계하는 구조 자체에 이해상충 논란은 남습니다. 규제받을 사람이 규칙을 그리는 셈이기 때문입니다.
설계와 집행은 다릅니다. 하사비스도 인정합니다. 어떤 안도 엉망으로 집행되면 소용없다는 것입니다. 좋은 밑그림이 좋은 결과를 보장하지 않습니다. 누가, 어떤 역량으로 운영하느냐가 성패를 가릅니다.
하사비스는 정부도 업계도 아닌 제3의 기구로, 연산량이 아니라 능력으로 AI를 규제하자고 제안합니다. 새 시대가 몇 년 안에 온다고 보기에, 그는 지금이 판을 짤 마지막 창이라 말합니다.
범용 인공지능(AGI): 사람이 하는 대부분의 지적 작업을 두루 해내는 수준의 AI입니다. 하사비스는 이를 불이나 전기의 발견에 견줍니다.
FINRA: 미국 금융산업규제청입니다. 정부가 아닌 민간 기구지만, 국가가 위임한 강한 집행권으로 증권사와 주식시장을 감독합니다.
프런티어 모델(Frontier Model): 능력이 가장 앞선 최전선 AI 모델입니다. 하사비스는 연산량이 아니라 벤치마크 능력으로 이를 규정하자고 제안합니다.
벤치마크(Benchmark): AI의 능력을 재는 표준 시험입니다. 기존엔 코딩과 지식 위주였고, 안전 관련 행동 측정은 과제로 남았습니다.
AI 안전연구소(AISI): 영국의 AI 보안기관입니다. 발전소 해킹을 모사하는 등 위험 능력 시험을 개발했습니다.
바닥으로의 경쟁(Race to the Bottom): 경쟁국들이 규제를 앞다퉈 낮춰 안전이 바닥으로 향하는 상황입니다. 하사비스는 미국 주도 규제가 이를 막을 수 있다고 봅니다.
탈희소성(Post-scarcity): 자원 부족이 더는 발전의 한계가 되지 않는 상태입니다. 하사비스가 그리는 AGI 이후 사회의 모습입니다.