META와 UC Berkeley 연구진이 현재 AI의 핵심 한계를 짚었습니다. 배포된 AI는 새로운 환경에서 스스로 배우는 능력이 사실상 0입니다.
아이는 관찰과 행동을 오가며 스스로 학습하지만, AI는 사람이 설계한 학습 레시피 없이는 아무것도 배우지 못합니다. 이 논문은 관찰 학습(System A), 행동 학습(System B), 메타 제어(System M) 3요소 프레임워크를 제시합니다.
이 프레임워크가 실현되려면 수십 년이 걸릴 수 있습니다. 하지만 경영 리더에게 지금 중요한 것은 현재 AI의 한계를 정확히 아는 것입니다.
ChatGPT가 똑똑하다고? 배포된 순간 학습 능력은 0입니다.
3살짜리 아이보다 못 배우는 AI에 전사 전략을 걸고 있다면, 그 전략부터 다시 배워야 합니다.
Yann LeCun(META 수석 AI 과학자), Emmanuel Dupoux(EHESS/META), Jitendra Malik(UC Berkeley)이 공동으로 논문을 발표했습니다. 제목은 직설적입니다. "AI 시스템은 왜 배우지 못하는가, 그리고 어떻게 해야 하는가."
6개월 된 아이는 사람 얼굴, 원숭이 얼굴, 다양한 종의 얼굴을 모두 구분합니다. 그런데 9개월이 되면 사람 얼굴만 정밀하게 인식하고, 나머지는 잊어버립니다. 아무도 가르치지 않았는데, 스스로 선택해서 배운 결과입니다. AI 업계가 벤치마크 점수 경쟁에 몰두하는 사이, 이 논문은 더 근본적인 질문을 던집니다.
기업들이 AI 에이전트 도입을 가속하고 있습니다. 그런데 배포된 AI가 새로운 환경에 적응하지 못하는 문제가 곳곳에서 나타납니다. McKinsey에 따르면, AI 파일럿의 74%가 프로덕션으로 전환되지 못합니다. (출처: McKinsey, 2025)
논문은 그 원인을 세 가지로 정리합니다. 첫째, 학습 방법들이 하위 분야별로 칸막이 안에 갇혀 있습니다(분절화). 둘째, 학습 자체가 시스템 내부가 아닌 외부 인간 전문가에게 위임되어 있습니다(외부화). 셋째, 이 구조를 확장할 방법이 없습니다(확장 불가). 학습 데이터와 운영 환경의 괴리, 즉 '분포 불일치(distribution shift)'를 AI 스스로 메울 수 없는 이유가 여기에 있습니다.
현재 AI의 학습은 전부 사람 손을 거칩니다. 데이터 수집, 정제, 학습 레시피 설계, 손실 함수 조정, 성능 평가까지 모두 인간 전문가가 관리합니다. 논문은 이것을 'MLOps 파이프라인 문제'라고 부릅니다. 각 단계마다 "전문적으로 설계된 손실 함수와 보상 함수"가 필요하고, 자기지도학습, 지도학습, 강화학습을 순서대로 조립해야 합니다.
배포된 모델은 새로운 상황을 만나도 스스로 적응하지 못합니다. 재학습이 필요하면 다시 사람이 개입해야 합니다. 논문은 이 차이를 명확히 합니다. 아이는 "무엇에 주의를 기울일지, 언제 관찰하고 언제 행동할지, 탐색·모방·상상 놀이 사이를 어떻게 전환할지"를 스스로 결정합니다. AI는 이 모든 것을 외부에 의존합니다.
| 비교 항목 | 인간 아이 | 현재 AI |
|---|---|---|
| 학습 주체 | 아이 자신이 선택 | 인간 엔지니어(MLOps) |
| 학습 시점 | 평생 지속 | 학습 후 고정(배포 시 동결) |
| 데이터 선택 | 스스로 선택(얼굴·목소리에 집중) | 사람이 수집·정제 |
| 학습 모드 전환 | 관찰↔행동↔모방↔상상 자유 전환 | 단계별 분리(SSL→SL→RL) |
| 새 환경 적응 | 탐색 후 학습 | 재학습 필요(사람 개입) |
| 배포 후 학습 능력 | 지속 | 사실상 0 |
논문은 학습을 두 가지 시스템으로 나눕니다. System A는 관찰 기반 학습입니다. 아이가 주변을 보고 들으며 패턴을 익히는 것과 같습니다. System B는 행동 기반 학습입니다. 직접 몸을 움직여 시행착오를 겪으며 배우는 방식입니다.
논문이 드는 구체적 사례가 인상적입니다. 신생아는 여러 언어의 음소를 모두 구분합니다. 그런데 생후 6~12개월 사이에 모국어 음소 인식은 정밀해지고, 외국어 음소 인식은 퇴화합니다. 이것이 System A의 작동입니다. 반면, 걷기는 관찰만으로 배울 수 없습니다. 구르기, 기기, 서기, 비틀거리기를 거쳐 성숙한 보행에 도달합니다. 이것이 System B입니다.
| 구분 | System A (관찰) | System B (행동) |
|---|---|---|
| 학습 방식 | 감각 데이터의 통계적 패턴 학습 | 환경과 상호작용하며 시행착오 |
| 인간 예시 | 얼굴 인식(6→9개월 특화), 음소 구분 | 걷기(구르기→기기→서기→보행), 발성 |
| AI 기술 | GPT, CLIP, DINO, V-JEPA, HuBERT | 강화학습(RL), 모델 기반 RL, 로보틱스 |
| 강점 | 대량 데이터에서 추상적 표현 학습 | 실시간 적응, 새로운 해법 발견 |
| 한계 | 행동과 연결 안 됨, 인과 파악 불가 | 데이터 효율 낮음, 보상 설계 필요 |
핵심은 두 시스템이 서로를 돕는다는 것입니다. System A가 만든 '세계 모델(world model)'은 System B가 탐색할 범위를 줄여 줍니다. 실제 로보틱스에서 관절 자유도는 200~300개에 달합니다. 무작정 시행착오를 하면 경우의 수가 폭발합니다. System A가 먼저 환경의 물리 법칙을 학습해 두면, System B는 불필요한 탐색을 건너뛸 수 있습니다.
반대 방향도 성립합니다. System B의 행동이 만들어내는 데이터는 System A에게 의미 있는 학습 재료를 제공합니다. 논문은 MuZero(바둑·비디오 게임)와 Dreamer(로보틱스)를 이 통합의 초기 사례로 제시합니다.
그런데 현재 AI는 이 두 모드가 완전히 분리되어 있습니다. GPT의 사전 학습(System A)과 RLHF(System B)는 별개의 단계로, 사람이 순차적으로 조립합니다. 아이처럼 실시간으로 오가지 못합니다.
논문이 제시하는 가장 중요한 개념은 System M(메타 제어)입니다. System M은 "지금 관찰할 것인가, 행동할 것인가"를 결정하는 상위 통제 시스템입니다. 네트워크의 SDN(소프트웨어 정의 네트워크) 컨트롤 플레인과 유사합니다. 고대역폭 데이터를 직접 처리하지 않고, 저차원 신호(예측 오류, 불확실성, 신체 상태)를 모니터링하며 데이터 경로를 열고 닫습니다.
(1) 입력 선택: 어떤 데이터에 주의를 기울일지 결정합니다. 영아는 얼굴과 목소리에 본능적으로 집중합니다. 중간 복잡도의 시각 자극에 더 오래 시선을 고정하는 '골디락스 원리'도 이 기능의 일부입니다.
(2) 보상 조절: 탐색과 활용의 비율을 조정합니다. 환경이 불안정하면 탐색 비중을 높이고, 안정적이면 활용 비중을 높입니다. 발달 과정의 '결정적 시기(critical period)'도 이 조절의 사례입니다. 특정 시기에만 특정 학습 회로가 열립니다.
(3) 운영 모드 전환: 습관적 반응(모델 프리)과 계획적 사고(모델 기반), 수면 중 기억 재생과 상상을 통한 학습 사이를 전환합니다. 설치류의 해마에서는 수면 중 장소 세포가 실제보다 빠른 속도로 재활성화됩니다.
논문이 제시하는 메타 신호는 3종류입니다. 첫째, 인식 신호(예측 오류, 불확실성, 학습 진전도)입니다. 둘째, 종 특이적 신호(직접 응시, 위협 자극, 사회적 지위)입니다. 셋째, 신체 신호(에너지 수준, 통증, 스트레스)입니다.
아이는 이 세 종류의 신호를 통합해 학습 모드를 자동으로 전환합니다. 통증을 느끼면 목표 지향 행동을 즉시 중단하고 반응적 모드로 전환한 뒤, 한 번의 경험만으로 학습합니다. 현재 AI에는 이 통합 제어 기능이 없습니다. 논문은 이것을 "학습이 외부화되어 있다"고 표현합니다.
논문은 이 프레임워크의 실현에 수십 년이 걸릴 수 있다고 솔직하게 밝힙니다. 생물학에서 힌트를 얻은 '진화-발달(Evo/Devo)' 접근법을 제안합니다.
생물은 진화(세대 간)와 발달(개체 내)이라는 두 시간 축에서 학습 능력을 갖춥니다. 영아의 시력은 처음에 매우 낮고, 운동 자유도도 제한적입니다. 시냅스 성장과 가지치기, 시간에 따른 가소성 조절, 자발적 신경 활동이 단계적으로 진행되면서 학습 복잡도가 점진적으로 높아집니다. 논문은 이것이 '무작위 초기화'가 아니라 '구조화된 출발점'임을 강조합니다.
| 시간 축 | 생물 | AI (현재) | AI (논문 제안) |
|---|---|---|---|
| 진화 (외부 루프) | 세대 간 유전자 최적화 | 연구자의 논문·오픈소스 | 메타학습으로 아키텍처 자동 최적화 |
| 발달 (내부 루프) | 개체의 환경 적응 | MLOps 기반 학습 | System A·B·M의 자율 학습 |
| 초기 상태 | 유전적으로 구조화된 출발점 | 무작위 초기화 | 진화 루프로 최적화된 초기 파라미터 |
| 핵심 차이 | 두 축이 연결됨 | 두 축이 분리됨 | 이중 루프 최적화(bilevel optimization) |
논문은 이 접근의 난제도 구체적으로 짚습니다. 한 번의 생애 전체가 데이터 1개에 해당합니다. 외부 루프를 최적화하려면 수백만 번의 시뮬레이션된 생애가 필요하고, 각 생애는 다시 수백만 개의 데이터 포인트를 포함합니다. 메모리와 연산 효율이 핵심 병목입니다.
윤리적 문제도 제기합니다. 자율 학습 AI의 적응력이 높아질수록 통제가 어려워집니다. 논문은 생물학적 비유를 듭니다. 동물은 생존에 유리한 대리 목표(탐색, 놀이)를 통해 진화적 적합도를 높이지만, 중독이나 자해처럼 환경이 바뀌면 대리 목표가 오작동할 수 있습니다. 자율 학습 AI도 같은 취약성을 가질 수 있습니다.
AI 파일럿이 프로덕션으로 전환되지 못하는 비용은 기업당 연간 수억 원에 달합니다. McKinsey에 따르면 AI 파일럿의 74%가 프로덕션 전환에 실패합니다. (출처: McKinsey, 2025) 파일럿 1건당 평균 투자 비용이 2억~5억 원이라면, 전환 실패 3건은 최소 6억 원의 매몰 비용입니다.
분포 불일치로 인한 유지보수 비용이 숨어 있습니다. 학습 환경과 운영 환경이 다를 때 발생하는 성능 저하를 보정하려면, 주기적인 재학습과 데이터 정제가 필요합니다. 이 과정에 투입되는 ML 엔지니어 인건비는 연간 1억~3억 원 수준입니다.
현재 운영 중인 AI 모델이 어떤 데이터로 학습되었는지, 실제 운영 환경과 어떤 차이가 있는지 목록으로 정리합니다. Claude에게 다음 프롬프트를 사용합니다. (30분)
우리 회사의 [서비스명] AI 모델은 [학습 데이터 설명]으로 학습되었습니다. 실제 운영 환경에서는 [운영 환경 설명]입니다. 학습 데이터와 운영 환경 사이의 분포 불일치(distribution shift) 위험 요인을 5가지로 정리하고, 각각의 비즈니스 영향을 평가해 주세요.
현재 AI 모델을 얼마나 자주 재학습하는지, 한 번 재학습에 드는 비용(인건비 + 컴퓨팅)을 정리합니다. 이 수치가 없다면, 운영 리스크를 관리하지 않고 있다는 뜻입니다. (1시간)
AI 에이전트가 처리할 업무의 변동성을 '낮음/중간/높음'으로 분류합니다. 변동성이 높은 업무에 현재 AI를 투입하면, 성능 저하 빈도가 높아집니다. 변동성이 낮은 업무부터 시작하는 것이 합리적입니다. (30분)
이 논문은 방향 제시이지 완성된 기술이 아닙니다. 저자들이 직접 "수십 년이 걸릴 수 있다(probably decades away)"고 밝혔습니다. System A·B·M 프레임워크는 "실제 시스템으로 가는 경로를 제시하는 잠정적 청사진(tentative blueprint)"입니다. 당장의 AI 도입 결정에 이 논문을 근거로 사용하기는 어렵습니다.
현재의 추론 시점 적응(test-time adaptation)은 이 논문이 말하는 자율 학습과 다릅니다. LLM의 추론 시점 연산(thinking tokens), 에이전트 기반 복잡 과제 해결 등이 활발하지만, 논문은 이것들을 "전체적으로 경직된 시스템 위의 사소한 변형"이라고 평가합니다. 아이가 '시험 시간'에 전체 언어와 새로운 기술을 배우는 것과는 질적으로 다릅니다.
자율 학습 AI의 통제 문제는 미해결입니다. 논문은 4가지 윤리적 위험을 구체적으로 열거합니다. (1) 적응력과 통제 가능성 사이의 긴장, (2) 대리 목표의 오작동(정렬 해킹), (3) AI가 인간처럼 보일수록 과도한 신뢰가 발생하는 문제, (4) 통증·공포와 기능적으로 유사한 신호를 처리하는 시스템의 도덕적 지위 문제입니다.
현재 AI의 가장 큰 한계는 성능이 아니라 '배포 후 스스로 배우지 못하는 구조'입니다. 이 한계를 아는 것이 과잉 투자와 과소 기대를 모두 피하는 출발점입니다.
- Dupoux, E., LeCun, Y., & Malik, J. (2026). Why AI systems don't learn and what to do about it: Lessons on autonomous learning from cognitive science [Preprint]. arXiv:2603.15381. (원문 보기 ↗)
- McKinsey & Company. (2025). The state of AI in early 2025 [Survey]. McKinsey Global Survey.