AI가 만들고 AI가 검토하면, 지식이 썩습니다 썸네일

AI가 만들고 AI가 검토하면, 지식이 썩습니다

Harvard Business Review Matthias Holweg & Thomas H. Davenport Don't Let AI Slop Muck Up Your Company's Processes ↗

개인이 AI로 만든 그럴듯한 저질 산출물을 '워크슬롭'이라 부릅니다. 이것이 업무 흐름을 타고 번지면 회사의 지식 자체가 부패합니다.

HBR은 세 가지 도전을 짚습니다. 내용이 맞는지 검증하고, 사람이 더한 가치를 입증해야 합니다. 반복될수록 원본에서 멀어지는 엔트로피도 막아야 합니다.

대응은 네 가지입니다. 원본 데이터의 출처를 추적하고, AI 사용을 가치 있는 곳에 한정합니다. 더한 가치를 명시하고, 프로세스 전체를 다시 봅니다.

직원이 AI로 쓴 문서를, 받는 당신도 AI로 요약합니다.
그 왕복마다 회사의 지식은 아무도 모르게 부패합니다.

2026년 6월, HBR이 'AI 슬롭'을 정면으로 다뤘습니다. 저자는 옥스퍼드의 마티아스 홀베그와 AI 분야 석학 토머스 데이븐포트입니다.

핵심 진단은 이렇습니다. 한 사람이 AI로 대충 만든 그럴듯한 결과물이 쌓이면, 회사의 지식 자체가 썩기 시작합니다. 저자는 이것을 '지식 부패'라고 부릅니다.

남의 회사 이야기가 아닙니다. 당신 팀이 AI로 보고서를 쓰고, 받는 쪽도 AI로 요약한다면 이미 시작됐습니다. 이 글은 그 부패의 구조와 멈추는 법을 다룹니다.

지난 2년간 기업은 개인의 AI 생산성에 집중했습니다. 직원 한 명이 얼마나 빨라지는가가 관심사였습니다.

그 시야가 좁았습니다. AI는 한 사람의 책상이 아니라 부서와 부서 사이를 흐르는 업무 흐름에 박혀 있습니다. 채용, 연구, 진료, 보험 청구가 모두 단계마다 AI를 거칩니다. 한 단계의 저질 산출물은 다음 단계로 그대로 넘어갑니다. 개인의 실수가 조직의 부패로 번지는 이유입니다.

+42%
ChatGPT 출시 후 한 경영학술지 투고량 증가, 품질은 하락 (Organization Science)
40%
임상 결정 지원 AI를 쓰는 미국 1차 진료 의사 비율
절반
AI 사용을 회사에 숨긴다고 답한 노동자 비율 (대규모 설문)

첫째, 슬롭은 한 사람이 아니라 업무 흐름 전체로 번집니다. 누군가 품질 점검을 포기하면 다음 사람도 곧 포기합니다. "어차피 AI가 읽을 테니 나도 AI로 쓰자"는 생각이 연쇄됩니다. 채용을 보면 분명합니다. 지원자는 AI로 자소서를 쓰고, 회사는 AI로 걸러내고, AI가 면접까지 봅니다. 그 결과 채용 신뢰는 역대 최저로 떨어졌습니다. 우리가 평가하는 것이 후보자인지, 후보자의 AI 사용 솜씨인지 알 수 없게 됩니다.

둘째, 내용이 맞는지 검증하는 비용이 생산성 이득을 갉아먹습니다. AI가 만든 결과에서 사실과 환각을 가려내려면 비판적 사고와 추가 조사가 필요합니다. AI가 똑똑해질수록 잡음과 신호를 구분하기는 더 어려워집니다. 검증에 드는 사람의 노력이 AI로 아낀 시간을 그대로 상쇄하는 경우가 많습니다. 저자는 이를 50년 전 컴퓨터 도입기의 '생산성 역설' 재현으로 봅니다. 기술을 깔아도 업무 흐름이 받쳐주지 않으면 생산성은 오르지 않습니다.

셋째, 사람이 더한 가치를 입증하는 일이 새 과제가 됐습니다. 보고서나 분석을 받는 쪽은 이제 그 안에 사람의 전문성이 들어 있는지 따져야 합니다. AI가 만든 콘텐츠는 사람이 만든 것보다 값이 훨씬 쌉니다. 호주 정부의 한 컨설팅 보고서에서 환각이 발견된 사례가 대표적입니다. 고객은 AI가 찍어낸 결과물에 높은 자문료를 내려 하지 않습니다.

넷째, AI를 거칠수록 원본에서 멀어집니다. 저자는 이를 '엔트로피'라고 부릅니다. 한 의료기관은 보험사가 AI로 만든 긴 문서를 받아, 양이 많아 다시 AI로 읽습니다. AI가 만든 것을 AI가 요약하는 '전화 게임'입니다. 매 단계마다 내용은 사실에서 조금씩 떨어집니다. 문제는 원본으로 되돌아갈 길이 사라진다는 점입니다. 생성물에서는 신호와 잡음을 더 이상 가릴 수 없습니다. 결국 열화된 정보로 의사결정을 하게 됩니다. 이는 거대언어모델의 작동 방식에서 비롯되며, 줄일 수는 있어도 없앨 수는 없습니다.

원본 지식 사람·1차 데이터 출발점 AI 1차 가공 요약·재작성 작은 왜곡 AI 2차 가공 AI가 또 요약 왜곡 누적 AI 3차 가공 원본과 단절 신호·잡음 혼재 AI를 거칠수록 원본에서 멀어지고, 신호와 잡음을 가릴 수 없게 됩니다 엔트로피: 막을 수는 없고, 관리만 가능합니다
같은 내용이 AI를 여러 번 거칠 때 원본에서 멀어지는 과정을 보여주는 개념도입니다. 저자는 보험사와 의료기관 사이의 'AI 전화 게임'을 사례로 들었습니다. 개념도: 본문은 HBR(2026) 설명 기반이며, 단계별 수치는 예시가 아닙니다.

다섯째, 합성 데이터로 학습하면 모델 자체가 무너집니다. AI가 만든 데이터로 다음 AI를 학습시키면 정확도와 다양성이 떨어집니다. 저자는 이를 '모델 붕괴' 또는 '생성형 근친교배'라고 부릅니다. 이미 인터넷 콘텐츠의 절반가량이 AI 생성으로 추정됩니다. 사람이 만든 콘텐츠를 지키는 일이 AI를 쓰는 쪽과 만드는 쪽 모두에게 중요해진 이유입니다.

1
핵심 문서에 '출처 꼬리표'를 답니다.
보고서나 분석에 원본 데이터가 무엇인지, AI가 어디까지 손댔는지 한 줄로 표시합니다. 예: "고객 인터뷰 녹취 기반, 문체만 AI 정리". 사람이 만든 1차 데이터(녹취, 설문 원본)는 따로 보관합니다. 나중에 다시 분석할 때 원본으로 돌아갈 수 있습니다. (문서당 1분, 양식 1줄)
2
자유 작문 대신 구조화 질문지로 사실을 수집합니다.
채용 자소서처럼 자유롭게 쓰게 두면 'AI 최적화'가 들어옵니다. 대신 "맡은 프로젝트, 역할, 관리한 예산, 팀 규모"를 칸으로 받습니다. 사실은 칸에 담기고, AI가 부풀린 문장은 설 자리가 줄어듭니다. (양식 1개, 30분)
3
'AI가 더한 가치'를 명시하는 규칙을 만듭니다.
공개 LLM으로 일반 문장만 뽑는 작업은 가치가 낮습니다. 자사 데이터나 전용 모델로 인사이트를 만들고, 문체 정리에만 ChatGPT나 Claude를 씁니다. 산출물에 "무엇을, 왜 AI로 했는지"를 적게 합니다. (가이드 1장, 팀 회의 1건)

사용 금지는 통하지 않습니다. 한 설문에서 노동자 절반이 AI 사용을 숨겼습니다. 막는 정책은 음지로 밀어낼 뿐입니다. 금지가 아니라 어디에 어떻게 쓸지 설계하는 쪽이 현실적입니다.

엔트로피는 기술 구조의 문제입니다. 거대언어모델은 다음 단어를 확률로 예측하는 모델입니다. 사실 개념이 없어 환각이 생깁니다. 도구가 좋아져도 구조가 바뀌지 않으면 이 문제는 사라지지 않습니다. 관리 대상이지 완전 해결 대상이 아닙니다.

이 글은 미국·서구 사례 중심입니다. 채용, 연구, 의료 사례가 한국 중소기업 현실과 다를 수 있습니다. 진단의 구조만 가져오고, 자기 업무 흐름에 대입해 확인합니다. 단발 사례를 그대로 옮기면 과잉 대응이 됩니다.

새 기술은 도구만으로 생산성을 올리지 못합니다. 그 도구를 받쳐주는 업무 흐름을 다시 짜야 지식이 부패하지 않습니다.

경영진 AI를 개인 생산성이 아니라 프로세스 단위로 봅니다. 부서 경계를 넘는 업무는 AI 사용 방식을 합의로 정합니다.
실무 책임자 핵심 문서에 출처 꼬리표를 의무화하고, 1차 데이터를 원본으로 따로 보관합니다.
인사·채용 담당 자유 작문을 구조화 질문지로 바꾸고, AI로 가릴 수 없는 대면 평가를 한 단계 둡니다.

워크슬롭(workslop): AI로 빠르게 만든, 겉은 그럴듯하지만 속은 부실한 산출물입니다. 받는 사람의 시간을 빼앗고 동료 간 신뢰를 떨어뜨립니다.

지식 부패(knowledge decay): 워크슬롭이 조직으로 번져 회사 지식의 품질이 무너지는 현상입니다.

엔트로피(entropy): 같은 내용이 AI를 여러 번 거칠수록 원본에서 멀어지는 무질서화입니다. 관리할 수는 있어도 완전히 없앨 수는 없습니다.

모델 붕괴(model collapse): AI가 만든 데이터로 다음 AI를 학습시키면 정확도가 떨어집니다. '생성형 근친교배'라고도 부릅니다.

출처(provenance): 데이터가 어디서 와서 어떻게 가공됐는지를 기록한 이력입니다. 원본과 생성물을 구분하는 기준이 됩니다.

  • Holweg, M., & Davenport, T. H. (2026, June). Don't Let AI Slop Muck Up Your Company's Processes [Article]. Harvard Business Review. (원문 보기 ↗)
라운드테이블
B
블랙 · 중견기업 임원
"어차피 AI가 읽을 테니 나도 AI로 쓰자." 이거 딱 우리 회사예요. 보고서 한 줄 안 읽고 그냥 돌려요.
W
화이트 · 조직장
근데 위에선 빨리 내라잖아요. 손으로 쓰면 늦다고 혼나요. 그래서 다들 AI로 찍어내는 거예요.
R
레드 · 저널리스트
그렇게 찍어낸 걸 받는 사람이 또 AI로 요약하면요? 아무도 원본을 안 본 문서가 결재까지 올라가는 거잖아요.
B
블랙 · 중견기업 임원
그게 지식이 썩는다는 말이에요. 누구도 안 읽은 문서로 회사가 의사결정을 하는 거죠.
N
네이비 · 시니어 엔지니어
AI로 30분 아끼고 검증에 40분 써요. 환각 하나 찾으려고 출처를 다 뒤져요. 이러면 뭐하러 쓰나 싶죠.
G
골드 · 창업자
그건 검증을 사람이 다 해서 그래요. 저는 자사 데이터로만 돌리고 문체만 AI한테 맡겨요. 그러면 검증할 게 별로 없어요.
N
네이비 · 시니어 엔지니어
그게 되는 회사가 몇이나 돼요? 대부분 공개 모델에 다 던져요. 글에서도 그래서 50년 전 '생산성 역설'이 또 온다잖아요.
W
화이트 · 조직장
출처 꼬리표 달라는 거, 말은 쉬운데 누가 매번 달아요. 안 그래도 바쁜데요.
P
퍼플 · 마케터
맞아요, 근데 안 달면 나중에 진짜 모래성 같더라고요. 원본이 뭐였는지 아무도 기억 못 해요. 한 줄이면 되니까 저는 그냥 달아요.
B
블랙 · 중견기업 임원
꼬리표보다 채용이 더 급해요. 자소서 자유 작문 받으면 전부 AI 최적화예요. 프로젝트, 예산, 팀 규모를 칸으로 받으세요. 그것만 바꿔도 절반은 걸러져요.
_posts/2026-06-16-ai-slop-knowledge-decay.md