MIT 리포트는 말한다 : 대부분의 기업 AI 투자 성과는 제로!

MIT 보고서에 따르면 생성형 AI 투자 95%가 실패했습니다. 학습 가능한 AI 시스템이 왜 핵심 해법인지 전략적으로 짚어드립니다.

Nov 18, 2025

Contents

MIT "AI 투자 95%가 성과 없어... 핵심은 '학습 능력 부족'"'맞춤형 AI' 성공률은 단 5%직원 90%는 '개인 AI' 사용, "회사 AI는 학습하지 않는다"18개월 내 '학습하는 AI'가 시장을 결정한다

최근 MLQ.ai가 MIT의 Project NANDA 등을 인용해 "The GenAI Divide: State of AI in Business 2025" 리포트를 발표했습니다. 이 리포트는 AI 도입을 고민하는 리더들에게 '왜 95%의 투자가 실패하는지'에 대한 명확한 데이터와 인사이트를 제공합니다.

MIT "AI 투자 95%가 성과 없어... 핵심은 '학습 능력 부족'"

최근 MIT가 발표한 리포트에 따르면, 기업들이 생성형 AI에 투자한 300~400억 달러 중 95%가 수익을 내지 못하는 것으로 나타났습니다.

단 5%의 프로젝트만이 실질적인 가치를 창출했으며, 나머지는 측정 가능한 성과 없이 멈춰 섰습니다. 리포트는 이 현상을 '생성형 AI 격차(GenAI Divide)'라 명명하며, 그 핵심 원인은 인프라나 규제가 아닌 '학습 능력 부족'에 있다고 분석했습니다.

'맞춤형 AI' 성공률은 단 5%

리포트는 챗GPT 같은 일반 도구와 맞춤형 시스템의 도입 현황을 비교했습니다.

일반 AI 도구 (챗GPT 등): 80% 이상의 조직이 도입을 시도했으나, 개인 생산성 향상에 그칠 뿐 기업의 손익에는 영향을 주지 못했습니다.

맞춤형 AI 시스템: 60%의 기업이 평가했지만, 실제 운영까지 도달한 경우는 **단 5%**에 불과했습니다.

대부분의 맞춤형 시스템이 실패한 이유는 취약한 워크플로, 맥락 학습 부족, 그리고 실제 운영과의 불일치 때문이었습니다.

직원 90%는 '개인 AI' 사용, "회사 AI는 학습하지 않는다"

조직 내 '그림자 AI 경제(Shadow AI Economy)' 현상도 지적되었습니다. 직원의 90% 이상이 업무에 개인 AI 도구를 사용하지만, 회사가 공식 구독한 AI는 40%만 사용했습니다.

직원들이 회사 AI를 외면하는 이유는 명확했습니다.

"피드백으로부터 학습하지 않는다" (65%)

"매번 수동으로 맥락을 입력해야 한다" (55%)

"우리 회사 워크플로에 맞출 수 없다" (45%)

결국 사용자들이 원하는 것은 '피드백으로 똑똑해지는 시스템'이었습니다.

성공 전략 1: 투자는 '백오피스'에서 진짜 ROI가 나온다

리포트는 AI 예산 배분과 실제 ROI 사이의 격차도 분석했습니다.

투자 예산: 임원들은 예산의 약 70%를 영업 및 마케팅에 쏟았습니다.

실제 ROI: 하지만 가장 극적인 비용 절감과 ROI는 백오피스(법무, 재무, 조달)에서 발생했습니다. BPO(업무 아웃소싱) 제거만으로 연간 200만~1,000만 달러가 절감된 사례도 있었습니다.

성공 전략 2: '내부 개발'보다 '외부 파트너십' 성공률 2배

AI 도입 방식에 따른 성공률 차이도 컸습니다.

내부 개발 성공률: 33%

외부 파트너십 성공률: 67%

특히 성공한 조직들은 AI 파트너를 단순 '소프트웨어 벤더'가 아닌, 내부 프로세스에 맞춘 깊은 맞춤화를 요구하는 'BPO 파트너'처럼 대했습니다.

18개월 내 '학습하는 AI'가 시장을 결정한다

MIT는 생성형 AI 격차를 해결할 핵심으로 '에이전틱 AI(Agentic AI)', 즉 경험으로부터 학습하고 기억하는 AI 시스템을 지목했습니다.

리포트는 "향후 18개월 내에 주요 기업들이 '학습 가능한 AI 시스템'을 도입하고 나면, 다른 시스템으로 바꾸는 비용이 엄청나게 커질 것"이라 경고했습니다.

결국 지금부터 18개월이 '학습하는 AI'를 선점하느냐, 아니면 '정적인 도구'에 갇히느냐를 결정하는 분기점이 될 것입니다. 이 리포트는 AI를 단순히 도입하는 것을 넘어, 우리 조직의 워크플로우에 맞춰 지속적으로 학습하고 적응하는 시스템으로 구축하는 것이 왜 중요한지 명확히 보여줍니다.

출처: MIT 리포트 원문 "The GenAI Divide: State of AI in Business 2025" (MLQ.ai)https://mlq.ai/media/quarterly_decks/v0.1_State_of_AI_in_Business_2025_Report.pdf