AI에 올인했던 나의 경험: MIT 연구 결과가 옳았다 😥
이 글은 필자가 인공지능(AI)에 완전히 의존하여 제품을 개발했던 3개월간의 경험을 바탕으로, 왜 기업 AI 프로젝트의 95%가 실패하는지에 대한 통찰을 제공합니다. 필자는 AI 도구를 단순히 '증강(Augmentation)'이 아닌 '위임(Abdication)'의 방식으로 사용했을 때 발생할 수 있는 문제점과 장기적인 기술 퇴보의 위험성을 경고하며, AI를 인간의 역량을 강화하는 도구로 활용해야 한다고 강조합니다.
1. 95%의 실패율, 왜 발생할까? 🤔
MIT 연구에 따르면 기업의 AI 이니셔티브 중 95%가 실패한다고 합니다. 필자는 이 수치가 왜 그렇게 높은지 몸소 체험하며 깨달았다고 말합니다. 컨설턴트로서 끊임없이 "우리 엔지니어링 팀에서 AI를 어떻게 활용해야 할까요?"라는 질문을 받아왔지만, 그는 일반적인 답변 대신 직접 AI에 올인하는 실험을 하기로 결심했습니다.
3개월 동안 필자는 오직 Claude Code만을 사용하여 제품을 만들었습니다. 단 한 줄의 코드도 직접 작성하지 않았죠. 클라이언트들이 고려하고 있는 100% AI 도입이 실제로 어떤 모습인지 직접 경험하고, 95%의 실패율이 왜 존재하는지 직접 확인하고 싶었기 때문입니다.
2. 'AI 올인'의 달콤한 함정 🍯
필자는 AI의 도움으로 제품을 성공적으로 출시했고, 초기에는 매우 만족했습니다. 하지만 작은 수정을 해야 하는 순간이 오자, 자신감을 잃고 말았습니다. 자신의 지시로 AI가 작성한 코드 앞에서 무력감을 느낀 것이죠. 25년 경력의 소프트웨어 엔지니어인 그가 스스로의 기술이 퇴보했다고 느낀 순간이었습니다. 그는 이렇게 말합니다.
"25년의 소프트웨어 엔지니어링 경험을 가지고도, AI가 작성하도록 지시한 코드를 보며 무력감을 느낄 정도로 내 기술을 퇴보시켰습니다. 저는 제 제품 개발에서 승객이 되어버렸습니다."
필자는 이제 클라이언트들에게 100% AI 도입이 어떤 모습인지 정확히 말해줄 수 있다고 합니다. 그것은 실패와 같다고요. 즉각적인 실패가 아니라는 점이 바로 함정입니다. 초기에는 지표가 좋아 보이고, 더 빠르게 출시하며, 생산적이라고 느낍니다. 하지만 3개월 후, 아무도 자신이 무엇을 만들었는지 이해하지 못한다는 사실을 깨닫게 됩니다.
회사는 AI에 열광하고, 리더십은 AI 도입을 지시합니다. 모든 사람이 AI 도구를 사용하기 시작하고, 초기에 생산성 지표는 훌륭해 보입니다. 그러다 무언가 고장 나거나, 수정이 필요하거나, 실제 판단이 필요한 상황이 발생하면, 아무도 무엇을 해야 할지 모르게 됩니다.
- 개발자들은 직접 작성하지 않은 코드를 디버깅할 수 없습니다.
- 제품 관리자들은 자신이 내리지 않은 결정을 설명할 수 없습니다.
- 리더들은 직접 개발하지 않은 전략을 방어할 수 없습니다.
결국 모두가 자신의 AI 도구를 가리키며 다음과 같이 말하게 된다고 합니다.
"모두가 자신의 AI 도구를 가리키며 '이것이 올바른 접근 방식이라고 AI가 알려줬어요'라고 말합니다."
3. 증강(Augmentation) vs. 위임(Abdication)의 차이점 ⚖️
필자의 실험 기간 동안, 그는 끊임없이 '불 끄는 모드'였습니다. Claude Code가 코드를 생성하면 조금씩 잘못되어 있었고, 그가 수정하면 AI는 같은 실수를 반복했습니다. 그는 직접 코드를 작성했을 때보다 더 열심히 일했지만, 아무런 학습이나 기술 개발도 이루어지지 않았습니다.
그의 동료 Bob Galen은 이 상황을 정확히 짚어냈습니다.
"그 제품의 소유자는 누구입니까, 조쉬? 당신입니까, 아니면 Claude Code입니까?"
정답은 Claude Code였습니다. 필자는 혁신적이라고 스스로에게 말했지만, 사실상 소유권을 포기하고 있었던 것이죠.
성공적인 AI 활용의 공식은 AI + HI (Human Intelligence)이며, 이때 HI가 AI보다 더 커야 한다고 필자는 강조합니다. 하지만 95%의 실패 사례에서는 AI가 대부분의 역할을 하고, 인간의 감독은 거의 없거나 미미한 수준이라는 것입니다.
-
AI가 더 나은 코드를 더 빠르게 작성하도록 돕고, 당신은 아키텍처 이해를 유지할 때 — 그것은 증강입니다.
-
AI가 당신이 이해하지 못하는 코드를 작성할 때 — 그것은 위임입니다.
-
AI가 고객 피드백 분석을 돕고, 당신이 제품 결정을 내릴 때 — 그것은 증강입니다.
-
AI가 다음에 무엇을 만들어야 할지 당신에게 알려줄 때 — 그것은 위임입니다.
-
AI가 당신의 목소리를 유지하면서 더 빠르고 더 잘 글을 쓸 수 있도록 도울 때 — 그것은 증강입니다.
-
AI가 당신의 목소리가 아닌 다른 목소리로 당신을 위해 글을 쓸 때 — 그것은 위임입니다.
4. 다가올 위기: 사라지는 장인 정신 ⚠️
필자는 위임 방식이 처음에는 더 쉽고, 더 많은 결과물을 내며, 더 빠르게 움직이는 것처럼 느껴진다고 말합니다. 하지만 결국 자신이 더 이상 통제력을 가지고 있지 않다는 것을 깨닫게 되고, 문제가 발생했을 때(언제나 문제가 발생하죠) 무력해진다는 것입니다.
그는 10년 안에 아무도 이야기하지 않는 위기에 직면할 것이라고 경고합니다. 첫날부터 AI를 사용해 온 개발자들은 다음 세대를 가르칠 아키텍처 이해가 없을 것이고, 항상 AI에 의존해 온 제품 관리자들은 물려줄 판단력이 없을 것이며, 알고리즘에 위임해 온 리더들은 나눌 지혜가 없을 것이라는 거죠.
필자와 Bob은 '장인의 경지'가 사라질 위기에 처해 있다고 생각합니다. 직접 해보고, 실패하고, 디버깅하고, 다시 해보면서 배웠던 노하우, 즉 25년 이상의 경험에서 얻은 '상처 딱지'는 무엇이 잘못될지, 왜 그 아키텍처 결정이 나중에 문제를 일으킬지, 고객 피드백이 실제로 무엇을 의미하는지 알려주는 귀중한 지식입니다.
그러한 지식은 프롬프트만으로 얻을 수 없고, 다운로드할 수도 없습니다. 직접 노력하여 얻어야 하는 것입니다. 만약 AI가 대신 일을 하도록 내버려 둔다면, 우리는 위험한 의존성 외에는 아무것도 얻지 못할 것입니다.
5. 나의 기술 수준을 돌아보는 시간 🧐
필자는 우리에게 잠시 불편함을 느껴볼 것을 제안합니다. 최근 자신의 업무를 돌아보며 다음과 같은 질문을 던져보라고 합니다.
- AI가 제안한 내용을 참고하지 않고도 모든 결정을 자세히 설명할 수 있는가?
- 내일 모든 AI 도구가 사라져도 내 일을 할 수 있는가?
- 내 기술이 나아지고 있는가, 아니면 프롬프트 작성 능력만 향상되고 있는가?
- 무언가 고장 났을 때, 가장 먼저 고치려는 본능이 드는가, 아니면 AI에게 고쳐달라고 요청하는가?
만약 이 질문들에 불편함을 느낀다면, 당신은 95%의 실패 그룹에 속해 있을 가능성이 높다고 필자는 말합니다.
다음 일주일 동안, 당신의 핵심 업무 기술 중 단 하나만 AI 도움 없이 수행해 보세요. 코파일럿 없이 코드를 작성하고, ChatGPT 없이 제품 결정을 내리고, Claude 없이 전략을 작성해 보세요.
그 불편함이 느껴지나요? 그것은 무능력이 아니라, 당신의 실제 기술 수준이 드러나는 것이라고 합니다. 그것은 당신이 누구인지와 AI가 당신을 어떤 사람으로 보이게 만들었는지 사이의 간극입니다.
이제 우리에게는 선택이 있습니다. AI를 대체재가 아닌 훈련 파트너로 사용하여 실제 기술을 개발함으로써 그 간극을 좁힐 수 있습니다. 아니면 계속 위임하고, 혁신적이라고 스스로에게 말하며, 95%의 실패율에 편입될 수도 있습니다.
6. 성공하는 기업의 조건: AI를 증폭기로! ✨
결국 성공할 기업은 최고의 AI 도구를 가진 기업이 아닐 것이라고 필자는 단언합니다. AI를 통해 사람들이 더 나아지는 기업, 게으르지 않은 기업이 성공할 것입니다. 인간이 결정권, 코드, 전략을 소유하고 AI를 자동 조종 장치가 아닌 증폭기로 사용하는 기업이 바로 그 주인공입니다.
필자는 3개월 동안 직접 경험하며 이 사실을 깨달았습니다. AI가 자신의 제품 개발을 소유하도록 허락했고, 그 결과 개발자로서의 자신을 거의 잃을 뻔했습니다. 그의 실수를 반복하지 말고, 95%의 통계에 포함되지 말라고 강조합니다.
자신의 기술을 소유하고, 도구를 사용하되, 도구에게 사용당하지 마세요.
결론 🚀
MIT 연구를 비롯하여 가트너, 맥킨지 등 여러 기관에서 기업 AI 프로젝트의 높은 실패율을 보고하고 있습니다. 이 글의 핵심은 AI 활용 방식에 대한 명확한 태도 설정입니다. AI를 인간의 역량을 '증강'하는 도구로 활용할 때 비로소 성공할 수 있으며, AI에게 모든 것을 '위임'하는 방식은 결국 실패로 이어진다는 점을 필자의 생생한 경험을 통해 알 수 있습니다. AI 시대를 맞아 우리 모두 자신의 역할을 되돌아보고, 인간 지능의 가치를 잊지 않는 현명한 AI 활용자가 되어야 할 것입니다.