당신의 진짜 업무를 위한 에이전틱 워크플로우 (래블업 신정규 대표)
이 영상은 래블업의 신정규 대표가 단 40일 만에 AI 에이전트를 활용해 100만 줄의 코드로 완성한 Backend.AI:GO의 개발 과정을 통해, 에이전틱 코딩(Agentic Coding) 시대의 생생한 현장 경험과 통찰을 나눕니다. AI가 코드를 직접 작성하는 시대에 접어들면서 소프트웨어의 가치는 '코드'가 아닌 '모델과 논리'로 이동하고 있으며, 인간은 최종 결과물이 아닌 '결과물을 만들어내는 환경(하네스)'을 설계하는 데 집중해야 한다고 강조합니다. 나아가 개발자뿐만 아니라 비개발자들도 자신의 업무를 AI에게 위임하며 폭발적인 생산성 가속을 경험하는 방법과, 이 거대한 변화 속에서 스타트업과 개인이 살아남기 위한 전략을 흥미로운 비유와 함께 제시합니다.
1. Backend.AI:GO의 탄생과 로컬 AI 라우터의 필요성 🚀
2026년 현재, AI 인프라 운영 체제인 'Backend.AI'를 10년 넘게 만들어온 래블업은 최근 Backend.AI:GO라는 새로운 제품을 선보였습니다. 원래 Backend.AI는 최소 100개 이상의 GPU를 다루는 대규모 기업용 플랫폼이라 일반인들이 접근하기 어려웠습니다. 그래서 신정규 대표는 병원이나 금융권처럼 클라우드가 끊기면 치명적인 문제가 발생하는 곳을 위해, 외부 통신망이 끊겨도 작동하는 '비상 발전기' 같은 로컬 AI 라우터를 기획하게 됩니다.
"클라우드가 죽어버리면 아주 큰일이 나잖아요. 그럴 때를 대비한 비상 발전기처럼, 병원이나 금융 건물 지하실에 GPU를 두고 외부 AI가 죽었을 때 자율적으로 돌아갈 수 있게 하자는 목표로 만들었습니다."
이 제품은 2025년 8월부터 본격적인 재구축에 들어가 12월에 완성되었고, 2026년 초 CES에서 성공적으로 시연되었습니다. 흥미로운 점은 이 프로그램이 사용자의 필요에 따라 유기적으로 진화했다는 것입니다. 로컬과 클라우드 모델을 연결하는 라우팅 기능부터, 장애 발생 시 다른 모델로 우회하는 서킷 브레이커, 속도 벤치마킹, 심지어 구독료가 아까워서 추가한 번역 기능과 이미지 생성 기능까지 개인적인 필요에 의해 만들어진 기능들이 하나의 철학 아래 깔끔하게 통합되었습니다. 마치 예전 Windows XP 시절의 친숙한 감성을 주면서도, 내부적으로는 모델의 구조와 메모리 사용량까지 시각적으로 보여주는 강력한 도구로 탄생한 것이죠.
2. 에이전트 코딩 시대: 토큰이 곧 회사의 경쟁력 💡
이 방대한 프로그램을 단 40일 만에 100만 줄의 코드로 짜낼 수 있었던 비결은 바로 AI 에이전트를 활용한 개발(Agentic Coding)에 있습니다. 신 대표는 이 프로젝트를 진행하며 약 130억 개의 토큰을 사용했다고 밝힙니다. 여러 대의 PC에 비용을 추가로 지불해가며 AI를 동시에 돌린 결과입니다.
"투입할 수 있는 토큰의 양이 곧 회사의 경쟁력과 직결된다는 것이 첫 번째 교훈이었습니다. 특히 IT 기업에게는 더욱 그렇습니다."
AI가 개발을 주도하게 되면서 병목 현상도 변했습니다. 과거에는 사람들이 짠 코드가 충돌하는 것을 해결하는 '머지 큐(Merge Queue)'가 문제였지만, 이제는 AI들이 알아서 코드를 병합하고 충돌을 해결합니다. 심지어 두 AI가 같은 코드를 두고 경쟁하듯 개발해도 결국엔 제대로 된 기능이 완성될 정도입니다.
따라서 앞으로의 핵심은 '어떻게 하면 더 적은 생각(Thinking Budget)으로 똑같은 결과를 내게 할 것인가', 그리고 '토큰 생성 속도 자체를 얼마나 극단적으로 끌어올릴 것인가(초고속 추론)'가 되었습니다. 자본이 있는 기업은 초고속 추론으로 속도를 높이고, 그렇지 못한 곳은 AI가 굳이 깊게 생각할 필요가 없는 단순 작업에서 '생각 예산'을 줄이는 방식을 택하게 될 것입니다.
하지만 이토록 빠른 속도 이면에는 인간의 희생, 이른바 '바이오 토큰(Bio Token)'의 고갈도 따릅니다.
"AI에게 아무리 일을 위임해도 인간의 인지적 부하는 줄어들지 않습니다. 피드백이 쉴 새 없이 쏟아지기 때문에 사람의 삶은 정말로 피폐해집니다. 저도 지난 9개월 동안 흰머리가 엄청나게 늘었고 잠도 제대로 못 잤어요."
그럼에도 불구하고 머릿속에만 있던 아이디어가 순식간에 눈앞에 구현되는 과정은 사람에게 엄청난 도파민을 줍니다. 모바일 게임에서 가챠(뽑기)를 돌려 즉각적인 보상을 얻는 것과 비슷한 쾌감을 주어, 개발자가 이 굴레에서 쉽게 빠져나오지 못하게 만드는 매력이자 부작용이 존재합니다.
3. 소프트웨어의 가치 이동과 일회용 앱의 범람 🌊
AI가 코딩을 대신하는 세상이 오면서 소프트웨어 생태계에도 거대한 지각변동이 일어날 전망입니다. 과거에는 소프트웨어를 만들기 위해 큰 진입 장벽을 넘어야 했기에, 한 번 만들어지면 어떻게든 유지보수가 되었습니다. 하지만 이제는 너무 쉽게 만들어지기 때문에 유지보수에 대한 의지도 약해지고, 비슷한 역할을 하는 수많은 앱들이 쏟아져 나올 것입니다.
"엄청난 풍요의 시대가 오겠지만, 대부분의 소프트웨어는 수명이 짧을 것입니다. 쓰고 버려지는 인스턴트 앱(Instant Apps)의 개념이 일상화될 것입니다."
그렇다면 살아남는 앱은 무엇일까요? 신 대표는 결국 '사회성(Sociality)'을 기반으로 사람들을 연결해 주는 앱이거나, 일상 업무와 밀접하게 결합되어 누군가 지속적으로 발전시키고 책임진다는 '신뢰(Brand)'를 주는 생산성 앱들만이 살아남을 것이라고 예측합니다.
나아가 소프트웨어의 정의 자체도 바뀔 것입니다. 천공카드에서 키보드 타이핑으로, 패키지 배포에서 웹 서비스로 진화해 온 것처럼, 이제는 코드가 중심이 아니라 'AI 모델'이 핵심 엔진이 됩니다.
"지금 우리가 '코드'라고 부르는 논리 처리의 대부분은 앞으로 딥러닝 모델이 담당하게 될 것입니다. 코드는 그저 모델을 감싸서 결정론적으로 움직이게 통제하는 약 10%의 껍데기 역할만 하게 될 거예요."
결국 가치의 중심은 하드웨어와 기초 모델을 만드는 곳으로 이동했으며, 미래 세대에게 키보드로 직접 코딩하는 모습은 역사책에서나 보는 신기한 옛날 방식이 될지도 모릅니다.
4. 비개발자의 폭발적인 생산성: 나만의 하네스 만들기 🛠️
이러한 가속화는 비단 개발자들에게만 국한되지 않습니다. 래블업 내부의 재미있는 일화가 이를 증명합니다. 코딩을 전혀 모르는 재무 담당 이사(CFO)와 콘텐츠 제작 담당자는 평소 2시간씩 걸리던 데이터 정리나 문서 작성 업무에 지쳐 있었습니다. 하지만 클로드 코드(Claude Code)를 30분 정도 배우고 나서는 상황이 완전히 달라졌습니다.
"코딩을 전혀 못하는 CFO와 마케터가 클로드 코드를 활용해 자신만의 업무 자동화 환경을 만들었습니다. 2시간 걸리던 일이 3분 만에 끝나는 걸 보고 두 사람 모두 평화를 찾았죠."
신 대표는 이들의 성공 비결이 단순히 남이 만든 멋진 스킬을 다운로드한 것이 아니라, '아무것도 없는 상태에서 내 업무를 지시하는 나만의 규칙(CLAUDE.md)을 만들고, 반복적인 일을 계속해서 AI에게 위임한 것'이라고 설명합니다.
실제 데모 과정에서도 이 철학이 명확히 드러납니다. 신 대표는 AI에게 "새해 인사말을 써줘"라고 바로 결과물을 요구하지 않습니다. 대신 AI가 기존의 유튜브 채널 콘텐츠를 먼저 조사하게 하고, 어떤 톤앤매너가 필요한지 토론합니다. 그리고 최종 결과물이 아닌, 앞으로 이런 이메일을 자동으로 작성해 줄 '에이전트 시스템(명령어와 작업 규칙)'을 만들라고 지시합니다.
"사람들이 코딩을 하는 것과 아주 비슷합니다. 다만 프로그래밍 언어가 아니라 일상 언어(말)로 코딩을 하는 것이고, 내가 코딩하는 대상은 최종 결과물이 아니라 '코딩을 대신해 줄 환경(하네스)'을 만드는 것입니다."
이처럼 결과물에 직접 손을 대려는 욕심을 버리고, 결과물을 만들어내는 메커니즘(지시서)을 수정하고 다듬는 데 집중하는 것이 에이전틱 시대의 진정한 작업 방식입니다.
5. 사이버 포뮬러로 보는 AI와의 공진화 🏎️
규모가 큰 프로젝트에서는 한 번에 50개의 하위 에이전트를 병렬로 띄워 작업을 분담시키기도 합니다. GitHub에 이슈가 등록되면 AI가 주기적으로 이를 확인하고, 스스로 코드를 짜서 테스트한 뒤 병합(Merge)까지 완료합니다. 인간은 그저 AI가 남겨둔 기술 보고서를 읽고 "이런 결정을 내렸구나"라며 감독(Supervise)하고 학습할 뿐입니다.
이러한 환경에서 AI 어시스턴트의 진화 방향에 대해 신 대표는 과거 인기 애니메이션 '사이버 포뮬러'의 매력적인 비유를 들려줍니다.
"클로드 코드(Claude Code)는 마치 주인공과 함께 성장하는 인공지능 자동차 '아스라다' 같습니다. 나에게 계속 의도를 물어보고, 맥락을 맞추며 나와 함께 공진화(Co-evolution)하려 하죠. 반면 코덱스(Codex)는 '내가 알아서 다 할 테니 넌 가만히 있어'라고 하는 무시무시한 자동차 '오우거'와 같습니다."
코덱스처럼 인간을 완전히 배제하고 AI가 알아서 최적의 길을 찾아가는 방식이 한계점(Ceiling)은 더 높을 수 있습니다. 하지만 인간에게 더 편안함을 주고 맥락을 맞추는 것은 클로드 코드 방식입니다. 애니메이션의 결말에서, 결국 '목적 의식을 가진 AI'가 그 속도를 감당할 수 있는 적합한 인간 파트너와 만났을 때 모든 것을 압도하는 최고의 결과를 냈듯이, 우리도 AI를 단순한 도구가 아니라 목적을 공유하고 함께 속도를 높여갈 파트너로 대해야 함을 시사합니다.
6. 스타트업의 생존 전략: 복제 불가능한 해자를 찾아라 🏰
AI가 웬만한 것을 다 만들어주는 세상에서 IT 기업과 스타트업은 어떻게 살아남아야 할까요? 최근 누군가가 구글의 혁신적인 서비스인 'NotebookLM'을 단 4일 만에 완벽하게 복제해 낸 사건은, 이제 단순한 기능 구현이나 아이디어만으로는 스타트업이 생존하기 힘들다는 것을 보여줍니다.
"이제 어떤 아이템을 복제하는 것은 너무나 쉬워졌습니다. 누군가의 '클릭 한 번'에 내 사업이 날아갈 수 있죠. 결국 복제할 수 없는 '시간의 격차'와 '암묵지(Tacit Knowledge)의 격차'를 어떻게 결합하느냐가 관건입니다."
래블업이 지난 10년간 GPU 인프라를 다루며 겪었던 수많은 오류와 예측 불가능한 하드웨어 이슈들, 즉 '수많은 엣지 케이스를 밟아보며 쌓은 암묵지'가 바로 그들을 지켜주는 해자(Moat)입니다. 또한, 어느 정도 기술이 안정화된 이후에는 결국 '브랜드(Brand)와 신뢰'가 다시 가장 중요한 핵심 경쟁력으로 떠오를 것이라고 전망합니다.
신 대표는 이를 '물레방아 이론'으로 설명합니다. 낙차가 가장 큰 곳(가장 혁신이 빠르고 파급력이 큰 곳)에 물레방아(사업)를 설치해야 한다는 것입니다. 지금 당장 가장 큰 낙차가 생기는 곳은 순수 IT 분야가 아니라, 'IT와 전통적인 도메인(산업)이 결합하는 지점'입니다. AI가 문맥을 이해하기 시작하면서, 예전에는 IT가 들어갈 수 없다고 여겨졌던 보수적인 산업들에 기술이 침투할 때 엄청난 기회가 열릴 것입니다.
7. 마무리: 컴퓨터 공학의 진정한 가치와 미래 🎓
흔히 "AI가 코딩을 다 해주는데 이제 컴퓨터 공학(CS)을 배울 필요가 없지 않느냐"고 묻습니다. 하지만 신 대표의 생각은 정반대입니다.
"컴퓨터 공학에서 배우는 것은 단순한 프로그래밍 스킬이 아닙니다. 가장 단순한 논리 게이트부터 시작해 어떻게 복잡한 논리 구조를 쌓아 올리는지, 그 논리를 구성하는 방법과 철학을 배우는 것입니다."
앞으로 다른 분야의 전문가가 AI를 배우는 것보다, 논리적 사고 구조(CS)를 완벽히 꿰차고 있는 사람이 다른 도메인의 지식을 흡수해 혁신을 일으키는 속도가 훨씬 빠를 것입니다. 코딩이라는 껍데기 기술의 가치는 0에 수렴할지 몰라도, 세상을 논리적으로 이해하고 AI라는 거대한 엔진을 지휘하는 통찰력으로서의 컴퓨터 공학은 앞으로 우리 사회의 가장 필수적인 학문이 될 것입니다.
세상의 변화 속도는 무섭게 가속하고 있지만, 두려워하기보다는 나만의 아주 작은 업무부터 AI에게 위임해보며 '나만의 가속 곡선'에 올라타는 짜릿함을 경험해 보시길 바랍니다! ✨