샌프란시스코 AI 업계 48시간 관찰기: 데이터·에이전트·유통 경쟁의 현실
저자는 샌프란시스코에서 억만장자, AI 연구소 관계자, 그리고 매출 10억~1,000억 달러 규모 기업을 운영하는 창업자·임원들과 48시간을 보내며 AI 산업의 분위기를 기록했다. 핵심은 AI 모델 자체보다 데이터, 업무에 맞춘 에이전트 운영 체계, 평가 능력, 배포와 유통력이 점점 더 큰 가치를 갖게 된다는 것이다. 동시에 빠른 매출 성장 뒤의 낮은 유지율, 복제되기 쉬워진 소프트웨어, 보안 위험 등 거품과 구조적 위험도 뚜렷하게 보인다고 진단한다.
1. 폭발하는 데이터 거래와 AI 매출의 불안정성
가장 먼저 저자가 체감한 것은 기업 데이터를 AI 연구소에 판매하는 데이터 브로커 시장의 과열이다. 주당 약 200만 달러를 벌어들이는 데이터 브로커 이야기가 매우 많이 들렸다고 한다. 다만 이것이 이제 막 시작되는 거대한 시장인지, 이미 거품인지 판단하기 어려웠고, 아직 남은 틈새 시장이 무엇인지 적극적으로 찾고 있다고 밝혔다.
AI 스타트업을 볼 때 저자가 가장 중요하게 꼽은 질문은 다음과 같다.
"다음 달에 새 모델이 나오면, 당신의 회사는 더 좋아지는가, 아니면 더 나빠지는가?"
저녁 식사 자리에서 이 질문이 나오자 테이블의 절반이 침묵했다고 한다. 특정 모델의 성능 우위에 의존하는 회사라면, 더 강력하거나 더 저렴한 새 모델이 나오자마자 제품의 경쟁력이 약해질 수 있기 때문이다. 저자는 이것이 지금 모든 AI 스타트업에 던져야 할 최고의 질문이라고 본다.
현재 업계에서는 12개월 안에 매출 10억 달러를 달성하는 것이 새로운 기준처럼 언급된다. 과거의 '유니콘'이라는 상징적 목표가 이제는 훨씬 더 높은 매출 성장으로 대체된 분위기다. 그러나 저자는 이 과정에서 고객 유지율(retention) 이야기가 거의 없었다는 점을 우려한다. AI 매출은 빠르게 들어올 수 있지만, 고객도 빠르게 떠날 수 있다. 따라서 앞으로는 매출 규모는 크지만 유지율이 형편없는 AI 기업들이 많이 등장할 것이라고 예상한다. 📈➡️📉
2. 컴퓨터의 재발명과 업무를 대신할 에이전트
저자는 지금이 단순히 새로운 앱이 나오는 시기가 아니라, 컴퓨터 자체가 다시 발명되는 시기라고 본다. 이를 다음과 같이 비유한다.
- AI 모델은 CPU
- 모델을 연결하고 작동시키는 하니스(harness) 는 운영체제
- 특정 작업을 수행하는 기술과 플러그인은 앱
이 구조로 생각하면 아직 비어 있는 기회, 즉 화이트스페이스가 더 잘 보인다는 설명이다. 모델이 모든 것을 차지하는 것이 아니라, 모델을 실제 일에 연결하고 통제하며 검증하는 층이 새 컴퓨팅 환경의 핵심이 될 수 있다는 뜻이다.
또한 저자는 약 12개월 안에, 사람의 업무를 일주일 정도 관찰한 뒤 별도 지시 없이 그 일을 수행하는 에이전트가 나올 수 있다고 전망한다. 이는 이미 기술적으로 가능한 조합에 가깝다고 말한다.
"화면 녹화, 에이전트 메모리, 로컬 모델의 조합이 지금 바로 이것을 가능하게 만든다."
사람이 화면에서 어떤 프로그램을 열고, 어떤 판단을 내리고, 어떤 순서로 일을 처리하는지를 기록한 뒤, 에이전트가 장기 기억과 로컬 환경에서 이를 재현하는 방식이다. 이는 업무 자동화가 단순한 챗봇 수준을 넘어, 실제 작업 과정을 학습하고 수행하는 단계로 옮겨 가고 있음을 시사한다.
3. 범용 모델보다 중요한 수직형 에이전트 운영 체계
저자는 에이전트 하니스가 과거의 'GPT 래퍼'처럼 보일 수 있지만, 이번에는 긍정적인 의미에서 중요한 사업 영역이 될 수 있다고 평가한다. 특히 산업별 문제에 맞춘 수직형(vertical) 하니스가 유망하다.
좋은 팀들은 특정 모델 하나에 매달리지 않고, 모델을 교체 가능한 부품으로 본다. 한 창업자는 업무마다 다른 모델을 연결하는 방식을 설명했다.
- 미적 감각과 시각적 결과물에는 특정 모델
- 일상적이고 반복적인 작업에는 더 저렴한 모델
- 글쓰기와 텍스트 처리에는 또 다른 모델
이들은 미세조정(fine-tuning)보다 모델 간에 옮겨 쓸 수 있는 프롬프트를 선호하며, 사용자가 실제 결과물을 어떻게 다루는지로 A/B 테스트를 한다. 예를 들어 사용자가 결과를 수정하는지, 내보내는지, 공유하는지를 관찰해 제품 품질을 검증한다.
저자가 정리한 수직형 에이전트 하니스의 핵심 구성 요소는 네 가지다.
- 해당 산업의 데이터를 연결하는 커넥터
- 실제 업무를 아는 사람이 작성한 평가 기준(evals)
- 에이전트가 해도 되는 일과 해서는 안 되는 일을 정하는 규칙
- 사람이 결과를 검토할 수 있는 깔끔한 화면
결국 모델은 전체 가치의 약 20%에 불과할 수 있다는 주장이다. 진짜 경쟁력은 현장의 데이터 연결, 업무 전문성, 안전장치, 인간 검토 흐름에 있다.
또한 많은 창업자가 에이전트 시대의 기본 부품인 API, 데이터 계층, 도구를 만들고 있다고 전한다. 어떤 회사들은 사용자 인터페이스조차 거의 없는데, 주된 사용자가 사람이 아니라 에이전트이기 때문이다. 저자는 이 시대의 기반 요소, 즉 프리미티브(primitives) 를 만드는 스타트업이 매우 잘될 것이라고 믿는다.
4. 복제되는 소프트웨어와 데이터의 재평가
AI를 이용한 소프트웨어 역공학과 복제가 이전보다 훨씬 활발해졌다는 점도 중요한 관찰이다. 사람들은 기존 소프트웨어를 디컴파일하고, 에이전트로 다시 만들고 있다. 심지어 누군가는 각각 50억 달러 이상의 가치가 있는 앱 약 10개를 오픈소스로 복제한 사례를 보여주었다고 한다.
"소프트웨어가 이렇게 쉽게 복제될 때, 그것이 무엇을 의미하는지 나와 모두가 여전히 생각하고 있다."
이 변화 속에서 저자는 가치가 점차 데이터로 이동할 것이라고 예상한다. 소프트웨어 기능 자체를 빠르게 재구축할 수 있다면, 오래된 SaaS 기업을 사는 이유는 제품 코드보다 그 안에 축적된 고객 데이터와 업무 흐름일 수 있다.
"어떤 SaaS 회사들은 사실상 비밀스러운 데이터 회사다."
과거에는 쇠퇴하는 SaaS 기업을 연간 반복 매출(ARR)의 2배 수준에 인수하는 식으로 평가했을 수 있다. 하지만 앞으로는 고객 데이터의 품질, 업무 기록의 깊이, 축적된 운영 흐름 등을 반영하는 더 나은 가치평가 기준이 필요할 수 있다고 저자는 생각한다.
반면 기존 소프트웨어 중 상당수는 에이전트 시대를 버티지 못할 가능성이 높다. 특히 사람이 수많은 화면을 클릭하며 작업해야 하는 흐름에 기반한 제품들이 위험하다. 에이전트가 여러 시스템을 넘나들며 목표를 수행할 수 있게 되면, 화면과 메뉴 중심의 기존 UX는 빠르게 낡을 수 있기 때문이다.
5. 기업 데이터 정리와 실패 로그의 가치
거의 모든 기업이 내부 데이터를 한곳에 모으고, MCP(Model Context Protocol) 를 통해 에이전트가 접근하게 만들고 싶어 한다고 저자는 전한다. 그러나 막상 데이터를 들여다보면 현실은 엉망인 경우가 많다.
- 동일 고객 정보가 다섯 가지 버전으로 중복됨
- 오래되어 아무도 쓰지 않는 슬랙 채널이 남아 있음
- 검색조차 되지 않는 PDF가 쌓여 있음
이처럼 기업 내부 데이터를 정리하고 연결하는 일은 큰 컨설팅 기회가 될 수 있다. AI 에이전트의 성능은 결국 입력 데이터의 품질에 크게 좌우되므로, 데이터 정리는 단순한 뒷정리가 아니라 AI 도입의 선행 조건이 된다. 🧹
AI 연구소는 학습용 데이터를 충분히 구할 수 있지만, 기업 안에서 에이전트가 실제로 어떤 식으로 실패하는지에 대한 사례는 얻기 어렵다. 따라서 에이전트의 오류, 막힘, 잘못된 실행이 기록된 실패 로그를 보유한 곳은 매우 가치 있는 자산을 갖게 될 수 있다.
또한 한 대형 소비자 기업 관계자는 앞으로의 경쟁이 메모리, 즉 AI가 사용자를 얼마나 잘 기억하는가를 중심으로 벌어질 것이라고 말했다.
"당신에 대해 가장 많이 기억하는 모델이 이긴다. 가장 똑똑한 모델은 사람들이 생각하는 것보다 덜 중요하다."
성능이 비슷한 모델들이 많아질수록, 사용자의 취향·맥락·이력·관계를 지속적으로 기억하고 활용하는 능력이 더 강력한 차별화 요소가 될 수 있다는 의미다.
6. 물리 AI, 보안, 보험으로 번지는 에이전트 시대
물리 AI도 많은 대화 주제였다. 저자는 Astra가 "AI가 실제로 CAD를 할 수 있다"는 인식을 확산시킨 초기 모델 중 하나였다고 보며, 업계가 이제 '바이브 제조(vibe manufacturing)'가 실제로 어떤 모습일지 고민하고 있다고 전한다. 이는 자연어로 의도를 표현하면 AI가 설계·제조 과정까지 연결하는 미래를 뜻한다.
한 로보틱스 창업자의 말은 특히 인상적이었다.
"이제 AI에서 가장 어려운 문제는 연구 문제가 아니라 배포 문제다."
로봇은 스스로 작동하다가 막히면 사람을 호출하고, 그때마다 발생하는 호출 기록은 다시 학습 데이터가 된다. 즉, 연구실에서 성능을 높이는 것만큼이나 현실 환경에 배치하고, 오류를 처리하고, 지속적으로 개선하는 역량이 중요해졌다.
사이버보안 기업들도 다시 주목받고 있다. 특히 침해 사고 이후 피해를 수습하고 시스템을 정리하는 기업들이 매력적인 창업 분야로 떠오른다고 한다. 시스템에 접근할 수 있는 에이전트 하나하나는 기업으로 들어가는 새로운 문이 될 수 있고, 이 문들 중 많은 수가 제대로 잠겨 있지 않다는 문제의식이다. 🔐
이 흐름에서 저자는 에이전트 보험도 등장할 것이라고 예상한다. 에이전트가 비싼 실수를 저지르기 시작하면 보험사는 보장에 앞서 감사와 검증을 요구할 것이다. 에이전트의 권한, 실행 기록, 안전 규칙, 사고 대응 능력이 보험 인수의 조건이 될 가능성이 있다.
또한 여러 사람이 가장 원하는 채용 인재로 좋은 감각을 갖고 평가 기준을 작성할 수 있는 사람을 꼽았다. 모델은 아이디어를 만들어 내는 데 점점 능숙해지고 있지만, 그 아이디어 중 무엇이 좋은지 판단하는 일은 여전히 어렵기 때문이다. 결국 에이전트 시대에는 만드는 능력뿐 아니라 좋은 결과를 알아보고 측정하는 취향과 평가력이 중요해진다.
7. 폐업 기업의 데이터, 에이전트 웹, 창업자 생존 전략
저자는 일부 스타트업이 이제는 살아 있을 때보다 죽었을 때 더 높은 가치를 가질 수 있다고 본다. 문을 닫은 회사라도 5년간 쌓인 슬랙 대화, 이메일, 코드가 있다면, 이를 라이선스하는 방식으로 돈을 받을 수 있기 때문이다. 창업자들이 회사를 언제 어떻게 종료할지 결정할 때도, 이런 데이터 자산의 가치를 고려하기 시작할 수 있다고 예상한다.
사람들은 이제 에이전트 웹의 수익화도 논의하기 시작했다. 아직은 매우 초기 단계이지만, 인터넷에서 가장 활발한 사용자가 사람이 아니라 에이전트가 된다면 어떤 스타트업을 만들어야 할지 고민해야 한다는 것이다. 에이전트가 검색하고, 구매하고, 예약하고, 콘텐츠를 소비하는 환경에서는 광고·결제·신원·권한·추천 구조 모두가 달라질 수 있다.
창업가의 경로에도 새로운 패턴이 보인다. 저자가 관찰한 흐름은 다음과 같다.
- 스타트업이 벤처캐피털 투자를 받는다.
- 그 투자금으로 창업자가 크리에이터가 된다.
- 스타트업이 실패한다.
- 창업자는 전업 크리에이터로 돌아간다.
- 이후 개인 영향력과 수익을 바탕으로 여러 제품을 부트스트래핑 방식으로 육성한다.
이는 창업 실패 이후에도 창업자의 개인 유통 채널과 팬층이 새로운 사업의 기반이 되는 구조다.
8. 가장 희소한 자원은 주목과 유통력
저자가 마지막으로 강하게 느낀 것은 지금 시대에 대규모 유통(distribution)을 확보하는 일이 매우 어렵다는 사실이다. 창업자들은 눈에 띄기 위해 버스를 후원하고, 광고판을 사들이고, 유명 DJ를 초청한 파티까지 연다. 그 모습은 닷컴 시대를 떠올리게 한다고 한다.
"지금 희소한 것은 관심이다!"
특히 Wispr Flow의 UGC 전략을 공유하며 바이럴을 일으킨 성장 담당자의 사례는 많은 사람이 원하는 '비법'의 예로 언급된다. 저자는 이런 유형의 사업을 지금 시대에 효율적으로 확장하는 방법을 진정으로 아는 사람은 전 세계에 약 50명밖에 없을지도 모른다고 본다.
결국 AI 시대에는 기술을 만드는 것만으로 충분하지 않다. 좋은 데이터, 실제 업무에 맞는 운영 체계, 안전한 배포, 엄격한 평가 능력, 그리고 무엇보다 사용자에게 도달하는 유통력이 함께 필요하다. 저자는 이번 여행을 놀랍고도 행운 같은 경험으로 표현하며, 이 특별한 시기에 사업을 만드는 현장에 있다는 감각을 되새긴 뒤 집으로 돌아와 다시 일에 집중하겠다고 마무리했다. 🚀
"이렇게 놀라운 시기에 사업을 만드는 과정에서, 이렇게 놀라운 여행을 할 수 있었다는 것이 정말 행운처럼 느껴졌다."