요약: "질문이 전부다" – AI 슈퍼지능 시대, 올바른 질문의 힘과 와일드 웨스트의 현장
1. 도입 – 데이터, 도구, 그리고 질문의 시대
영상은 "Right Questions Are All You Need"라는 주제로 시작합니다.
진행자 체스터 로(Chester Roh)는 데이터와 AI 모델(특히 Claude Code)을 잘 연결하면,
이제는 "어떤 질문을 하느냐"가 진짜 병목이 된다고 강조합니다.
"데이터를 Claude Code에 깔끔하게 연결하면, 그 데이터에 대해 어떤 질문이든 할 수 있습니다. 이제 병목은 질문입니다. 질문이 병목입니다."
이어서, AI의 미래는 이미 도착했지만 "고르지 않게(jagged)" 퍼져있을 뿐이라고 말합니다.
"미래는 이미 여기 와 있습니다. 다만 아직 고르지 않게 퍼져 있을 뿐이죠."
아마존이 모든 것을 팔아도 개별 온라인 상점이 여전히 존재하는 것처럼, AI도 비슷한 길을 걷고 있다고 비유합니다.
2. 최근 AI 업계 주요 이슈 정리
지난 2주간의 AI 업계 주요 이슈를 세 가지로 정리합니다.
1) Grok-4의 등장과 도구 사용의 진화
- Grok-4는 기존 Grok-3와 달리, 프리트레이닝(pre-training) 양을 늘리지 않고,
추론(reasoning) 단계를 확장하는 데 집중했습니다. - 20만 개의 GPU를 사용해 다양한 도메인(수학, 코딩 외)으로 추론 데이터를 확장했습니다.
- 도구 사용(tool use) 능력이 크게 강화되어,
"Humanity's Last Exam"에서 도구 사용 시 점수가 44점까지 올랐습니다.
"Grok-4의 베이스라인 성능이 크게 올랐고, 도구를 주면 성능이 훨씬 더 좋아집니다."
하지만 실제로 도구 사용을 시키면,
비결정적(nondeterministic) 특성 때문에 제대로 호출되지 않는 경우가 많아
여러 가지 휴리스틱(heuristic)과 프롬프트 엔지니어링이 필요했다고 설명합니다.
"실제로 도구 사용을 시키면, 제대로 호출이 안 되는 경우가 많아요. 그래서 여러 트릭을 써야 했죠."
이제는 RLHF(강화학습 기반 휴먼 피드백) 등으로
모델 자체가 도구 사용과 추론을 내재화하는 방향으로 진화하고 있다고 강조합니다.
2) Kimi K2와 DeepSeek V3의 레시피
- Kimi K2는 DeepSeek V3의 모델 아키텍처를 거의 그대로 가져와서,
약간의 차이(전문가 수 등)만 두고 사용했습니다. - MoE(Mixture of Experts) 구조로, 1조 파라미터 규모의 모델입니다.
- K2는 추론(reasoning)보다는 도구 사용 내재화에 집중했습니다.
- 실제로 다양한 벤치마크에서 좋은 성능을 보였고,
특히 도구를 내부적으로 잘 호출하는 사례를 많이 보여줍니다.
"Kimi K2는 reasoning은 안 하지만, 도구 사용 내재화는 정말 잘 했어요."
- Muon Optimizer라는 새로운 옵티마이저를 도입해,
학습 곡선이 매우 안정적으로 떨어지는 것이 인상적이었다고 합니다.
3) ChatGPT Agent와 통합 모델의 등장
- ChatGPT Agent는 OpenAI의 기존 모델 네이밍을 쓰지 않고,
단일 모델로서 도구 사용 능력이 크게 강화된 형태로 출시되었습니다. - PPT 만들기 등 일상적이고 실용적인 활용에 초점을 맞췄습니다.
- RL(강화학습)로 도구 사용을 강화했고,
"하네스(harness)"나 에이전트 워크플로우 프레임워크가
모델 내부로 내재화되는 흐름이 뚜렷해졌습니다.
"우리가 도구 사용을 위해 도입했던 다양한 하네스와 에이전트 워크플로우가, 이제 모델 자체에 내재화되고 있습니다."
3. 도구 사용 내재화와 데이터셋 생성의 혁신
- DeepSeek, Kimi K2 등은 실제 도구와 가상 도구를 정의해
다양한 시나리오를 합성 데이터로 만들어 대규모 데이터셋을 구축했습니다. - ACE-Bench 논문에서 영감을 받아,
성공/실패 시나리오를 포함한 에이전트 데이터셋을 합성하고,
LM(언어모델)로 다시 평가해 필터링하는 과정을 거쳤습니다.
"대규모 에이전트 데이터 합성, 이게 핵심입니다. DeepSeek V3가 R1을 만들 때와 똑같은 느낌이에요."
- 이렇게 만들어진 데이터셋을 프리트레인 혹은 포스트트레인에 활용해
도구 호출 능력을 크게 끌어올렸습니다.
4. 슈퍼지능 시대의 생존 전략 – 질문의 힘
1) 데이터 연결 이후, 진짜 병목은 '질문'
- 회사 내부에서도 Claude Code와 데이터를 연결한 뒤,
"질문이 전부다"라는 말이 자연스럽게 나올 정도로
이제는 무엇을, 어떻게 묻느냐가 경쟁력의 핵심이 되었다고 합니다.
"질문이 병목입니다. '어떻게'가 아니라, '무엇'을 정의하는 게 병목이죠."
- 좋은 질문의 few-shot 예시를 만드는 것이
여전히 인간의 중요한 역할이며,
이 부분이 기업의 경쟁력이 될 것이라고 강조합니다.
"올바른 질문의 few-shot 예시를 만드는 것, 그게 아직은 인간의 몫입니다."
2) 컴퓨트(연산력)와 인프라 경쟁
- 빅테크들이 인프라에 집착하는 이유는
결국 모든 것이 컴퓨트(연산력)로 귀결되기 때문이라고 설명합니다. - AI 지능의 가격은 점점 떨어져,
결국 전기요금 수준까지 수렴할 것이라고 전망합니다.
"지능의 가격은 계속 떨어져서, 결국 전기요금 수준까지 내려갈 겁니다."
- 지금은 Claude Code Max 플랜을 구독해
최대한 많이, 빠르게 활용하는 것이 경쟁력이라고 말합니다.
"지금 경쟁력은 Claude Code Max 플랜을 뽑아먹는 겁니다. 내가 쓸 수 있는 컴퓨트를 최대한 쓰는 게 정답이에요."
3) 와일드 웨스트 시대와 '고르지 않은 지능'
- 지금은 "와일드 웨스트(Wild West)" 같은 시대이며,
프론티어 모델들이 어떤 분야에서는 AGI에 가깝고,
어떤 분야에서는 여전히 멍청한 "고르지 않은(jagged) 지능" 상태라고 진단합니다.
"지금은 Seung-jun이 매번 말하는 '고르지 않은 지능(jagged intelligence)' 시대를 지나고 있습니다."
- 하네스(harness)와 같은 임시적 도구들은
곧 모델 내부로 내재화될 것이지만,
그 전까지는 여전히 큰 비즈니스 기회가 존재한다고 강조합니다.
5. 경험의 시대와 AI의 철학적 전환
1) 경험의 시대(Age of Experience)와 자기주도 학습
- Sutton, Silver 등 AI 대가들이
"경험의 시대"를 선언하며,
AI가 자기 경험을 통해 학습하는 시대로의 전환을 강조합니다.
"AI는 이제 자기 자신의 1인칭 경험에서 배우는 시대로 들어갑니다. 그게 더 강력해질 거예요."
- 인간 아기의 놀이와 탐색을 예로 들며,
데이터 스트림을 스스로 선택하고 조절하는 능력이
지능의 핵심임을 설명합니다.
"아기는 무엇에 주목하고 상호작용할지 스스로 선택하며, 그 데이터 스트림이 점점 더 학습에 적합해집니다."
2) 설계의 시대(Age of Design)와 인간의 역할
- 우주는 복제자 → 설계자로 진화해왔고,
인간은 도구를 만들고, 도구를 만드는 도구까지 설계하는
"설계의 시대"를 열었다고 설명합니다.
"이제는 스스로 설계할 수 있는 존재를 설계하는 시대입니다. 인간은 촉매이자 산파, 창립자입니다."
- AI가 자기 자신을 부트스트랩(자기 증식)하는
자기진화(self-propagating)의 흐름이
이미 시작되었다고 진단합니다.
3) 협력과 분산의 중요성
- AI 정치(AI politics)라는 주제로,
중앙집중형 슈퍼 AI가 아니라
분산된 협력이 중요하다고 강조합니다.
"인간의 번영, 그리고 아마도 AI의 번영도 분산된 협력에서 나옵니다."
6. LLM Daydreaming – 창의성과 데이터의 새로운 모트
- Gwern Branwen의 "LLM Daydreaming" 논문을 소개하며,
LLM이 의도적으로 '멍때리기(daydreaming)'를 하며
멀리 떨어진 개념을 연결하고,
그 과정에서 생성된 데이터가 진정한 모트(진입장벽)가 될 수 있다고 설명합니다.
"중요한 점은, 무엇을 질문해야 할지 모른다는 겁니다. 좋은 경로를 만드는 것, 그게 진짜 모트입니다."
- 이런 드림 팩토리(dream factory)는
막대한 컴퓨트와 자본이 필요해,
일반 서비스로는 제공되지 않을 것이라고 전망합니다.
7. 인간의 역할, 질문의 힘, 그리고 미래
- AI가 점점 더 많은 것을 대체해도,
"좋은 질문을 던지는 능력"이
인간의 마지막 경쟁력이 될 것임을 강조합니다.
"지능의 가격이 0이 되는 시대, 질문의 질이 곧 답의 질입니다. 문제 정의가 곧 문제 해결입니다."
- 의미와 가치를 창조하고, 맥락과 뉘앙스를 해석하는
인간만의 역할에 집중해야 한다고 결론짓습니다.
8. 마무리 – 불안하지만 흥미로운 시대
- 정보가 끝없이 흐르고,
AI와 함께하는 이 시대는
"고통스럽지만, 엄청나게 흥미로운 시대"라고 정리합니다.
"고통스럽지만, 정말 흥미로운 시대입니다."
- 결국, "질문이 전부다"라는 메시지로
요약을 마무리합니다.
🔑 주요 키워드 & 인상 깊은 인용구 정리
- 질문이 병목이다.
- 고르지 않은(jagged) 지능
- 도구 사용의 내재화
- 경험의 시대, 설계의 시대
- 컴퓨트(연산력) 경쟁
- LLM Daydreaming, 드림 팩토리
- 분산된 협력
- 질문이 전부다.
"질문이 병목입니다. 질문이 전부입니다."
"미래는 이미 여기 와 있습니다. 다만 아직 고르지 않게 퍼져 있을 뿐이죠."
"지능의 가격이 0이 되는 시대, 질문의 질이 곧 답의 질입니다."
"고통스럽지만, 정말 흥미로운 시대입니다."
📝 한 줄 요약
AI 슈퍼지능 시대, 데이터와 도구는 이미 준비되었고,
이제는 '올바른 질문'을 던지는 능력이 인간의 마지막 경쟁력이자
가장 중요한 생존 전략임을 강조하는 와일드 웨스트의 현장 보고서!