우리는 동물을 만드는 게 아니라 유령을 불러내는 것이다 — Andrej Karpathy 인터뷰 요약
이 인터뷰에서 Andrej Karpathy는 인공지능(특히 LLM, AGI, RL, 자율주행, 교육 등)에 대한 현황과 전망을 솔직하고 알기 쉽게 풀어줍니다. 그는 AI 발전의 속도에 대한 지나친 과장에 대해 경계하며, 진짜 AGI와 인간의 학습·진화·문화의 본질, 그리고 미래 교육의 방향에 대해 심도 있게 통찰합니다. "AI는 점진적으로, 사회에 서서히 스며드는 형태로 발전할 것이다"라는 그의 주장은 오늘날 AI 논의의 핵심 관점을 보여줍니다.
1. "에이전트의 해"가 아니라 "에이전트의 10년"이다
Karpathy는 AI 산업에서 자주 들리는 "이제 곧 에이전트의 시대가 온다!"는 낙관에 조심스럽게 선을 긋습니다.
"저는 오히려 지금을 '에이전트의 해(year)'가 아니라 '에이전트의 10년(decade)'이라고 불러야 한다고 생각했어요."
현재의 LLM 기반 에이전트(예: Claude, Codex)는 상당히 인상적이지만, 진짜 유용한 '직원의 대체자'가 되기에는 부족하다고 봅니다. Karpathy는 멀티모달 처리, 지속적 학습, 인지적 결손 등 아직 해결해야 할 기본적인 문제들이 산재해 있어, 실질적인 돌파까지 10년 이상은 걸릴 것이라는 입장입니다.
"진짜 사람처럼 쓸 수 있으려면 정말 많은 부분, 특히 지속적 학습, 멀티모달 처리 등 아직 먼 길이 남았습니다."
이와 같은 맥락에서 주류 AI 예측들이 실제보다 과도하게 빠른 변화를 이야기한다는 점을 비판합니다. 과거 AI의 중대한 전환점(예: 알렉스넷, 강화학습의 등장, 대형 LLM의 부상)은 돌이켜보면 모두 예상보다 더 길고 우여곡절이 많았다고 강조합니다.
2. 인간·동물·AGI: 우리는 동물을 만드는 게 아니라 유령을 부른다
AI는 인간의 학습과 동물의 진화에서 무엇을 본받아야 할까? 이 질문에 대해 Karpathy는 진화(evolution)와 인공지능 사이의 깊은 차이를 짚습니다.
"동물(특히 인간)의 지능은 엄청난 진화를 거친 하드웨어 위에 얹혀있는데, 우리는 그 방식을 직접 구현하는 게 아니라, 데이터(인터넷)를 통한 인간 모방으로 '영(ghost, spirit)'을 만들고 있습니다."
AI가 인간처럼 세계를 직접 관찰하고 맨땅에서 지능을 '배워야 한다'는 주장은 그럴 듯해 보여도, 실제 AI 개발 방식은 본질적으로 다르다고 봅니다.
"우리는 동물을 만드는 게 아닙니다. 우리는 유령, 혹은 영을 불러냅니다. ... 우리는 진화로 뇌를 키우지 않고, 인터넷 문서를 모방하며 디지털적인 영(지능)을 만들어내죠."
이러한 '모방+압축'의 과정이 인간 진화의 효율적인 압축판이긴 하지만, 동물과 달리 내재적 하드웨어, 본능, 감정, 장기 기억 등은 구현하지 못한 미완성의 인공적 존재임을 인정합니다. 앞으로 AI가 더 동물적으로 되어야 할 부분도 있다고 시사합니다.
3. LLM과 인간의 지능: 기억, 추론, 학습의 한계와 도전
Karpathy는 LLM이 가지는 인지적 한계와 인간 두뇌의 '가장 복잡한 부분'이 무엇인지를 쉽게 설명합니다.
- 거대한 LLM(예: GPT-5 Pro)은 엄청난 양의 사실을 압축 저장하지만, 인간처럼 추상화하거나 즉석에서 적응하는 능력은 부족함
- LLM의 '메모리'(weights)는 훈련 중 정보를 '희미하게' 간직하는데, 맥락 창(KV cache)에 주어진 정보만이 단기적으로 정확하게 사용됨
"신경망의 가중치에 있는 정보는 사실상 훈련 시 봤던 인터넷 컨텐츠의 희미한 기억이에요. 반면, 컨텍스트에 넣는 정보는 '작업 메모리'처럼 즉시 활용할 수 있죠."
LLM이 인간 수준의 지속적·유연한 학습, 능동적 반성, 다양성을 갖추려면 아직 여러 두뇌 부위와 '기술적 트릭'을 구현해야 하며, 특히 '휴면기(수면·꿈)'나 '자기 주도적 반추/내성' 등도 전무하다고 지적합니다.
- 기억보다 추상화, "패턴을 보고 본질을 잡아내는 것"이 인간은 더 뛰어나며, LLM은 과도한 기억력 때문에 오히려 깊은 사고에 방해를 받는다는 것도 흥미로운 관찰입니다.
"인간이 기억력이 오히려 약해서, 일반화 능력이 더 좋아지는 셈이죠. 너무 외우는 게 많은 LLM은 오히려 진짜 사고를 방해받기도 해요."
이처럼, '코어 인지(cognitive core)'의 순수성을 강조하면서, 추후 소형화되는 모델의 전망, 더 나은 데이터셋 설계, 메모리/지식과 추론 회로 분리 등이 차세대 AI의 핵심 이슈로 부상할 것임을 예고합니다.
4. 강화학습(RL) 비판 및 '반성적 학습'의 필요성
Karpathy는 강화학습(RL)을 "끔찍하다"고 비판합니다.
"강화학습은 실제로는 엉망이에요. 우리가 가진 다른 방법들이 더 나쁘긴 하지만, RL은 최적도 아니에요."
인간이 문제 해결 과정에서 자기 반성적, 분석적 방법으로 배움을 얻는 반면, RL은 결과 하나에 지나치게 많은 과정을 동일하게 보상·벌점하며, 그 과정의 다양성, 실패로부터 배우는 복잡함을 전혀 반영하지 못한다고 설명합니다.
"수많은 시도를 하고 마지막 보상 하나로 전 과정을 학습시키는 건, 마치 '빨대로 보상을 빠는 것' 같아요. 인간의 학습은 훨씬 더 체계적이고, 과정 자체를 돌아보며 배웁니다."
실질적으로 인간의 지능에서 중요한 것은 과정 기반의 피드백, 내성, 자기 반성이며, 이는 아직 LLM의 학습 프레임워크에 거의 실현되지 않았다고 강조합니다. 물론 최근에는 '리플렉션 & 리뷰', '프로세스 슈퍼비전', '자기 문제 생성', 'LLM 판정자' 등 여러 새로운 시도가 실험되고 있지만, 완전 자동화로 일반화되기까진 갈 길이 멀다고 평가합니다.
5. AI, 사회, 경제: AGI와 자동화가 세상을 바꾸는 방식
5.1 AGI/ASI는 단절적 폭발이 아니라 서서히 사회에 녹아든다
Karpathy는 AI가 가져올 경제적, 사회적 변화에 대해 '세상을 하루아침에 바꾸는 단절'이 아니라 기존 자동화의 연속선상에서 일어난다고 강조합니다.
"인공지능이 특별히 급진적인 변화를 촉발하는 것이 아니라, 그저 기존 컴퓨팅과 자동화가 진보해온 맥락의 '연장선'일 뿐이에요."
예로,
- 산업혁명, 컴퓨터, 인터넷, 스마트폰 모두 엄청난 혁신이었지만, GDP 성장률에는 일관된 2%가량의 기울기로 녹아들었을 뿐입니다.
- AI가 실제 노동(특히 지식노동)을 상당 부분 대체할 수 있게 되더라도, 사회와 산업 전반이 느리게, 점진적으로 구조조정을 거치면서 변할 것이라 예측합니다.
"AI도, 자율주행도, 자동화된 코딩도, 결국 기존 노동력과 도구가 점진적으로 대체되는 과정입니다. 단일한 '신의 상자'가 한순간에 사회 전체를 초월해 장악하는 전환점은 오지 않을 겁니다."
5.2 자율주행의 교훈: 실리콘밸리식 과장과 '마지막 1%'의 현실
자율주행차 개발에서 Karpathy가 직접 경험한 중요한 교훈은, '데모는 쉽고, 제품화는 어렵다'라는 점입니다.
- 실제로 실생활에 적용되는 완전한 자율주행까지는, "90% → 99% → 99.9% ...", 소위 '9의 행진'이라는 긴 반복적 개선의 벽이 있습니다.
- 아주 높은 수준의 안전성·신뢰성이 요구되는 영역은, AI가 '실제 사람 대체'가 가능하려면 상상 이상의 시간이 소요될 수밖에 없음을 자각하게 됐다고 밝힙니다.
"데모는 전혀 신뢰하지 않아요. 현실에 적용 가능한 수준까지 가려면, 각 단계별로 똑같은 양의 추가 노력이 반복적으로 소모되어야 하거든요. 지금도 자율주행은 완성되지 않았습니다."
5.3 AI 도구의 실제 가치와 자동화의 속도 문제
현실화된 AI 서비스(코딩 보조 등)는, 생산성 향상에는 기여하지만, 대체/자동화의 속도가 당초 기대보다 훨씬 느릴 수 있다고 경고합니다. 실제 AI 도입 후 인력 감축 대신 오히려 '재고용' 사례도 많다고 언급합니다.
6. 미래 교육: 인간을 위한 튜터와 학습 혁명
Karpathy는 자신의 문제의식이 인류가 AI/AGI 시대에 어떻게 스스로를 '강화'할 것인가, 즉 교육에 있다고 말합니다.
"제가 가장 두려워하는 미래는, 영화 WALL-E나 Idiocracy처럼 인간이 AI 옆에서 무력하게 변두리로 밀려나는 것입니다. 전 인간이 주체적으로 강해지기를 바랍니다."
6.1 AI 튜터의 한계와 진짜 교육
그는 최근 한국어 공부 경험을 계기로 '정말 좋은 인간 튜터야말로 최고의 학습 경험'임을 깨달았다고 합니다.
"뛰어난 튜터는 대화를 몇 번만 해봐도 내 수준, 약점, 필요한 도전 과제 전부를 간파해서 정확하게 제공하죠. 하지만 지금의 LLM이나 AI로는 엄두도 못 낼 수준입니다."
이런 맥락에서, AI 중심 교육 혁신을 꿈꾸지만, 현 수준에서 진짜 'AI 튜터'는 불가능하다는 현실적 태도를 견지합니다.
6.2 Eureka 프로젝트: 기술적 램프, 유레카를 위한 설계
그가 진행 중인 'Eureka'는 인간이 지식의 경사로(ramp)를 손쉽게 오를 수 있도록 '매우 체계적이고 정제된 교육용 자료'(예: nanochat, LLM101N) 개발에 집중하는 프로젝트입니다. 이를 위해 인간+AI 협업, 최고 전문가(교수진) 영입 등도 추진 중이며, 단계적으로 물리적/디지털 혼합 교육으로 확대할 계획이 있습니다.
- 최고의 교육이란?
- 작은 단위부터 차근차근, '이전 단계를 아는 것만으로도 다음 지식을 쉽게 오를 수 있는' 지식 사다리 설계
- 마치 개인 피트니스 코치(체력 단련소처럼), AI와 인간이 함께 지속적으로 진도와 난이도를 조절, 맞춤 학습 환경 제공
"진짜 교육의 목표는, 학생이 결코 막히지 않고, 매 순간 적절하게 도전받고, 유레카 순간을 자주 경험하도록 문제를 설계하는 것입니다."
- AI/AGI 이후의 교육?
- 취업, 실질적 생산성이란 동기가 사라진 뒤에도 인간은 자기 계발, 재미, 자존감 등 진화적 동기로 학습을 추구할 것
- "포스트 AGI 시대의 교육은 '필요'가 아니라 '즐거움', '자아실현' 목적이 더 커질 것이다. 마치 헬스장이 신체를 단련하듯, 학교가 지적 능력 단련의 장이 될 것"
7. 교육/학습과 지식의 본질: Karpathy의 가르침 노하우
Karpathy가 훌륭한 교육 콘텐츠를 설계할 때 중시하는 원칙은 다음과 같습니다.
- '최소단위' 핵심 개념을 가장 간단하게, 이어서 복잡성을 추가
예: micrograd(거대한 신경망 학습법을 100줄의 직관적 코드로 축약), transformer 강좌의 bigram 예시 활용 - 학생에게 먼저 '고뇌할 여유'와 '문제공간'을 준 뒤 해법 제시
- 본질을 파악하여, 흩어진 개념들이 논리적으로 순차적으로 이어지도록 지식 사다리(ramp)를 구축
"교육은 혼란한 지식의 덩어리를 한 줄의 ramp로 쭉 펴주는 일입니다. ... 학생에게 답을 한 번에 주지 말고, 스스로 고민해볼 여유를 주세요."
"물리학적 사고훈련은 모든 분야 문제해결에 유리합니다. 실제로 '구'로 소(farm cow)를 근사하는 농담처럼, 첫 번째 근사값 찾기·추상화가 매우 강력하죠."
전문가가 오히려 설명을 못 하는 이유도 '지식 저주의 저주(curse of knowledge)'에 있다고 보고, 초심자의 질문 모으기, 일상적 대화체 풀이, 강의 후 ChatGPT 초보자 질문 대화 참조 등을 실습·추천합니다.
8. 학습법·동기·교육의 미래에 대한 조언
- 필요할 때 깊이 파는(on-demand, depth-wise learning) 학습과 예방적(폭넓은, breadth-wise) 학습의 균형
- 새로운 지식을 남에게 설명해보는 것이 최고의 자기 점검법임을 강조
"남에게 설명해 보려다가, 내가 뭘 모르는지 정확히 알 수 있거든요. 이 순간이 진짜 배움이 일어나는 지점이에요."
학습 동기 부여, 어려움을 극복할 수 있는 기술적 환경(튜터, 램프, 온디맨드 피드백 등) 구축이, 향후 교육 혁신의 열쇠이자, AGI 시대 인간의 자기강화 전략임을 거듭 강조합니다.
마무리
이 인터뷰는 AI의 환상적 미래와 현실의 간극을 균형 있게 짚으면서, Karpathy 특유의 '현장 노동자'적 직감과 성찰, 그리고 인간·사회·교육에 대한 애정을 느낄 수 있습니다.
그는 AI의 진정한 변혁은 점진적으로, 인간의 강점과 연대 속에서 일어난다는 현실주의를 견지하면서도, 교육·학습·자기계발을 통한 인간 강화야말로 AGI 시대의 진짜 도전이자 기회임을 설득력 있게 제시합니다.
인상적인 대사 중 하나로 마무리합니다.
"결국 중요한 것은, 우리가 올바른 길 위에, 함께 걷고 있다는 것입니다. 답은 한 순간의 폭발이 아니라, 꾸준한 진보와 인간다움에 있습니다." 🌱🤖✏️