Andrej Karpathy says only 5,000 people have seen what AI can really do
안드레이 카르파시: AI의 실제 역량을 본 사람은 5,000명뿐입니다
안드레이 카르파시는 대부분의 사람이 챗봇 수준에서 AI를 접하지만, 일부 연구자와 개발자는 장시간 작업하는 에이전트의 역량을 경험한다고 말합니다. 에런 레비는 에이전트 군집이 기업 업무를 바꿀 가능성을 보면서도 비용, 신뢰성, 데이터 연결, 보안과 조직 변화가 도입의 걸림돌이라고 짚습니다.
- 주제
에디터 노트
이 글이 보여주는 격차는 모델 성능만의 차이가 아니라 접근 권한과 검증 가능한 작업 환경의 차이입니다. 카르파시가 든 AutoResearch 사례는 점수로 결과를 확인하며 반복하는 코딩 실험에서 에이전트의 이점을 설명하지만, 그 사례만으로 기업 업무 전반의 생산성을 판단할 수는 없습니다. 레비가 꼽은 비용과 데이터 연결, 보안, 조직 변화는 실제 배포에 필요한 조건으로 글에서도 구체적으로 제시됩니다. 댓글의 하루 500달러 운영비는 한 연구소 경험담이며, 보편적인 비용 자료는 아닙니다. 일자리 논쟁에서도 새 운영 역할이 생길 수 있다는 전망과 대체되는 일자리 수가 더 클 수 있다는 반론이 맞섭니다. 따라서 기사에 담긴 근거는 에이전트 군집의 가능성과 도입 장벽을 설명하지만, 비용 하락 속도나 고용의 순효과까지 입증하지는 않습니다.
AI 요약
안드레이 카르파시는 AI 활용 수준의 격차가 커지고 있다고 봅니다. 그가 대략적인 계산으로 제시한 규모는 LLM을 거의 써보지 않은 사람이 약 60억 명, 챗봇을 가끔 쓰는 사람이 10억~20억 명, 수학과 코딩에 최첨단 모델을 업무용으로 쓰는 사람이 약 2,000만 명입니다. 연구소 내부의 최첨단 시스템에 접근하는 사람은 약 5,000명이라고 추산합니다. 이 수치는 정밀한 집계가 아니라 카르파시가 제시한 어림값입니다.
챗봇을 넘어 에이전트 군집으로
Box CEO 에런 레비는 이런 격차가 AI 보급이 아직 초기라는 점을 보여준다고 말합니다. 많은 사람이 AI를 챗봇이나 검색 도구로 여기지만, 레비는 여러 에이전트가 복잡한 업무를 나눠 동시에 수행하는 에이전트 군집(agent swarm)을 업무용 에이전트의 최종 형태가 될 가능성이 있는 구조로 봅니다.
다만 실제 도입을 가로막는 조건도 제시합니다. 모델마다 업무 역량이 고르지 않고, 대규모 실행에는 비용이 많이 듭니다. 여러 에이전트를 관리하는 도구도 뒤따라오는 중이며, 대부분의 사람은 가장 강력한 모델에 접근하지 못합니다. 기업은 데이터 연결과 보안, 규정 준수도 해결해야 합니다. 소프트웨어와 AI 연구 외의 산업에 확산하려면 업무 방식과 조직을 바꾸는 작업도 필요하다고 레비는 전망합니다.
Box는 문서 중심의 기업 업무에 AI 자동화를 연결하는 Box Automate를 내놓았습니다. 레비는 모델 제공업체와 직접 경쟁하기보다, 특정 산업의 요구에 맞춘 응용 소프트웨어와 기반 시설에서 기회를 찾습니다.
검증 가능한 업무에서 드러나는 역량
카르파시는 일반 사용자와 개발자가 같은 기술의 서로 다른 면을 본다고 설명합니다. 그는 무료 음성 모드가 쉬운 질문에도 답을 틀릴 때가 있는 반면, 상위 Codex 모델은 한 시간 동안 코드베이스 전체를 재구성할 수 있다고 대비했습니다. 자신도 최근까지 직접 코드를 작성하고 자동완성을 가끔 쓰다가, 에이전트가 며칠에서 몇 주 걸릴 문제를 풀기 시작했다고 말했습니다. 개발자는 코드를 직접 쓰는 시간보다 에이전트를 지시하고 결과를 검토하는 데 더 많은 시간을 쓰는 '에이전트 기반 엔지니어링(agentic engineering)'으로 옮겨가고 있다는 설명입니다.
그가 보기에 역량 향상은 디지털 환경에서 결과를 검증할 수 있고 경제적 가치가 있는 분야에서 특히 빠릅니다. 코딩과 수학은 결과를 시험하고 개선을 측정하기 쉬워 강화학습에 적합합니다. 반면 글쓰기나 조언은 평가하기 어렵습니다. 카르파시는 짧은 답변을 요구하는 질문만으로는 시스템의 역량을 충분히 드러내기 어렵고, 에이전트가 몇 시간 동안 문제를 풀고 변경 사항을 시험하며 다시 시도할 때 차이가 나타난다고 말합니다.
그는 3월 AutoResearch 프로젝트에서 GPU 한 대로 밤사이 실험 50건을 진행한 사례도 들었습니다. 각 실험의 검증 점수로 변경의 효과를 판단해 더 나은 학습률을 찾고, 수정 내용을 Git에 커밋했습니다. 이처럼 결과를 측정할 수 있는 반복 작업에서는 에이전트가 다음 시도를 선택할 기준이 생깁니다.
Reddit 반응
- @u/TraditionalWait9150 — 억만장자나 대기업, AI 회사가 아니라면 에이전트 군집을 감당하며 배포할 수 있는 사람이 누구인지 묻습니다. 토큰 비용을 내야 하므로 온프레미스 추론과 오픈소스 최첨단 모델이 유일한 길이라고 봅니다.
- @u/fibonarco — 연구소에서 프로젝트당 하루 약 500달러를 들여 군집 시스템을 운영한다고 말합니다. 한 달 전 첫 버전은 하루 약 2,000달러가 들었고, 시스템 최적화와 모델 개선으로 비용이 낮아졌다고 덧붙입니다. 비용이 여전히 싸지는 않지만 소규모 기업도 감당할 수 있으며, 에이전트 운영과 효율화에 새 역할이 생길 것이라고 봅니다.
- @u/Dapper_Check711 — 에이전트 운영에 2~4명이 필요하다고 해도 군집이 AI 도입 전 100~200개의 일자리를 대체한다면 전체 고용은 줄어드는 것 아니냐고 반문합니다.
- @u/fibonarco — 그 계산이 맞을 수 있고 전환기는 고통스러울 것이라고 답합니다. 다만 AI로 소수 인력이 더 많은 일을 해내는 팀이 생기고, 대형 계약의 일정과 품질 보증 같은 요구를 처리할 새 역할도 필요해질 수 있다고 예상합니다. 모든 산업에서 그 역할이 어떻게 나타날지는 아직 모르겠다고 덧붙입니다.
- @u/duerra — 현재 격차는 대체로 맞지만, 최첨단 기술을 경험한 5,000명과 나머지 사람들 사이의 간격은 더 벌어질 것이라고 봅니다.
- @u/adbalc — 그렇다면 강력한 도구를 소수만 쥐게 되고 부의 격차도 커지는 것이냐고 묻습니다.
- @u/immersive-matthew — AI 역량의 확산뿐 아니라 디지털 콘텐츠의 복제와 무료 배포도 봐야 한다고 주장합니다. 게임 역컴파일 사례를 들며, 이용자가 유료 신작 대신 무료이거나 저렴한 콘텐츠를 선택하면 게임 개발사와 AI 업계의 수익 모델에도 타격을 줄 수 있다고 봅니다.
- @u/TenshiS — 소프트웨어의 가치는 코드만으로 정해지지 않는다고 반박합니다. 라이선스와 캐릭터·이야기 권리, 배포 능력, 소프트웨어에 담긴 업무 지식도 가치의 원천이라고 말합니다.
- @u/Soft_bich_z — 호텔의 제빙기가 어디 있는지 AI에 물었더니 잘못된 위치를 자신 있게 답했다고 말합니다.
- @u/TheWyzim — AI가 모르는 사실을 모른다고 말하고 자신 있게 지어내지 않는 것도 중요하다고 지적합니다.
- @u/k8s-problem-solved — 성능은 도구와 통합에 달렸다고 봅니다. 모델에 강한 권한을 주고 실제 시스템을 조작하게 하면 인상적으로 보일 수 있지만, 통합을 끊으면 모델이 아무리 강력해도 달라지는 것이 없다고 말합니다.
원문: The New Stack / 번역·요약: Trawling