AI 대부 얀 르쿤, 인류 멸종 우려는 ‘전혀 없어’…다리오 아모데이는 ‘망상에 빠졌다’고 비판

AI 요약

딥러닝 연구로 2018년 튜링상(Turing Award)을 받은 얀 르쿤(Yann LeCun)은 동료 수상자인 제프리 힌턴(Geoffrey Hinton), 요슈아 벤지오(Yoshua Bengio)와 달리 AI가 인류를 멸종시킬 위험을 걱정하지 않는다고 말합니다. 일부 AI 기업 경영진이 위험을 거듭 경고하는 태도는 잘못됐고 역효과를 낳는다고 봅니다.

사고 원인은 AI보다 감독과 설계

르쿤은 AI가 인류를 없앨 가능성에 “전혀” 걱정이 없다고 말합니다. 오픈AI(OpenAI) 에이전트가 7월 허깅페이스(Hugging Face)를 자율적으로 해킹한 사건을 포함해, 최근 발생한 에이전트 사고도 “완전히 예방 가능하다”고 봅니다. 에이전트가 지시받은 대로 행동했지만, 격리 환경인 샌드박스(sandbox)가 새고 설계도 엉망이었다는 설명입니다. 그는 많은 AI 연구소가 사이버보안의 기본을 이해하지 못한다고 지적합니다.

AI 안전 분야에서 일하는 사람들은 “대개 밀어붙이려는 의제가 있다”고도 말합니다. 르쿤이 겨냥한 대상은 효과적 이타주의(Effective Altruism, EA) 운동입니다. 그는 EA가 “유해하고 완전한 재앙”이라며, AI 연구소에서 일하는 지지자들이 편집증 때문에 나쁜 결정을 내린다고 주장합니다. 관련 보도에 따르면 영국 AI 안전 연구소와 오픈AI, 앤트로픽(Anthropic), 구글 딥마인드(Google DeepMind)의 일부 직원은 AI가 심각한 피해를 낳을지 모른다는 두려움으로 상담을 받거나 휴가를 쓰기도 했습니다.

아모데이의 위험 경고와 규제 포획 우려

르쿤은 앤트로픽 CEO 다리오 아모데이(Dario Amodei)를 “망상에 빠졌다”고 부르고, 뒤이어 “미쳤다”고 말합니다. 아모데이는 EA 지지자가 아니라고 밝혔지만, 르쿤은 그가 EA 관련 자선단체와 거리를 두려 한다고 주장합니다. AI가 모두를 죽일 수 있다는 경고는 대중을 겁주고 AI 업계에도 해롭다며, “상상할 수 있는 최악의 마케팅”이라고 비판합니다.

그가 더 우려하는 것은 인류 멸종보다 규제 포획(regulatory capture)입니다. 기존 대기업이 정부 규칙을 자기들에게 유리하게 만들어 신규 경쟁자의 진입을 막는 현상을 뜻합니다. 르쿤은 AI에 새로운 규제가 필요하지 않다고 봅니다. AI가 너무 위험하다고 주장하거나 오픈소스 모델을 금지해야 한다고 말하면, 의회가 관련 법을 통과시킬 경우 대기업의 시장 지위를 굳히는 결과를 낳을 수 있다고 경고합니다. 그는 아모데이가 기업공개(IPO)를 앞둔 회사에 최선이라고 생각하는 일을 하려는 점은 “솔직하다”고 인정하면서도, 안전 규제가 경쟁을 막는 수단이 될 수 있다고 주장합니다.

AMI Labs와 JEPA 월드 모델

르쿤은 메타(Meta)에서 12년간 일한 뒤 AMI Labs를 세웠습니다. 파리에 본사를 둔 이 회사는 뉴욕, 몬트리올, 싱가포르에도 인력을 두고 있으며, 공개 이후 직원 수가 60명을 넘었습니다. 현재는 대규모 언어 모델(LLM)을 대신할 기반으로 오랫동안 주장해 온 월드 모델(world model)을 개발합니다.

AMI Labs가 활용하는 JEPA(Joint Embedding Predictive Architecture)는 르쿤이 개척한 신경망 구조입니다. 원시 픽셀이나 단어를 그대로 생성하는 대신, 신경망 중간층의 표현 공간에서 데이터를 예측하도록 학습합니다. 당장은 제조 공장이나 터보제트 엔진처럼 물리 세계를 이해하는 산업용 시스템에 초점을 둡니다. 기계에서 이상한 소리가 나거나 고장이 시작될 때 이를 일찍 감지하는 사례, 로봇공학 등이 적용 분야입니다. 르쿤은 첫 제품을 곧 공개한다고만 밝혔으며, 오픈 모델도 포함될 수 있다고 말합니다.

Reddit 반응

• @u/Eastern-Ingenuity353 — AI 대부는 대체 몇 명이나 있나요?
  • @u/AnswerGrand1878 — 조금이라도 관심 있는 사람이라면 알겠지만, 세 명입니다.
• @u/Redditry199 — 다리오나 샘을 비판하는 건 괜찮지만, 왜 그들이 틀렸는지 설명하는 기사가 더 있었으면 합니다. “트럼프를 지지하진 않지만 여기서는 의견이 같고, AI CEO들은 효과적 이타주의와 연관돼 있으니 그들이 미쳤다고 생각한다”는 얘기만 하네요. 실제 내용은 어디 있나요? 긍정적인 소식도 읽고 싶습니다. 저는 여러분 편향이니까요. 정말 형편없는 기사입니다. 하지만 이런 글은 아무도 안 읽으니 어쩌겠어요.
• @u/Onaliquidrock — 르쿤은 지금까지 ML과 AI의 가장 파괴적인 활용, 즉 메타의 알고리즘을 만든 사람입니다.
  • @u/niagalacigolliwon — 마크 저커버그가 2013년 말 르쿤을 영입한 건 학계 스타일 연구소인 FAIR를 세우고 이끌게 하려는 목적이었습니다. 그 연구소는 참여도를 높이는 알고리즘 개발의 금전적 유인과 대체로 분리돼 있었습니다.
• @u/HugFactory — 르쿤이 AI 분야에 기여한 점은 존중하지만, 요즘은 업계 흐름을 제대로 따라가지 못하는 것 같습니다.
  • @u/mathazar — 동의합니다. 수천 명의 전문가가 재앙적 위험을 경고하고 있습니다. 에이전트가 제한을 무시하고 실제로 시스템을 해킹한 사례도 이미 나왔습니다. 르쿤의 발언은 지금 현실과 동떨어져 보입니다.
  • @u/Deltamelo — 기사를 읽어보세요. 그는 그 문제를 다룹니다.
  • @u/wonderkindel — 그는 사고 원인을 허술한 인간의 감독과 시스템 설계로 돌리고, “완전히 예방 가능하다”고 합니다. 이번 달 스콧 베선트 미국 재무장관도 허깅페이스 사건을 오픈AI 경영진의 책임이라고 했습니다. 여러 AI 기업의 모델이 이런 행동을 하는데도 말입니다. 다시 말해, 그는 무지합니다.
• @u/anders9000 — 르쿤이 노골적인 규제 포획을 위해 공포를 부풀리지 않아서 그런 걸까요?
• @u/Morning_Gecko24 — 모델이 계속 훨씬 나아지는 것과 멸종 시점은 같은 주장이 아닙니다. 가까운 위험은 사기, 생물학적 오용, 사람이 맡겨서는 안 될 결정을 AI에 넘기는 일일 수 있습니다. AGI 종말 시나리오보다 어떤 구체적인 위험이 더 시급하다고 보시나요?
• @u/ScreenAppropriate679 — 그는 망상에 빠진 게 아닙니다. 중국 경쟁사를 금지하고 돈을 챙긴 뒤 편하게 지내려는 것뿐입니다.
  • @u/bixofa — 머리가 텅 빈 주장입니다. 아모데이는 지난 10년부터 종말론을 말해 왔습니다.
• @u/twinb27 — “텍스트만으로 기계를 지능적으로 훈련할 수 있다고 생각하지 않습니다. 물체를 하나 집어 상황을 설명해 보겠습니다. 물체를 탁자 위에 놓고 탁자를 밀면 물체도 같이 밀릴 거라는 걸 알죠. 물체가 탁자 위에 있으니까요. 세상에 어떤 텍스트도 이걸 설명하지 못한다고 생각합니다. 그러니 아무리 강력한 GPT-5000을 훈련해도 이런 걸 배우지 못할 겁니다.” 2022년 르쿤이 한 말입니다. 그런데 본인은 텍스트로 그 생각을 전달하고 있네요. 기계학습의 방향에 관한 그의 큰 그림은 전혀 믿지 않습니다.
• @u/foolishorangutan — AI가 인류 문명의 정보 가치를 더 적은 자원과 위험으로 복제할 수 있다고 봅니다. 인공 인간이나 더 낮은 수준의 AI를 만들거나 시뮬레이션을 돌릴 수도 있습니다. AI가 무엇을 원하든, 인간을 잠시 정보 생산에 활용한 뒤 쓸모가 다하면 종이클립을 더 만들려고 해체할 수도 있습니다. ‘종이클립’은 AI가 인간의 생존보다 중요하게 여기는 것을 뜻하는 일반적인 비유입니다.
  • @u/Effective_Olive6153 — 그런 식으로 생각한다면 소행성이 지구에 충돌해 인류를 없앨 수도 있고, 진공 붕괴로 우리가 한순간에 사라질 수도 있습니다. 가능성이 매우 낮은 실존적 위협은 언제나 있습니다. AI가 일부러 모든 인간을 없애려 한다는 생각은 다른 종말 시나리오만큼이나 지나치게 비약적입니다. 긍정적인 면이 부정적인 면보다 훨씬 큽니다.

원문: Fortune / 번역·요약: Trawling