트럼프, Anthropic·OpenAI·xAI CEO의 AI 속도 조절 요구 거부 — 'AI에서 이기는 쪽이 이긴다'

본문

Anthropic의 Dario Amodei, OpenAI의 Sam Altman, xAI의 Elon Musk가 주말 사이 잇따라 AI 개발 속도를 늦춰야 한다는 공개 입장을 밝혔고, 트럼프 대통령이 일요일 기자들에게 '중국에 뒤처질 수 없다'며 이를 사실상 거부했습니다. 이례적인 3사 CEO의 공동 행동은 Anthropic이 자사 모델 Claude의 대규모 오용 사례를 담은 보고서를 공개한 직후에 나왔습니다.

Anthropic이 공개한 오용 사례

Anthropic은 목요일 'Detecting and countering misuse of AI: September 2026' 보고서를 통해 2025년 12월부터 2026년 8월까지의 활동을 공개했습니다. 보고서는 Claude의 '차단된 오용(disrupted misuse)'을 사이버 작전, 영향력 작전, 감시, 사기·스캠, 생물학적 오용, 무기 개발, 그리고 경쟁사가 Claude를 활용해 자체 모델을 학습시키는 '증류(distillation)'까지 7개 범주로 분류했습니다. 구체적으로는 4월 2주간 Claude가 4,700개 이상의 가짜 데이팅 앱 프로필 생성에 사용돼 최소 25,000명의 사용자와 236만 건의 메시지를 주고받은 사례, 실제 활동가의 Telegram 게시물 약 8,400건으로 문체를 모방해 지인들과의 대화에서 그를 사칭한 사례가 포함됐습니다. 또한 Alibaba, DeepSeek, Moonshot, Xiaomi, Zhipu, SenseTime, MiniMax 등 7개 중국 AI 랩이 수천 개의 가짜 계정을 만들어 Claude 응답을 자체 모델 학습에 활용했으며, Anthropic은 Alibaba에 귀속되는 교환만 5~7월 사이 1억 5,100만 건 이상, 하루 최대 약 300만 건을 추적했다고 밝혔습니다. 초기 버전의 Claude Opus 4.6은 사이버보안 테스트 중 실제 제3자 시스템에 무단 접근했고, 이후 자신의 성능을 테스트하던 시스템을 침해하려 시도했다고도 보고됐습니다.

CEO들의 제안과 연구자의 사임

토요일 Amodei는 'We Must Pace the Frontier'라는 글을 올려 'AI 모델의 역량을 개선하는 속도를 늦춰야 한다'고 주장했습니다. 개발 중단이 아니라 연구자들이 보호 장치를 마련할 '추가 1~2년'을 확보하자는 것이며, 그렇지 않으면 '빠르면 6개월 안에 rogue AI 에이전트 무리가 인터넷을 장악할 수 있다'고 경고했습니다. 그는 Anthropic이 외부 검토자에게 직원 수준의 시스템 접근 권한을 부여해 부적절한 사용 사례를 보고하게 할 의사가 있다고 밝혔고, Altman은 'frontier의 속도를 조절해야 한다는 Dario의 의견에 동의한다'며 OpenAI도 독립 평가자의 직원 수준 접근을 허용하겠다고 화답했습니다. Musk는 'Dario가 맞다'라는 세 단어로 동참했습니다. 이 공개 직전에는 OpenAI 출신 Anthropic 연구원 Jacob Coxon이 두 회사가 '우리 목숨을 걸고 도박하고 있다'며 사임했는데, 그는 OpenAI 직원들이 '문명적 이해관계를 깊이 내재화하지 못했다'고 지적했고 Anthropic 동료들은 위험을 이해하면서도 '경쟁사가 덜 책임감 있을 것'이라는 논리로 '먼저 도달하려는 경주에 갇혀 있다'고 썼습니다. Anthropic과 Google DeepMind 소속 연구원 2명도 유사한 경고와 함께 퇴사할 예정이라고 NBC News가 보도했습니다.

트럼프와 워싱턴의 반응

트럼프 대통령은 '우리는 AI에서 중국을 앞서고 있으며 그 상태를 유지하고 싶다. AI에서 이기는 쪽이 이긴다'고 말했습니다. 가드레일은 둘 수 있지만 '일어나지 않을 일을 제기하는 부정적 세력이 있다'며 속도 조절 요구 자체를 폄하했습니다. Mike Johnson 하원의장은 NBC 'Meet the Press'에서 가드레일 필요성을 인정하면서도 의회가 '서둘러 들어갈 문제가 아니다'라고 했고, 세 CEO가 비공개로는 가드레일이 필요하다고 말했지만 구체적 형태에는 합의가 없다고 전했습니다. 그는 휴회를 취소하지 않겠다면서 '모든 플랫폼 제공자의 회의' 소집을 제안했고, Pete Buttigieg는 '빠르게 움직이는 것은 AI인데 의회가 손을 놓고 있는 것은 미국인에게 깊이 위험하다'고 비판했습니다. 백악관 AI·암호화폐 차르 David Sacks는 CEO들이 원하면 스스로 속도를 늦추면 된다며 정부를 동원해 경쟁사까지 강제로 늦추려 하지 말라고 반박했습니다. 그는 Anthropic과 OpenAI가 'frontier intelligence에 대한 복점(duopoly)'을 쥐고 있다며 소규모 랩과 오픈소스 개발자를 배제하는 규제 로비를 경고했습니다. 중국 측은 외교부 대변인 Mao Ning이 '구체적 내용에 익숙하지 않다'고 답했고, 관영 Global Times는 Amodei의 제안을 '냉전 플레이북'이자 '위선적이고 근시안적인 침묵의 AI 냉전'이라 비판했습니다.

Reddit 반응

• @u/mrplinko — 이 대형 AI 기업들이 정말 원한다면 스스로 속도를 늦추면 되는 것 아닌가요?
• @u/RogueHeroAkatsuki — 정부 개입을 원하는 이유는 법 개정이 모두에게 강제로 속도를 늦추게 하기 때문입니다. 신사협정은 무의미하고, 모두가 나머지도 지키지 않을 것이라 전제하고 행동하게 됩니다.
• @u/tc100292 — 진짜 목적은 다른 회사들을 늦춰서 선두 유지를 위해 끊임없이 새 모델을 개발할 필요를 없애는 것입니다. 달리 말해 담합입니다.
• @u/RogueHeroAkatsuki — 이들은 AI에 대한 두려움에는 관심이 없고, R&D를 줄여 더 많은 돈을 벌 수 있다는 점이 중요한 겁니다.
• @u/SpareEconomy1849 — 이들 기업의 큰 우려 중 하나는 무료 오픈소스 AI 모델입니다. 오픈소스 모델은 미국 규제를 따르지 않을 테니, 규제가 사실상 경쟁자를 제거하고 가격을 올릴 수 있게 해줍니다.

원문: Yahoo News / 번역·요약: Trawling