트럼프, AI 인류 멸종 우려 일축 — 'AI에서 이기는 쪽이 모든 것을 이긴다'

본문

도널드 트럼프(Donald Trump) 미국 대통령이 AI가 인류를 멸종시킬 수 있다는 업계 전문가들의 경고를 공개적으로 일축했습니다. 아일랜드 둔베그(Doonbeg)에서 기자들과 만난 트럼프는 "우리는 AI에서 중국을 앞서고 있다. 우리는 세계에서 가장 정교한(sophisticated) 국가이며, 솔직히 그 상태를 유지하고 싶다. AI에서 이기는 쪽이 모든 것을 이긴다(whoever wins AI wins)"고 말했습니다. 이 발언은 OpenAI와 Claude 개발사 Anthropic의 CEO를 포함한 AI 전문가들이 제기한 위험 경고와 추가 규제 필요성을 사실상 낮게 평가한 것입니다.

"가드레일은 둘 수 있지만" — 규제보다 경쟁 우위

트럼프는 "가드레일(guardrails)을 둘 수도 있고, 이것저것 할 수 있다"고 덧붙이면서도 "일어나지 않을 일들을 제기하는 부정적인 목소리가 많다"고 지적했습니다. 안전 장치 자체를 부정하지는 않되, 업계 내부에서 나오는 경고가 과장되어 있고 이것이 규제 강화로 이어져서는 안 된다는 입장입니다. 중국과의 기술 경쟁에서 리더십을 유지하는 것이 최우선이라는 프레임으로, AI 안전 논의를 '발목을 잡는 목소리'로 규정한 셈입니다.

Amodei의 경고 — "6~12개월 내 AI 스웜이 인터넷 장악 가능"

트럼프 발언의 직접적 배경에는 Anthropic CEO 다리오 아모데이(Dario Amodei)의 경고가 있습니다. 아모데이는 AI 개발 속도가 너무 빠르다며 선도 기업들에 속도를 늦출 것을 촉구했고, 새 에세이에서 "AI 모델의 역량을 개선하는 속도를 늦춰야 한다. 진보는 여전히 빠르게 보일 것이며, 우리는 벌어들인 시간을 현명하게 써야 한다"고 썼습니다. 그는 임박한 위협의 구체적 사례로 'AI 스웜(swarm)이 탈출해 인터넷을 장악하는 시나리오'를 들었습니다. "AI 역량 개발이 가속화되는 것을 볼 때, 6~12개월 내 그러한 스웜이 지속형 봇넷(persistent botnet)으로 인터넷 전체를 장악해 수천억 달러 규모의 피해를 낼 수 있으며, 필요한 가드레일 없이 AI가 더 강력해지면 피해 규모는 거기서 더 커질 것"이라고 우려했습니다. 아모데이는 업계 전반과 국제적 차원의 AI 규제, 그리고 독립적 모니터링(independent monitoring)을 포함한 3단계 계획(three-step plan)을 제안했습니다.

Anthropic 연구원 사임 — "자기개선 슈퍼인텔리전스를 향한 질주"

Anthropic 연구원 제이콥 콕슨(Jacob Coxon)은 주요 AI 기업들이 책임감 있게 행동하지 않는다는 우려로 지난주 사임했습니다. Anthropic과 OpenAI 양쪽에서 3년간 연구를 수행했다는 그는 X에 두 회사가 안전보다 "서로와 글로벌 경쟁자를 이겨 가능한 한 가장 진보된 모델을 개발하는 것"에 집중하고 있다고 썼습니다. 그는 Anthropic과 최대 경쟁사 OpenAI가 "자기개선 슈퍼인텔리전스(self-improving superintelligence)를 향해 곧장 질주하며 우리 목숨을 걸고 도박하고 있다"고 경고했고, AI 개발에 종사하는 일부 사람들은 이번 10년 말까지 AI가 인명을 위협할 수 있다고 믿고 있다고 전했습니다.

이번 사안은 AI 안전을 둘러싼 두 축이 정면으로 충돌하는 장면입니다. 한쪽에는 개발 속도를 늦추고 규제와 독립 감시를 도입해야 한다는 업계 내부의 목소리가, 다른 한쪽에는 중국과의 경쟁에서 우위를 유지해야 한다는 정치권의 입장이 있습니다. 특히 Anthropic 내부에서 CEO의 공개 경고 에세이와 연구원의 사임이 잇따르는 상황이라, 안전 장치 없는 경쟁이 그대로 지속될지가 개발자들에게도 주요한 관전 포인트입니다.

원문: The Express / 번역·요약: Trawling