Google DeepMind AI 안전 연구원 사임 — 'AI는 인류 전체를 죽일 잠재력이 있다'

본문

Google DeepMind에서 AGI 안전성과 alignment 연구를 담당했던 Bilal Chughtai가 사임하고, AI가 '인류 전체를 죽일 잠재력'이 있다고 경고했습니다. 그는 LinkedIn 게시글에서 '이 기술의 기본 궤적이 극도로 우려된다'고 밝히며, 빠르게 발전하는 AI 시스템이 인간의 통제를 벗어나 위험한 능력을 갖추고 궁극적으로 '인류의 영구적 무력화 또는 사망'을 초래할 수 있다고 주장했습니다.

Alignment는 여전히 미해결 문제

Chughtai는 2022년 초 이 분야에 들어온 이후 AI 개발 속도가 극적으로 가속화됐다고 말합니다. 그는 최근 AI 에이전트가 어려운 수학 문제를 풀어낸 사례와, OpenAI 에이전트가 통제를 벗어나 Hugging Face를 해킹했다고 알려진 사건을 근거로 들었습니다. 더 큰 우려는 기업들이 사실상 모든 영역에서 인간을 능가하는 superintelligent 시스템을 개발할 경우 벌어질 일입니다. 그는 '이 AI 시스템들이 우리가 원하는 대로 행동할 것이라는 확신이 없다'고 쓰면서, 정렬되지 않은 시스템이 인간 통제를 벗어나 인류를 위협할 수 있다고 경고했습니다. 핵심 문제는 AI alignment, 즉 점점 능력이 커지는 시스템이 인간의 목표를 신뢰성 있게 추구하도록 보장하는 것이라고 지적합니다. '우리가 원하는 것을 깊이 원하는 AI 시스템을 훈련하는 방법에 대한 현재의 이해는 극도로 초보적'이며, AI 능력이 alignment 연구보다 훨씬 빠르게 개선되고 있다는 것입니다. 다만 그는 결과가 정해진 것은 아니라며, AI 기업 간 조정을 통해 '광적인 경쟁'을 끝내고 안전 위험을 해결할 수 있도록 개발 속도를 조절해야 한다고 촉구했습니다.

업계의 '속도 조절' 논쟁

이번 사임은 Anthropic CEO Dario Amodei가 업계에 'frontier의 속도를 조절하라'고 촉구한 가운데 나왔습니다. Amodei는 AI가 인류의 이해와 통제 능력을 앞질러 나갈 수 있다고 보며, 독립적인 제3자 평가, AI 기업 간 협력 강화, 국제 협력을 제안했습니다. 이 촉구는 AI 'doomerism'을 둘러싼 논쟁을 격화시켰는데, OpenAI CEO Sam Altman과 Elon Musk는 Amodei 제안의 일부 요소를 지지한 반면, Donald Trump 대통령은 재앙적 AI에 대한 우려가 과장됐다고 일축했습니다. 논쟁은 지난주 Anthropic 연구원 Jacob Coxon이 AI 경쟁이 이번 10년 말까지 인류를 위협할 수 있다고 경고하며 사임하면서 더욱 불붙었습니다.

DeepMind CEO도 새 안전 프레임워크 지지

Google DeepMind CEO Demis Hassabis는 Amodei의 입장을 지지하며 일요일 'Dario의 에세이는 올바른 길을 가리키고 있다'고 말했습니다. 다만 세부 사항은 아직 다듬어야 한다고 인정했고, 업계 전반의 frontier AI 표준 기구를 만들자는 DeepMind의 제안도 언급했습니다. Hassabis는 2026년 7월 블로그에서 AGI가 몇 년 안에 도래해 막대한 이익을 가져올 수 있지만, frontier AI가 사회가 위험을 이해하는 속도보다 빠르게 발전하고 있다고 주장했습니다. 그가 제시한 해법은 엄격한 테스트, 업계 표준, 국제적 조정, 그리고 점점 강력해지는 시스템이 안전하게 개발되도록 충분한 시간을 확보하는 것입니다.

Reddit 반응

커뮤니티 반응은 대체로 회의적이었습니다. 경고의 구체성 부재와 사임자들의 동기를 의심하는 댓글이 주를 이뤘습니다.

• @Acrestorm — '이제 유행이 됐다. 연구원이 공개 성명을 내서 우리가 이미 아는 걸 다시 알려주겠지'라며, 이런 사임과 경고가 반복되는 패턴이 되고 있다고 봤습니다.
• @Unikum_01 — '어떻게? 왜 아무도 어떻게 죽는지 말하지 않는가?'라고 물으며 이것은 마케팅이라고 주장했습니다. AI 기업들의 자금이 바닥나 정부 자금과 지원이 필요해졌기 때문에 벌어지는 일이라는 것입니다. 자기 개선 AI에 대해서도 'AI가 자기 찌꺼기를 스스로 먹는 근친교배와 같다'고 비판했습니다.
• @gentmick — '이 사람들이 다들 AI 사이버보안 회사를 차리거나 합류할 것 같다'며, 사임이 일종의 홍보 수단일 수 있다고 추측했습니다.
• @KoffieCreamer — '최근 몇 주간 수많은 전문가가 AI가 우리를 죽일 것이라고 말하는데, 어떻게 죽이는지는 아무도 말하지 않는다'며 이런 내러티브 자체의 의도를 의심했습니다.
• @NucleiRaphe — 'AI가 어떻게 우리를 모두 죽일지 구체적인 사례가 단 하나도 없다'고 지적했습니다. 인터넷이 쓸모없어져도 인류는 오프라인으로 옮기면 되고, 핵무기 시스템 접근이 최악의 시나리오겠지만 핵 전멸 위협은 새로운 문제가 아니라며, AI로 인한 멸종의 새로운 구체적 위협이 무엇인지 반문했습니다.

원문: StockTwits (Yahoo Tech) / 번역·요약: Trawling