Reddit

Mark Zuckerberg rejects calls for industrywide AI slowdown

저커버그, 업계 차원의 AI 개발 속도 조절 요구에 반대

마크 저커버그는 AI 개발을 업계가 함께 늦추기보다 각 기업이 위험을 감지했을 때 자체적으로 속도를 조절해야 한다고 말합니다. Meta의 AI 에이전트 Muse와 감독 에이전트 Sentinel을 소개하며 사용자 의도 파악과 정보 보호를 우선 과제로 들었습니다.

AI 요약

마크 저커버그(Mark Zuckerberg)는 AI 기업들이 개발 속도를 함께 늦추자는 요구에 반대합니다. 각 연구소가 자체적으로 위험을 살피고, 문제가 보이면 내부 판단으로 개발을 멈추거나 늦추면 된다는 입장입니다. 이는 Anthropic의 다리오 아모데이(Dario Amodei)와 OpenAI의 샘 올트먼(Sam Altman)이 주장한 업계 차원의 공조와 다릅니다.

업계 공조 대신 기업별 판단

저커버그는 업계 전체가 개발 속도를 조율할 필요는 없다고 말합니다. 기업마다 안전 문제를 발견하면 필요한 만큼 시간을 들여 안전하게 진행하면 된다는 설명입니다. 그는 제품이 사용자의 목적에 맞지 않거나 불안전하다면 고객이 찾지 않을 것이라며, 제품을 제대로 만드는 상업적 동기도 충분하다고 주장합니다.

아모데이는 AI 개발 선두권의 속도를 조절하자는 글을 발표했고, 올트먼과 Google DeepMind 공동 창업자 데미스 허사비스(Demis Hassabis), xAI의 일론 머스크(Elon Musk)도 이에 동의했습니다. 이들은 유엔 안전보장이사회에서 안전성과 감시 체계를 마련할 시간을 확보하려면 개발 속도를 늦추는 협력이 필요하다고 설명했습니다. 반면 저커버그는 업계 공조가 경쟁사를 배제하고 규제 논의에 영향력을 행사하는 수단이 될 수 있다는 비판을 언급하며, 공동 대응의 필요성을 부정했습니다.

Muse와 Sentinel의 역할

인터뷰에서 저커버그는 Meta의 AI 에이전트 Muse를 소개했습니다. Muse는 항공권 예약, 이메일 답장, 조사 자료 작성, 사용하지 않는 잡지 구독 취소 같은 작업을 수행합니다. 저커버그는 자신의 운동 공간을 촬영하는 카메라와 연결해 종합격투기(MMA) 동작에 대한 피드백을 받는 데에도 Muse를 활용했다고 말했습니다.

Muse는 하나의 에이전트로만 구성되지 않습니다. Sentinel이라는 별도 에이전트가 Muse의 행동을 감독하고, 권한을 벗어날 가능성이 보이면 사용자에게 알린 뒤 추가 작업에 승인을 요청합니다. 저커버그는 에이전트가 어떤 정보를 공유해도 되는지 처음부터 학습해야 한다고 강조했습니다. 이메일이나 결제 정보에 접근하는 에이전트가 늘면서 개인정보 보호 우려도 커지고 있습니다. 그는 WhatsApp의 암호화와 Meta의 보안 역량을 근거로 사용자 정보가 안전하다고 주장했습니다.

저커버그는 AI가 인류를 멸종시킬 수 있다는 경고보다, AI가 사용자의 의도와 선호를 이해하고 정보를 신중하게 다루도록 만드는 일이 당장의 과제라고 말합니다. 빠르게 발전하는 AI의 위험을 두고 업계 공동 조율과 기업별 판단 중 무엇이 적절한지에 관해 두 입장이 맞섭니다.

Reddit 반응

  • @u/LEO-PomPui-Katoey — Meta가 이미 느린데, 대체 무엇을 더 늦추자는 건가요?
    • @u/KaleidoscopeShoddy10 — Meta는 Anthropic이나 OpenAI의 속도를 늦춘 버전을 따라잡으려 해도 더 빨라져야 합니다.
    • @u/rotang2 — 저는 Cursor에서 Meta 모델을 쓰기 시작했습니다. 다른 모델보다 훨씬 저렴합니다.
  • @u/Definitely_wasnt_me — 그는 개발 속도를 함께 늦추자는 데 반대한다고 했을 뿐입니다. 각 기업이 필요할 때 독립적으로 안전 조치를 취하자는 거죠. 그게 괜찮을 수도 있지만, 그의 형편없는 메타버스에서 무서운 일을 겪어보지 않은 건 분명합니다.
  • @u/MotorOutside8648 — 그가 이 문제에 대해 실제로 의견을 낼 만한 사람이라고 생각하는 게 귀엽네요. 관음용 안경이나 만들러 가세요.
    • @u/person2567 — 이 커뮤니티에서 “AI 속도를 늦춰야 하나요?”라고 물으면 찬성과 반대 모두 틀린 답이 됩니다. 뚜렷한 흐름은 없어 보입니다. 사람들은 AI 기업 CEO가 한 말에 반발하느라 직감대로 답하는 것 같습니다. 다리오의 “선두권 개발 속도를 조절하자”는 주장에 반응이 나빴으니 반대 의견을 지지할 법도 하지 않나요?
    • @u/ConnectionWild3381 — 안경이 “관음용 안경”으로만 불리는 게 우습습니다. 모두가 이미 카메라를 여기저기 들이대고 다니지 않나요?
    • @u/MotorOutside8648 — 누군가 카메라를 들고 있으면 무슨 일을 하는지 압니다. 그냥 안경을 쓰고 있는 사람은 뭘 하는지 모르죠.
  • @u/Mildred-Shaw — “극도로 조심한다”는 말을 믿기 어렵습니다. 같은 기업들이 여전히 다른 곳보다 빨리 제품을 내놓으려 경쟁하고 있기 때문입니다. 위험이 정말 크다면 안전은 인터뷰 발언이 아니라 출시 결정에 반영돼야 합니다.
  • @u/Efficient_Sky5173 — AI가 위험한 기술이라는 점은 이미 널리 인정받고 있습니다. 그러니 AI 기업은 영업 허가를 받아야 합니다. 안전 기준을 충족하지 못하면 허가를 취소해야 합니다. Meta는 퇴출 대상입니다. 정부가 재앙 수준의 위험에서 사람들을 보호하지 않는다면 세금을 왜 내나요?

원문: NBC News / 번역·요약: Trawling

원문 보기 ↗토론 보기 ↗