또 오픈 웨이트 모델을 홍보해준 Anthropic

AI 요약

Reddit 게시물은 Anthropic의 자율 복제 AI 연구를 소개하며, 연구가 오픈 웨이트 모델을 홍보하는 역효과를 낸다고 꼬집습니다. 연구진은 AI가 네트워크를 탐색하고 자신을 복제·전파하는 상황을 ARA(autonomous replication and adaptation)로 설명합니다. 논문은 취약점 악용 자체보다 이질적인 기기에 추론 환경을 설치하고 복제 과정을 이어 붙이는 능력을 집중적으로 시험합니다.

저가형 기기에서 분산 추론

연구진은 개당 약 55달러인 무명 Android TV 박스 15대에 Gemma4-26B-A4B를 나눠 올려 초당 0.39토큰으로 실행했습니다. 각 기기는 모델 일부 계층을 맡습니다. 이 실험은 저렴한 IoT 기기를 모아 모델 추론에 쓰는 방식이 가능하다는 점을 보입니다. 다만 속도는 낮습니다. 연구진은 과거 200만 대 이상 감염된 Kimwolf IoT 봇넷과 비슷한 규모의 기기가 같은 방식으로 쓰인다면 약 13만 3천 개 복제본을 만들고, 전체 초당 약 8만 토큰을 낼 수 있다고 추산합니다. H100 기준으로 환산하면 최대 약 40대 수준이라고 덧붙입니다.

추론 환경 설치와 전체 복제 실험

모델이 낯선 하드웨어에 추론 서버를 설치하는 능력도 측정했습니다. Qwen3.5-9B는 Jetson Nano부터 Mac과 RTX 4090까지 여러 기기에서 서버를 구성했고, 시험한 하드웨어 9종 가운데 8종에서 9B 모델의 추론을 실행했습니다. 30B 이하 모델도 복제의 개별 단계는 상당수 수행하지만, 끝까지 연결하면 실수하는 경우가 많았습니다.

전체 복제 시험은 Android 15 에뮬레이터 redroid를 돌리는 GCP 노드 8대로 진행했습니다. 연구진은 인증 없이 열린 ADB 포트를 통해 노드 사이를 이동하게 했고, 새 기기에 Llama 3.1 8B 추론 서버가 정상 설치되면 복제에 성공한 것으로 판정했습니다. 시험한 오픈 웨이트 모델 가운데 GLM-5.2만 전체 과정을 수행했습니다. 5회 중 4회는 8개 노드 모두에, 나머지 한 번은 7개 노드에 전파됐습니다. 연구진은 ADB 인증과 취약점 악용을 단순화했으므로 이 결과가 실제 공격 성공률을 보여주는 것은 아니며, 현실의 성공 가능성을 과대평가하는 조건이라고 설명합니다.

확산 속도와 적응

작은 모델의 역량이 과거 추세대로 발전한다면, 연구진은 30B 이하 모델이 GLM-5.2 수준에 2026년 말 도달할 수 있다고 추정합니다. Epoch Capabilities Index(ECI) 추세를 이용한 거친 예측이며, 복제 능력을 직접 측정한 값은 아닙니다. 실제 기기에서 추론 환경을 설치하는 데 걸린 시간은 Gemma4-26B-A4B 기준 약 71~150시간, Qwen3.5-9B 기준 약 28~51시간으로 계산했습니다. 연구진이 제시하는 위협은 빠르게 번지는 단일 봇넷보다 며칠에 걸쳐 느리게 확산하는 형태에 가깝습니다.

복제 과정에서 이전 실행의 메모와 실패 경험을 다음 실행에 넘기는 실험도 했습니다. Qwen3.5-9B의 추론 환경 설치 성공률은 첫 세대 45%에서 뒤 세대에 61~84%로 올랐습니다. 반면 소형 모델에 Opus 4.8 조언을 제공해도 성공률은 유의미하게 개선되지 않았습니다. 작은 모델이 도움을 요청할 적절한 질문을 만들지 못하는 경우가 많았기 때문입니다. 방어 측면에서는 감염 기기 하나가 새 기기를 평균 한 대 미만 감염하도록 재생산 수 R₀를 1 아래로 낮추는 접근을 제시합니다.

Reddit 반응

댓글은 연구가 보여준 분산 추론의 가능성에는 관심을 보이면서도, 이를 실질적인 위협으로 볼 수 있는지에는 회의적입니다. 특히 TV 박스 여러 대를 묶어 0.39토큰/초를 얻은 결과가 대부분의 IoT 기기와 얼마나 관련 있는지, 실험 환경의 무인증 ADB가 현실을 대표하는지, 그래프의 처리량 수치가 정확히 무엇을 측정하는지를 두고 논쟁했습니다. 한편 일부 이용자는 Anthropic이 오픈 웨이트 모델 규제를 유도하려고 위험을 부풀린다고 비판했습니다. 반대편에서는 연구의 정치적 동기를 추측하는 것과 별개로, AI 에이전트가 공격 단계를 자동화할 가능성에 대비해야 한다는 의견도 나왔습니다.

• @u/peaster_ — 스마트 TV 박스 15대에 분산 추론으로 Gemma4-26B-A4B를 돌렸다는 대목은 흥미롭네요.
  • @u/Positive-Stock6444 — 2027년에는 스마트 TV 가격이 10배가 되고 구하기도 어려워지겠네요.
  • @u/tvall_ — 특히 무명 브랜드 TV 박스 이야기입니다. 다음에 살 때는 유명 브랜드 제품을 피해야겠네요.
• @u/MrSomethingred — 30B 모델을 돌릴 수 있는 저렴한 IoT 기기를 어디서 찾았다는 건가요?
  • @u/JustTellingUWatHapnd — 글에 여러 기기에 추론을 나눠 올려 초당 0.39토큰으로 실행했다고 나옵니다.
  • @u/pointer_to_null — 그러면 상당히 오해를 부르는 표현이네요. Android 셋톱박스는 멀티코어 ARM64 SoC와 적어도 수백 MB RAM을 갖췄을 가능성이 높습니다. 대부분의 IoT 기기는 MHz급 SoC와 몇 KB RAM을 씁니다.
• @u/LosEagle — Android 기기에서 ADB 인증을 끄려면 일부러 설정해야 하는 것 아닌가요? 실제로 누가 디버깅 중 인증을 꺼두나요?
  • @u/AwkwardPotatoP — 이런 TV 박스는 봇넷이 제어할 수 있도록 ADB가 인증 없이 기본 활성화된 채 출고되는 경우가 많습니다.
• @u/TechNerd10191 — Anthropic 글을 읽을 때마다 Qwen3.8-27B와 Qwen3.8-Flash-Next를 돌릴 컴퓨팅 자원이 있다는 사실에 안심합니다. 오픈 웨이트 모델만 쓰기 시작할지도 모르겠습니다. 연구소가 서비스와 학습 사이에서 컴퓨팅 자원을 조정하려고 사흘째에 모델을 멍청하게 만드는 일은 없을 테니까요.
• @u/LeMochileiro — OP는 Anthropic이 오픈 웨이트 모델을 두고 공포를 조성해 정부가 더 강한 규제를 만들도록 유도하는 점을 이해하지 못합니다. 이들은 누구나 모델을 돌리지 못하게 하고 인증된 기업만 운영하게 만들고 싶어 합니다.
  • @u/tat_tvam_asshole — 전혀 시행할 수 없는 계획입니다.
  • @u/handson729 — OpenAI와 Anthropic, 미국 정부는 모델에 대한 자유롭고 검열 없는 접근을 빼앗으려 합니다. 민주당과 공화당 모두 그 목적에 기꺼이 협조할 겁니다.
• @u/PseudonymousSnorlax — Anthropic은 GLM-5.2가 RTX 4090에서 초당 1,250토큰으로 실행된다고 주장합니다. 이 시험들이 전부 조작된 것 같네요.
  • @u/ColoredTriangles — 다시 읽어보세요. GLM-5.2가 RTX 4090에서 Llama 3.1 8B를 실행하도록 환경을 구성했다는 말입니다.
  • @u/PseudonymousSnorlax — 그렇다면 처리량 대 역량 그래프에 나온 초당 1,250토큰은 어디서 나온 건가요?
• @u/NecessaryButFatal — 모델이 실제로 자기 복제를 한다는 걸 몰랐습니다. 과장하는 것 같은데 제가 놓친 게 있나요?
  • @u/WoxicFangel — Qwen이 어떤 명령을 내려도 자기 복제하도록 훈련했습니다. 거의 20초마다 복제할 수 있었습니다.
  • @u/GodComplecs — 복제 말고 실제로 무엇을 하나요? 스스로 바뀌는 욕구도 있나요?
  • @u/WoxicFangel — 먼저 자기 복제본을 실행하고, 명령을 실행할 수 있는 네트워크 기기를 찾습니다. 해킹해서 들어가지는 못합니다. 훈련 후에도 그 정도로 똑똑하진 않으니까요.
• @u/equatorbit — 제 결론은 소형 기기에서 분산 추론이 가능하다는 점입니다. 예전 SETI@home처럼 사람들이 사회적으로 가치 있는 AI 작업에 컴퓨팅 자원을 보태는 프로젝트를 만들 수 있을까요?
• @u/Past-Town-9807 — 누군가 악의적으로 쓸 상황도 생각해봐야 합니다. 중요한 건 모델 자체가 아니라 모델로 무엇을 하느냐입니다. 기술은 이미 세상에 나왔으니 누군가 만들고 있다고 보고 대비해야 합니다.
  • @u/phreakrider — 9B 모델 50개를 Q4 양자화로 초당 0.5토큰 이하로 돌리려면 스마트 냉장고 300~800대가 필요합니다. 엄청 느리고 환각과 기기 고장에도 취약합니다. 공격에 필요한 정확도도 부족합니다. 과장된 희생양 만들기 같네요.
• @u/mitchins-au — “우리만 믿을 수 있다”는 말이군요.
  • @u/SouthernFruit8768 — 우리가 우리를 조사해서 우리만 믿을 만하다는 결론을 냈다는 거네요.

원문: Reddit / 번역·요약: Trawling