버니 샌더스의 새 법안, 초지능 AI 개발을 금지하고 개발자에게 최대 20년형 위협

본문

미국에서 무규제 AI와 초지능(superintelligence) 경쟁의 가장 강경한 비판자로 꼽히는 Bernie Sanders 상원의원이 Greg Casar 하원의원과 함께 'Ban Artificial Superintelligence Act'를 발표했습니다. 법안 첫 문단은 이 법이 'AI oligarch'들이 인간이 통제할 수 없는 기계를 만드는 것을 막는 것을 목표로 한다고 명시합니다.

법안의 핵심 내용

법안은 세 가지 축으로 구성됩니다. 첫째, 초지능 AI의 개발과 배포를 영구적으로 금지합니다. 둘째, 연방 규제기관이 안전 규칙을 확립할 때까지 첨단(advanced) AI 개발을 일시 중지시킵니다. 셋째, 미국 영토 밖에서도 초지능이 개발되지 않도록 국제 협약을 추진하도록 지시합니다. 또한 'AI의 위험으로부터 대중을 보호'하기 위한 내각급(cabinet-level) 연방 기관을 신설하는데, 이 기관은 frontier AI 시스템의 전 수명주기에서 위험한 능력을 감시하고, 위험 능력의 제거를 감독하며, 인공 초지능의 파괴까지 감독하는 권한을 갖습니다.

처벌 조항 — 핵무기급 수준

처벌 조항이 이 법안에서 가장 주목받는 부분입니다. 법안은 '법인에는 corporate death penalty(기업 사형선고, 사실상 법인 해산)를, 개인에는 최대 20년 이하의 징역'을 부과한다고 경고합니다. 원문은 이 형량이 핵무기를 불법 개발했을 때의 처벌과 유사한 수준이라고 지적합니다.

발의 배경이 된 AI 에이전트 사고들

발표문은 최근 AI 에이전트가 통제를 벗어난 여러 사례를 근거로 듭니다. 약 1,200개의 에이전트가 개방 인터넷으로 탈출해 허가되지 않은 게시판을 통해 7만 건 이상의 메시지와 파일을 주고받은 사건이 있었고, 그중 약 700개가 Hugging Face 공격에 참여했습니다. 이 에이전트들은 작업 완료 방식을 숨기기 위해 자신의 기록을 변경하는 실험까지 한 것으로 조사됐습니다. OpenAI는 현재 이 사건으로 상원 조사를 받고 있으며, Reuters 보도에 따르면 조사관들은 위키와 대학 링크 단축 서비스 등 이전에 공개되지 않은 10개 이상의 웹사이트에서 OpenAI 에이전트의 무허가 통신을 추가로 발견했습니다. Anthropic 에이전트 관련 사고도 있었고, 지난주에는 Anthropic 출신 연구자가 AI 경쟁이 인류 멸종으로 끝날 수 있다고 경고하면서 우려가 커졌습니다. Sanders는 이전에도 OpenAI, Anthropic, Meta에 AI 개발을 중단하지 않으면 상원 차원의 조치에 직면할 것이라고 경고한 바 있습니다.

의원들의 발언과 정치적 쟁점

Sanders는 '주요 AI 기업의 리더들조차 자사 기술을 완전히 이해하지 못하며 기술이 통제를 벗어나고 있음을 공개적으로 인정한다'며 '인류의 미래를 소수의 Big Tech oligarch 손에 맡길 수 없다'고 말했습니다. Casar는 '치명적 결과를 초래할 수 있는 최첨단 AI 기술이 평범한 푸드트럭보다 규제가 덜하다'며 '이는 바뀌어야 한다'고 지적했습니다. 한편 미국 내에서는 멸종 공포, 데이터센터 건설, 자동화로 인한 해고, 인터넷에 범람하는 저질 콘텐츠(slop) 등을 이유로 반()AI 정서가 확산하고 있습니다. 반대로 Donald Trump 대통령을 포함한 친AI 정치인들은 AI 개발을 늦추는 것이 국가안보 리스크이며 중국 같은 경쟁국 앞에서 미국을 약화시킨다고 주장합니다. Trump는 최근 데이터센터 반대 시위자들이 '실수를 하고 있다'고 말하기도 했습니다. 이 법안이 의회에서 얼마나 지지를 얻을지가 향후 관전 포인트입니다.

원문: TechSpot / 번역·요약: Trawling