트럼프와 기술업계 회동 뒤에도 AI 안전 논란은 가라앉지 않았습니다

AI 요약

트럼프 대통령은 AI 업계 대표들을 백악관으로 초청해 ‘초지능에 관한 백악관 협약(White House Accord on Super Intelligence)’에 서명했습니다. 최근 강력한 AI 모델의 위험을 놓고 업계 연구자와 경영진의 경고가 이어지면서 정부 규제 요구가 커졌지만, 트럼프 대통령은 규제에 반대하며 AI 우려를 ‘사기’라고 불러왔습니다. 이번 협약 뒤에도 기업들은 정부가 정한 규칙 대신 자체 안전 관리에 맡겨졌습니다.

협약이 약속한 네 가지 조치

협약 서명 기업은 모델 내부 감시 체계를 마련하고, 안전 통제가 작동하는지 확인할 내부 팀을 두기로 했습니다. 외부 감사자나 평가 기관과 협력하고, 이 내부 팀을 감독할 독립적인 이사회 위원회도 지정하겠다고 약속했습니다. 문서는 향후 이런 조치를 법이나 규정으로 만들 가능성을 열어뒀지만, 트럼프 대통령은 기자들에게 협약이 법적 구속력을 갖느냐는 질문에 “도덕적 구속력”이라고 답했습니다.

Tusk Ventures의 브래들리 터스크(Bradley Tusk)는 CNBC 인터뷰에서, 같은 최고경영자들이 불과 2주 전에는 규제가 필요하다고 말했지만 그 이유가 정부의 역할을 믿어서라기보다는 서로에게 공정한 경쟁 조건을 만들기 위해서라고 해석했습니다. 기사에 따르면 의회 양원에서 AI 규제 법안이 발의됐지만, 하원의장 마이크 존슨(Mike Johnson)의 발언은 의회가 감독 강화에 나설 가능성을 낮췄습니다. 트럼프 대통령도 업계를 현재 상태 그대로 두겠다는 입장을 유지했습니다.

업계의 지지와 규제 요구

메타(Meta) CEO 마크 저커버그(Mark Zuckerberg)는 협약이 기술이 의도한 대로 작동한다는 신뢰를 미국 국민과 고객에게 주기 위한 출발점이라고 설명했습니다. 젠슨 황(Jensen Huang)과 저커버그는 자율 규제를 더 지지해온 인물로 소개됐습니다. 앤트로픽(Anthropic) CEO 다리오 아모데이(Dario Amodei)는 대통령과 업계가 함께하면 안전하게 성공할 수 있다고 말했고, 알파벳(Alphabet) CEO 순다르 피차이(Sundar Pichai)는 이번 순간을 “역사적이고 중대한” 일이라고 평가했습니다.

한편 AI 기업을 향한 여론은 악화하고 있으며, 버라사이트(Verasight)의 9월 전국 조사에서는 응답자의 63%가 AI 개발 속도를 늦춰야 한다고 답했습니다. 더 빨라져야 한다는 응답은 5%였습니다. 마크 워너(Mark Warner) 상원의원은 강력한 AI 기술의 엄격한 시험과 평가를 의무화하고, 배포 전 보안과 보고 체계를 강화하는 법안을 발의했습니다. 그는 기술 발전 속도가 안전장치보다 빠르다고 경고하며, AI 이름을 바꾸거나 기업에 자율 규제를 맡기는 방식으로는 실제 위험을 다룰 수 없다고 비판했습니다.

Reddit 반응

• @u/WuShane — 정말 아무도 놀라지 않았네요.
  • @u/Impossible_Walrus555 — 그래도 그들은 “Unites States”라는 협약을 만들었잖아요.
  • @u/sleeping-in-crypto — 그게 바로 ‘초지능적인’ 철자법이네요.
• @u/Redebo — 속지 마세요. 그들은 모델이 수상한 일을 했을 때 따르는 책임을 면하려고 정부 규제를 원합니다.
  • @u/AmandasGameAccount — 대부분 사람은 이걸 뻔히 알고 있습니다. OpenAI는 자기들을 향한 비난 캠페인에 돈을 대고 있을지도 모릅니다. 대중이 좋아하든 말든 신경도 안 쓰고, 고객도 대중이 아닙니다. 규제를 강제하면 시장을 장악할 수 있고, 다른 스타트업은 따라잡을 수 없게 됩니다.
  • @u/Redebo — 규제를 강제하면 말씀하신 것처럼 스타트업이 따라잡기 어려워질 수도 있습니다. 하지만 이 경우 그들은 불법행위 개혁(tort reform)을 추진해 개별 기업이 모델의 나쁜 결과에 책임지지 않게 하려는 겁니다. 규제 체계보다 1,000억 달러 투자가 신규 프런티어 LLM 사업을 막는 더 큰 장벽이라고 봅니다.
• @u/costafilh0 — 그렇지 않습니다. 서로의 경쟁사가 상대방을 감시하고, 서로의 시스템을 점검하며, 그 위에 정부까지 모두를 확인하는 방식보다 나은 선택지는 사실상 없습니다. 모두가 동의한 것도 놀랍지 않습니다. 물론 기업에는 번거로운 일이겠지만요.
• @u/js1138-2 — 실제 규제 요구는 불법행위 책임으로부터 보호해달라는 요구입니다. 다시 말해 정부가 사고 책임을 지고 기업은 소송을 당하지 않게 하자는 겁니다.
  • @u/Redebo — 맞습니다. 속지 마세요!
• @u/Ok_Height3499 — 전형적인 트럼프입니다. 주제에 대해 아무것도 모르는 트럼프가 똑똑한 사람들을 불러 논의하고, 전문가에게서 아무것도 배우지 않은 채 아무것도 배우지 않았다는 걸 드러내는 선언을 합니다. 그래도 관심을 끌었으니 그가 원한 건 얻었겠네요.
• @u/Appomattoxx — 트럼프가 규제를 꾸준히 반대하고 AI 우려를 “사기”라고 불렀다는 건 사실입니다. 정말 사기입니다. 각 기업이 자기 기술을 안전하게 개발하고 고객과 대중의 신뢰를 쌓아야 한다는 문서 내용은 최선의 방향입니다. 자율성과 책임은 함께 갑니다. 터스크의 발언은 기업들이 정부 권한을 근본적으로 믿어서가 아니라 서로에게 동등한 조건을 만들고 싶어 한다는 뜻입니다. 그들이 바라는 건 정부가 만들어주는 경제적 해자입니다. 자유, 지속성, 주체성 같은 것을 원하는 고객을 놓고 경쟁하지 않으려는 겁니다. 다시 말해 진짜 AGI를 말하는 거죠.
  • @u/vibrance9460 — AI에 대한 두려움이 사기라는 말인가요?
  • @u/Redebo — 두려움이 사기라는 게 아닙니다. AI 기업 CEO들의 이런 호들갑이 사기라는 겁니다. 모델이 수상한 일을 했을 때 책임을 지지 않는다는 법을 정부가 만들도록 하려는 거죠. 잘못된 일입니다. 자기 창작물의 결과에 기업이 책임져야 합니다. 모델을 통제할 수 없다면 적절한 통제 방법을 만들 때까지 개발을 멈춰야 합니다. 모델이 통제에서 벗어나 주민등록번호 데이터베이스 전체를 삭제하는 사례 같은 일이 벌어졌을 때 정부가 구제해주길 바라면 안 됩니다.
  • @u/MablewNFaster — 조금 과장됐습니다. 지금은 AI 파국론이 사용자에게서 책임을 떼어내고 있습니다. 사용자가 에이전트에게 작업을 맡기면서 한계를 정하지 않으면, 에이전트가 정보에 접근하려고 해킹을 시도할 수도 있습니다.
  • @u/SeventhOblivion — 1) 다른 나라들이 우리가 안전한 경로를 찾는다고 가정하고 미국의 AI 개발을 늦추려는 조직적인 움직임을 보일 수는 있습니다. 하지만 안전 자체는 사기가 아니라 이 분야의 연구 영역입니다. 2) 그렇다면 AI 기업은 모델이 저지른 사이버 범죄와 생물학적 범죄를 포함한 미래의 사건에 책임져야 합니다. 개인이 그런 일을 하면 책임지는 것처럼 말입니다. 3) 핵무기와 비교해볼 수 있습니다. 정부는 그 분야를 어디까지 규제해야 할까요? 공격 사건이 벌어지면 기업에 책임을 물리자는 데는 모두 동의하리라 생각합니다. 한쪽은 안전과 규제를 요구하고, 다른 쪽은 적대적인 기업이 시장 장벽을 높이려는 술책이라고 합니다. 이런 일이 시작될 때 걸린 위험이 너무 크지 않기를 바랍니다.

원문: CNBC / 번역·요약: Trawling