AI는 엘리트의 범죄 행각입니다

AI 요약

Matt Stoller는 최근 AI의 위험성을 둘러싼 공포가 확산되면서 정치권과 언론, AI 기업들 모두가 “AI를 위한 FDA” 같은 새로운 규제 체계를 요구하고 있지만, 논의의 핵심을 놓치고 있다고 주장합니다. 그의 문제의식은 AI에 적용할 법이 없다는 데 있지 않습니다. 미국에는 이미 연방·주 규제기관, 기업과 개인이 제기할 수 있는 민사소송 수단, 소비자보호·반독점·사이버보안·저작권 관련 법률이 존재합니다. 그런데도 강력한 기업과 부유한 개인에게 기존 법률이 충분히 집행되지 않으므로, 새 법률이나 개발 중단 선언을 추가하더라도 결과가 달라질 것이라는 보장이 없다고 봅니다.

■ 이미 진행됐던 AI 규제와 집행

글은 조 바이든 행정부 시기에 연방거래위원회(FTC)의 Lina Khan과 법무부 반독점국이 AI의 안전성과 시장 지배력 문제에 대응하려고 기술 전문가를 대거 확보했다고 설명합니다. 가장 대표적인 사례로는 FTC가 2021년에 AI 반도체 기업 Nvidia와 Arm의 합병을 저지한 일을 듭니다. 글에 따르면 이 조치는 두 기업이 합병에 따르는 영역 다툼과 복잡한 통합 절차 대신 각자의 사업에 집중하게 했고, 이후 Nvidia가 AI 혁명의 핵심 기업으로 성장하는 데 영향을 주었습니다.

ChatGPT가 2022년에 출시된 뒤에는 FTC가 AI 배포와 관련한 조사와 연구를 잇달아 진행했으며, 2023년에는 OpenAI의 안전 관행을 구체적으로 묻는 ChatGPT 조사에 착수했다고 합니다. FTC는 기업 간 교차 소유와 인수 채용(acquihire)을 조사했고, AI를 이용해 기만하거나 사기를 수행하도록 설계된 기술을 판매한 기업에 여러 명령을 내렸습니다. 데이터 유출, 감시 가격 책정(surveillance pricing), 머신러닝을 활용한 대형 기술기업의 신제품 출시, 기업의 부실한 사이버보안에 대한 최고경영자 개인 책임도 다뤘다고 설명합니다.

법무부 반독점국은 Google을 상대로 여러 독점화 소송을 진행했고, 이들 사건은 AI와 연결됐습니다. UnitedHealth의 Change 인수, 육류 포장 산업과 임대료 책정에 알고리즘을 사용한 사례도 조사 대상에 포함됐습니다. 글의 주장은 이런 조치가 새로운 AI 법률이 없어도 이미 존재하는 반독점·소비자보호·경쟁법 체계 안에서 가능했다는 것입니다.

■ 집행의 후퇴와 규제기관의 포획

Stoller는 이러한 집행이 의회와 사법부에서 충분한 지지를 받지 못했다고 말합니다. 이후 도널드 트럼프 행정부가 들어서자 Trump-Vance FTC 의장 Andrew Ferguson이 Khan 시절의 조치를 되돌리는 움직임을 보였고, FTC 웹사이트에서 AI와 관련된 게시물 300건 이상을 삭제했다고 주장합니다. Ferguson은 AI 도구를 이용해 추천사와 리뷰를 조작할 수 있다고 홍보한 기업 Rytr에 부과된 제재를 무효화했으며, 감시 가격 책정에 대한 공개 의견수렴을 조용히 종료하고 ChatGPT 조사도 사실상 끝냈을 것으로 글은 추정합니다.

이 조치는 트럼프 행정부의 “AI Action Plan”이 FTC에 AI 혁신을 부당하게 제한하는 최종 명령, 합의명령, 금지명령을 재검토하고 필요한 경우 수정하거나 무효화하도록 요구한 것과 일치한다고 설명합니다. 법무부 역시 AI 기업을 상대로 한 소송에 소극적인 태도를 공개적으로 밝혔다는 사례가 제시됩니다. 반독점 사건에서도 RealPage와 육류 가격 담합 사건에 대한 합의가 알고리즘을 이용한 가격 책정에 사실상 우호적인 신호를 보냈다고 비판합니다.

글은 문제를 특정 행정부의 정당성에만 한정하지 않습니다. Meta와 Google의 독점 사건에서 법원이 시장 지배력에 대한 의미 있는 구제책을 거부한 사례를 들면서, 민주당 대통령이 임명한 판사들조차 대형 기술기업에 실질적인 법적 의무를 부과하는 일을 비현실적으로 취급하는 광범위한 엘리트 합의가 있다고 주장합니다. 따라서 핵심 문제는 규제기관이 없거나 법률이 부족한 것이 아니라, 권력자에게 법을 적용하는 일이 정치적·문화적으로 받아들여지지 않는다는 데 있다는 결론입니다.

■ AI 기업의 데이터 사용과 책임

AI 분야에 대한 글의 직접적인 사례는 New York Times가 대형 AI 기업을 상대로 제기한 저작권 소송에서 공개된 법률 문서입니다. Jason Kint가 발견한 문서에 따르면 OpenAI가 유료 장벽(paywall)을 우회해 콘텐츠를 수집한 사실을 인정했고, OpenAI의 사장 Greg Brockman은 회사가 New York Times 사이트를 해킹해 수집했다는 말을 듣고 “ah nice”라고 답했다고 합니다. 같은 문서에서 Microsoft의 Applied Science 책임자는 저작권이 있는 콘텐츠로 대형 AI 모델을 학습하는 일을 “인류 역사상 가장 큰 노동 절도”라고 표현했다고 전해집니다.

Stoller는 이런 행위가 Computer Fraud and Abuse Act 위반이나 저작권법상 형사 위반에 해당할 가능성을 제기합니다. 그는 Aaron Swartz가 JSTOR 논문에 접근했다는 이유로 기소 압박을 받았던 사례를 언급하면서, 작은 행위에는 법을 적용할 수 있다면 OpenAI 같은 대기업에도 같은 원칙을 적용할 수 있어야 한다고 주장합니다. 전 FTC 위원장 Lina Khan이 소비자보호법, 불공정·기만 행위 금지, 기업의 사이버보안 의무 등 이미 존재하는 법률로 안전하지 않은 AI 제품에 대응할 수 있다고 밝힌 점도 함께 소개합니다.

■ 새로운 법보다 필요한 것

글은 AI를 안전하게 만드는 일이 불가능하지 않다고 봅니다. Hugging Face CEO가 제시한 것처럼 신중한 위험 관리, 대형 AI 기업에 대한 책임과 손해배상 부담, 기업의 사이버보안 투자와 의무를 강화하는 방식이 가능하다고 설명합니다. 다만 새로운 규제기관이나 개발 중단만 요구하는 접근은 기존 법률을 집행하지 않는 현실과 모순된다고 지적합니다. 현재 법을 강력한 기업에 적용할 수 없다면, 더 많은 법률이 무엇을 바꿀 수 있는지 설명하기 어렵다는 것입니다.

필자는 새로운 규칙이나 규제기관 자체에 반대하지는 않는다고 선을 긋습니다. 그러나 “AI를 규제하자”는 요구가 기존 법률 집행의 실패를 우회하는 만능 장치처럼 사용되어서는 안 된다고 봅니다. 대형 AI 기업이 안전 기준을 요구하는 동시에 자신들이 감당할 수 있는 비용과 조건을 규제에 포함해 경쟁자를 제한할 가능성도 커뮤니티에서 논쟁이 됐습니다. 결국 글의 결론은 AI 안전의 전제조건이 법률의 추가가 아니라, 이미 쓰여 있는 법을 기업의 규모와 부에 관계없이 적용하려는 정치적·문화적 변화라는 것입니다.

■ Lobsters 반응

• @jcd — 여기서는 주제에서 벗어난 것처럼 느껴지지만, AI 기업들 스스로 새로운 규제를 요구하는 모습을 보고 있으니 그것이 터무니없다는 점은 지적할 가치가 있다고 생각합니다. 이런 기업들에 적용할 법은 이미 있습니다. 다만 집행되지 않고 있습니다.

• @BenjaminRi — AI 기업들이 하려는 일은 규제 포획(regulatory capture)입니다. 이들은 정부 안에서 올바른 사람들과 친구가 되고 올바른 지렛대를 움직여 시장에서 자신들의 선두 지위를 고착하려고 합니다. 그렇게 하는 이유는 이들에게 해자(moat)도, 비밀 소스(secret sauce)도 없기 때문입니다. 이런 방식은 정부 규제만큼이나 오래됐고, 이번 사례에서 놀라운 점은 그들이 얼마나 뻔뻔하고 투명하게 행동하는가뿐입니다.

• @wmurra — 여기서 제안하는 작동 메커니즘은 무엇입니까? 오픈 웨이트(open weights)를 금지할 것이라는 이론입니까? 그렇다면 동의합니다. 그렇지 않다면 규제가 대형 기업의 이익에 어떻게 부합하는지 모르겠습니다. 규제가 모든 참여자에게 고정비용을 부과하고 대형 기업이 그 비용을 감당할 자원이 더 많다는 뜻이라면, 그럴 수도 있습니다. 하지만 그것이 규제가 나쁘다는 증거는 아닙니다. 좋든 나쁘든, 합리적이든 어리석든, 모든 규제는 대상이 되는 모든 기업에 고정비용을 부과합니다. 그렇다면 규제 포획이라는 말은 규제가 나쁘다는 뜻입니까? 왜 나쁩니까? 이 “규제 포획” 주장은 a16z 진영이 좋아하는 주장입니다. 이들은 고정비용이 스타트업에 나쁘기 때문에 규제 포획이라는 밈을 밀어붙입니다. 소규모 투자 라운드로 운영되는 AI 스타트업의 생존 가능성에 이해관계가 있습니까? 안전을 보장할 법한 절차를 감당할 수 없는 AI 스타트업이 사라진다고 해도 그것이 왜 제 문제인지, 왜 당신의 문제인지 모르겠습니다. YC 팟캐스트의 최근 에피소드에서 진행자들은 스타트업이 흔히 법적 위험 차익거래를 한다고 인정했습니다. 대기업 A가 법적으로 모험적인 제품 Y를 만들고 싶어도 너무 부유하기 때문에 소송을 당할 가능성이 큽니다. 그래서 별도 회사를 만들고 자금을 지원한 뒤 순진한 젊은이들에게 법적 위험을 떠넘깁니다. 그들이 파산하거나 감옥에 가면 그들 몫이고, 일이 잘 풀리면 종종 흡수합니다. 이 팟캐스트는 말하지 않던 부분을 크게 말한 사례입니다.

• @gerikson — 제안된 이론은 대형 AI 스타트업이 자신들에게 제약을 가하는 규제를 요구하고 실제로 얻어내지만, 결정적으로 그 제약을 감당할 수 있는 곳은 자신들뿐이라는 것입니다. 이것은 합리적인 거래로 제시됩니다. 이를 통해 대형 기업들은 이런 제약을 충족하는 기업만 정부 계약에 참여할 수 있다고 선언할 수 있습니다. 또는 이런 규정을 따르지 않는 기업이 만든 제품은 너무 위험해서 사용을 허용할 수 없다고 말할 수 있습니다. Anthropic이 자신들을 조사해야 한다고 제안하는 “안전 조직” 중 하나인 METR은 사실상 Amodei의 지인들로 구성되어 있으므로, 그들도 큰 보수를 받게 될 것입니다.

• @wmurra — 제가 너무 긴 댓글을 썼다는 건 알지만, 첫 문장만 읽은 것입니까? 저는 이 이론을 다뤘습니다. 이것이 제가 고정비용이라고 말한 것입니다. 이것은 일반적인 규제에 해당합니다. 규제 포획이 없어도 성립합니다. 규제가 대기업을 소기업으로부터 보호할 수 있다는 점에는 동의합니다. 그런데 이 경우 그것이 왜 나쁜 것입니까? AI 규제가 낮은 환경이 왜 당신이나 저에게 이익이 됩니까? 이것이 경쟁 상황을 얼마나 바꿀지 모르겠습니다. Anthropic을 위협하는 저자본 경쟁자가 있는 것도 아닙니다. “그들만 감당할 수 있다”고 했는데, 규제 비용이 한계적으로 5,000억 달러라도 된다는 뜻입니까? 그럴 가능성은 낮아 보입니다. 미국 스타트업이 정부 계약을 놓치는 것이 걱정입니까? 그래서 어쩌라는 것입니까? 저는 스타트업이 윤리적 기준을 무시할 동기가 더 크다고 봅니다. 규제가 기존 기업에 유리하다는 사실만으로는 그 규제가 나쁘다는 최종 증거가 되지 않습니다. 규제 포획은 구체적으로 부패의 한 형태를 뜻합니다. 규제가 합리적이지만 우연히 기존 기업에 도움이 된다면 그것은 포획이 아니라 그냥 규제입니다.