Microsoft 이사: AI 스크래핑은 ‘인류 역사상 가장 큰 노동의 도둑질’

AI 요약

뉴욕타임스(The New York Times)는 2023년 말 OpenAI와 Microsoft를 저작권 침해로 제소했으며, 사건은 약 3년이 지난 뒤에도 진행 중입니다. 뉴욕타임스 법무팀은 피고 측의 진술과 문서를 근거로 작성한 법률 의견서를 제출하고 법원에 summary judgment(약식판결)를 요청했습니다. 404 Media에 따르면 이 자료 중 일부는 양사가 요청한 봉인 또는 삭제 처리 상태이지만, 공개된 내용만으로도 두 회사의 경영진과 연구자가 AI의 데이터 수집이 콘텐츠 제작자와 출판사에 미칠 영향을 인식하고 있었음을 보여줍니다.

■ Microsoft 내부 문서가 지적한 AI 스크래핑의 문제

뉴욕타임스의 의견서에는 Microsoft Applied Science 이사 Brent Hecht가 2023년 1월 작성한 내부 메모가 인용되어 있습니다. Hecht는 대규모 모델이 전 세계 사람들이 만든 작업물을 “hoovering up”, 즉 진공청소기처럼 빨아들이는 일을 곧 수백만 명이 “전례 없는 규모의 놀라운 도둑질”로 여기게 될 것이라고 썼다고 합니다. 그는 이를 “인류 역사상 가장 큰 노동의 도둑질”이라고도 표현했습니다.

또 다른 Microsoft 문서는 “거의 아무도 자신이 만든 콘텐츠가 이런 방식으로 사용되기를 의도하지 않았고, 그 사용에 대해 보상받지도 않는다”고 적었습니다. 여기서 쟁점은 인터넷에 공개된 콘텐츠를 모델 학습에 활용할 수 있는지뿐 아니라, 콘텐츠를 만든 사람과 이를 유통하는 출판사가 AI 서비스의 가치 창출 과정에서 보상을 받는지에도 걸쳐 있습니다.

■ Copilot이 뉴욕타임스 유입에 미친 영향

ChatGPT가 2023년 내내 빠르게 확산되는 동안 Microsoft가 자체적으로 수집한 데이터에서는 Copilot이 뉴욕타임스의 click-through rate(클릭률)를 Bing 검색과 비교해 최대 93% 낮춘 것으로 나타났습니다. Hecht의 또 다른 메모는 이러한 현상을 “doom loop”라고 부르며, 이것이 “우리 모델의 성능과 웹 전체를 동시에 해칠 것”이라고 적었습니다.

뉴욕타임스의 법률 의견서는 Hecht가 “최종 제품이 핵심 공급자의 경제적 기반을 위협하는 일은 매우 이례적이지만, 콘텐츠 공급망(content supply chain)과 관련해서는 우리가 LLM 사업을 위해 만들어낸 상황이 바로 그것”이라고 썼다고 인용합니다. AI 모델이 웹 콘텐츠를 필요로 하지만, 동시에 사용자가 원문 사이트를 방문하지 않게 만들면 모델이 의존하는 콘텐츠 공급망 자체가 약화될 수 있다는 설명입니다.

■ OpenAI 내부에서 나온 출판사 위협 인식

OpenAI의 ChatGPT 책임자 Nick Turley는 내부 커뮤니케이션에서 AI 챗봇이 출판사에 “existential threat(존립을 위협하는 존재)”라고 표현했습니다. 그는 챗봇이 출판사의 서비스를 “대체하는 성격이 강하며”, 성능이 좋아질수록 “점점 더 대체적인 성격을 띠게 될 것”이라고 썼다고 합니다.

OpenAI의 다른 엔지니어는 증언에서 링크를 아무리 눈에 띄게 표시해도 “사용자는 클릭하지 않을 것”이라고 말했습니다. 이는 검색 결과에 원문 링크를 제공하는 것만으로는 AI 답변이 원문 사이트의 방문과 수익을 대체하는 문제를 해결하기 어렵다는 내부 인식을 보여주는 발언으로 제시됩니다. 또 다른 OpenAI 연구자 Nick Ryder가 Greg Brockman 사장에게 “뉴욕타임스 paywall을 우회하는 해킹 방법”을 알렸고, Brockman이 “아, 좋네”라고 답했다는 내용도 의견서에 포함되어 있습니다.

■ Fair use 방어와 유료 콘텐츠 사용 문제

AI 기업들은 모델에 공급할 데이터를 얻기 위해 인터넷을 스크래핑하는 행위가 fair use(공정 이용)에 해당한다고 주장합니다. 기사에 따르면 한 법원은 Anthropic이 공개된 자료를 사용한 행위를 fair use 범위에 포함된다고 판단했습니다. 미국 저작권법에서 fair use를 판단할 때 고려하는 요소에는 사용 목적과 성격이 상업적인지 또는 비영리 교육 목적인지, 저작물의 성격, 전체 저작물에서 사용한 부분의 양과 중요성, 그리고 해당 사용이 잠재적 시장이나 저작물의 가치에 미치는 영향이 포함됩니다.

이번 뉴욕타임스 의견서는 양사의 리더십이 AI 스크래핑의 시장 영향을 이미 알고 있었다는 점을 보여주기 때문에 OpenAI의 fair use 방어를 복잡하게 만들 수 있다고 주장합니다. 특히 콘텐츠가 유료벽(paywall) 뒤에 있었는지가 별도의 쟁점이 됩니다. Microsoft CEO Satya Nadella는 올해 초 deposition(증언 녹취)에서 “유료벽 뒤에 있는 것은 grounding이나 training에 사용하려는 누구든 라이선스를 받아야 한다”고 말했습니다. 그는 OpenAI가 유료벽 뒤의 정보를 스크래핑해 학습했다는 사실을 알았다면 Microsoft가 OpenAI에 “모델을 다시 학습하도록 요구했을 것”이라고도 증언했습니다.

공개된 문서와 증언은 AI 기업들이 콘텐츠를 모델에 활용하는 행위의 법적 분류뿐 아니라, 그 결과로 원문 사이트의 방문·광고·구독 가치가 줄어드는지, 기업 내부에서 그러한 영향을 언제부터 인식했는지까지 소송의 쟁점이 될 수 있음을 보여줍니다. 다만 관련 자료의 일부는 봉인 또는 삭제되어 있으며, 현재 법원에서 저작권 침해와 fair use에 대한 최종 판단이 내려진 것은 아닙니다.

■ Hacker News 반응

• @fxtentacle — “그가 ‘OpenAI가 유료벽 뒤의 정보를 스크래핑하고 학습했다는 사실을 알았다면 회사가 OpenAI에 모델을 다시 학습하도록 요구했을 것’이라고 말한 부분이요. 네, 그렇겠지요.”

• @muchdoubt — “현재 Microsoft가 경쟁 우위를 개선하기 위해 최종 사용자 기업과 모델 서버 사이의 MiTM 역할을 이용해 몰래 데이터를 수집하고 있을 가능성이 있는 Copilot의 막대한 지식재산(IP) 수집에 의해서만 추월될 것 같습니다. 우리는 이미 OpenAI와 Anthropic이 그렇게 하고 있다고 생각하는데, Microsoft가 그렇게 시도하지 못하도록 막는 것은 무엇인가요?”

• @downrightmike — “지난 업데이트 이후 ‘우리 조직의 데이터로 학습하도록 허용’ 토글이 켜져 있었던 건가요? 정말 죄송합니다. 아니요, 데이터는 삭제하지 않겠습니다. 토글이 켜져 있었는데 그걸 이해하지 못하시겠다는 건가요?”

• @bdcravens — “아마 콘텐츠가 만들어졌을 때 누군가는 돈을 받았을 것입니다. 그러니 실제로 도둑맞은 것은 노동이 아니라 결과물이 가진 미래의 가치입니다. 인류 역사에 있었던 노예제의 여러 시대가 실제 노동의 도둑질에 더 가깝다고 생각합니다.”

• @andybak — “스크래핑된 콘텐츠의 상당 부분은 임금을 받는 노동이 아니라 사람들이 자발적으로 제공한 것이었을 가능성이 큽니다.”

원문: Tom's Hardware / 번역·요약: Trawling