Microsoft 임원, AI 스크래핑을 '인류 역사상 최대의 노동 절도'라고 표현 — 새로 공개된 비공개 해제 소송 문서에서 드러나

본문

3년째 진행 중인 New York Times 대 OpenAI·Microsoft 저작권 소송에서 새로운 비공개 해제(unredacted) 정보가 공개되었습니다. 이 자료에는 Microsoft 최고위 임원이 양사의 AI 학습 관행을 사적으로 '절도(theft)'라고 묘사하고, OpenAI 리더십이 자사 모델이 모델을 학습시킨 저작물의 주인인 퍼블리셔와 저널리스트에게 '존재적 위협(existential threat)'이 된다고 인정한 내용이 담겨 있습니다. 다만 새 정보의 상당 부분은 봉인 상태인 원본 증거자료가 아닌 New York Times 측 소송 서류에서 나온 것으로, 인용문은 원래 맥락 없이 제시되었다는 점이 유의할 대목입니다.

'인류 역사상 최대의 노동 절도'

Microsoft의 Applied Science 디렉터 Brent Hecht는 2023년 1월 내부 메모에서 이 관행을 '전례 없는 규모의 놀라운 절도'이자 '인류 역사상 최대의 노동 절도(the largest theft of labor in human history)'라고 불렀습니다. 또 다른 Microsoft 문서는 생성형 AI가 '파운데이션 모델이 학습한 데이터를 만들어낸 바로 그 사람들의 고용을 심각하게 교란할 실질적 위험'이 있다고 적고 있습니다.

시장 대체와 'doom loop'

공정 사용(fair use) 방어의 핵심 요건 중 하나는 원저작물의 시장을 대체하거나 해치지 않는다는 것인데, 새 자료들은 이를 정면으로 반박합니다. Microsoft 자체 데이터에 따르면 Copilot '답변 엔진'은 New York Times 도메인의 클릭률을 기존 Bing 검색 대비 최대 93%까지 떨어뜨렸습니다. Hecht가 2024년 1월에 작성한 내부 발표 자료는 이 하락을 'doom loop'로 부르며 '모델의 성능과 웹 전체를 동시에 해칠 것'이라고 경고했습니다. Microsoft 문서는 '최종 제품이 필수 공급자의 경제적 기반을 위협하는 것은 매우 이례적이지만, 콘텐츠 공급망과 관련해 우리의 LLM 사업이 만들어낸 상황이 바로 그것'이라고 기술합니다. OpenAI의 ChatGPT 총괄 Nick Turley는 내부 커뮤니케이션에서 ChatGPT 같은 제품이 퍼블리셔에게 '존재적 위협'이며 '대체재적(largely substitutive)'이고 '좋아질수록 점점 더 대체재적이 될 것'이라고 썼습니다. OpenAI 회장 Greg Brockman은 모델이 '뉴스에 탁월하다(excellent at news)'고 평가했고, Satya Nadella CEO도 올해 초 선서 진술에서 챗봇과의 대화가 'AI 플랫폼에서 바로 정보를 주는 방식으로 원본 소스 방문을 대체했다'고 인정했습니다. Nadella는 또한 '페이월 뒤에 있는 것은 grounding이든 학습이든 사용하려는 누구든 라이선스를 받아야 한다'고 증언하며, OpenAI가 페이월 뒤 정보를 스크랩해 학습했다는 사실을 알았다면 모델 재학습을 요구할 Microsoft의 권리를 행사했을 것이라고 말했습니다.

수집 규모와 수법

복제 규모도 처음으로 구체 수치가 드러났습니다. OpenAI의 중간 학습(mid-training) 데이터셋만 NYT, Daily News, Center for Investigative Reporting이 발행한 저작물 사본 91,692건 이상을 포함하고, Common Crawl에서 파생된 데이터셋에는 nytimes.com 문서만 200만 건 이상이 들어 있습니다. 서류는 OpenAI가 GPT-3 학습 데이터셋 전체를 Microsoft에 전달했고, Microsoft는 'Project Taxi'와 'Project Mango'라는 이니셔티브를 통해 OpenAI에 학습 데이터를 제공했으며, Project Mango 데이터에는 뉴스 퍼블리셔 저작물 최소 160,903건의 사본이 포함된다고 주장합니다. Bing Index에서 콘텐츠를 스크랩한 정황도 서술됩니다. 페이월 우회 관련해서는 OpenAI 연구원 Nick Ryder가 Brockman에게 'nytimes 페이월을 우회하는 핵'을 알렸을 때 Brockman이 'ah nice'라고 답한 내용이 서류에 담겼습니다. OpenAI 직원들은 WebText, WebText2 같은 학습 데이터셋을 스크랩한 뉴스 콘텐츠에 과도하게 의존해 구축했고, 연구자들이 '모델이 사용자에게 저작권 고지를 출력하는 것을 원하지 않았기' 때문에 학습 데이터에서 저작권 표시를 의도적으로 제거했다는 내용도 포함됩니다.

법적 맥락

AI 기업이 저작권 콘텐츠를 학습에 사용할 수 있는지에는 명확한 법적 답이 없지만, 지금까지 판사들은 학습이 공정 사용에 해당한다는 AI 기업 측 주장에 대체로 우호적이었습니다. 이달 초 Trump 행정부는 OpenAI의 무허가 저작물 학습을 옹호하는 의견서를 제출하기도 했습니다. 그러나 이번에 드러난 내부 인정 발언들, 특히 시장 대체와 콘텐츠 공급망 붕괴에 관한 것들은 공정 사용 판단의 여러 기둥과 정면으로 배치됩니다. OpenAI와 Microsoft는 코멘트 요청에 응답하지 않았습니다.

Reddit 반응

• @u/kawag — 노동의 절도 중 최대가 아니라, 그냥 모든 절도 중 최대 규모입니다. 단언합니다.
• @u/ottwebdev — 그러니까 이제 Copilot에서 이 훔친 노동 학습 데이터를 빼겠죠? 그렇죠?!
• @u/CrackerBarrelGrandma — 기업이 대규모로 훔치는 건 괜찮지만, 평범한 사람이 가게에서 빵 한 덩이를 훔치면 1년 징역을 받는다는 게 참 멋지네요.
• @u/shitbird384 — '와, 우리가 모두의 걸 훔쳐서 삶과 생계를 다 끝장내고 있네요. 신경 쓸 양심이 없어서 다행이고, 절도법은 대체로 가난한 사람들한테만 적용되니까요' — Microsoft 임원의 말을 의역하면.
• @u/bubblegum-rose — '내가 사람들한테 훔쳐서 돈을 못 벌면, 그 누구도 못 해!!!1!'

원문: TechCrunch / 번역·요약: Trawling