ChatGPT가 가짜 뉴요커 만화에 실제 만화가 서명을 붙입니다

AI 요약

돌리 파튼과 팀 커리가 천국에서 만나는 장면을 그린 만화가 소셜미디어에서 퍼졌습니다. 오른쪽 아래에는 뉴요커(The New Yorker) 만화가 브렌던 로퍼(Brendan Loper)의 필명 ‘BLOPER’가 적혀 있었지만, 로퍼는 그림을 그리거나 서명하지 않았습니다. 페이스북에 이미지를 올린 팬은 ChatGPT에 “뉴요커 스타일 만화”를 만들어 달라고 요청했다고 밝혔습니다. 로퍼는 지인과 낯선 사람들에게 작품이 자신의 그림인지 묻는 연락을 받았습니다.

그림체 모방에 작가 서명까지

로퍼는 앞서도 ChatGPT가 생성한 이미지에 자신의 필명이 들어간 사례를 접했습니다. 레딧에는 뉴요커풍 만화와 함께 다른 기고 만화가들의 서명이 나온 이미지가 올라왔습니다. 기사 작성자의 테스트에서도 조지 부스(George Booth), 리자 도널리(Liza Donnelly), 엘리스 로젠(Ellis Rosen), 솔 스타인버그(Saul Steinberg) 등 여러 작가의 이름이 확인됐습니다. 기사에서 기록한 작가는 15명이 넘습니다.

생성된 만화는 흑백 단일 패널, 간결한 배경, 또렷한 선, 냉소적인 문구처럼 잡지의 시각적 특징을 흉내 냈습니다. 모든 이미지에 서명이 붙지는 않았고, 알아볼 수 없는 필명도 있었습니다. 하지만 실제 기고자의 서명이 반복해서 나왔습니다. 에밀리 플레이크(Emily Flake)는 그림에서 자신의 작업 흔적을 보면서도 “먼 친척을 보는 느낌”이라고 말했습니다. 여러 작가의 그림체를 섞은 듯한 이미지에 자신의 이름이 붙으면, 자신이 하지 않은 말을 한 것처럼 보인다고 했습니다.

만화가들에게 서명은 단순한 이름 표기가 아닙니다. 온라인에 작품이 맥락이나 라이선스 정보 없이 퍼질 때, 서명은 작가와 작품을 연결하는 표시로 쓰입니다. 제이슨 애덤 캐츠스타인(Jason Adam Katzenstein)은 ChatGPT가 자기 이름을 자신이 지지하지 않는 그림에 붙이는 행위를 허위 사칭에 가깝다고 봤습니다. 조 데이터(Joe Dator)는 누군가 신용카드를 해킹한 일보다 이번 일이 더 침해적으로 느껴진다며, “그때는 내 옷을 입고 다니지는 않았다”고 말했습니다.

라이선스 계약과 법적 쟁점

콘데 나스트(Condé Nast)는 2024년 OpenAI와 다년간 콘텐츠 라이선스 계약을 맺었습니다. 계약 조건은 공개되지 않았습니다. 뉴요커 대변인은 해당 계약이 잡지 만화의 모델 학습을 허가하지 않았으며, 로고를 만화에 넣는 일도 허용하지 않았다고 밝혔습니다. 기고 만화가의 표준 계약서에도 AI 학습 라이선스 조항은 없었습니다. 잡지는 만화를 먼저 게재할 권리를 갖지만, 작품을 ‘업무상 저작물(work for hire)’로 소유하지는 않습니다. 저작권은 만화가에게 남습니다.

OpenAI는 모델이 서명을 어떻게 학습했는지에 관한 질문에는 답하지 않았습니다. 인터넷에서 이미지를 수집했을 가능성이 있지만, 기사는 이를 확인된 경로로 제시하지 않습니다. OpenAI는 인간의 창의성과 창작자를 돕는 도구를 만들고 있으며, 모델의 의도치 않은 동작을 알리면 수정하겠다고 밝혔습니다. 기사 작성자가 문제를 알린 뒤 ChatGPT에는 뉴요커 스타일 요청이 제3자 콘텐츠와 유사할 수 있다는 경고가 나타났습니다. 그러나 기사 공개 시점에도 일부 생성 이미지에는 실제 만화가의 이름이 붙었습니다.

미국 법률에서 그림체 자체를 저작권으로 보호하기는 어려울 수 있습니다. 코넬 로스쿨의 제임스 그림멜먼(James Grimmelmann) 교수는 생성 결과가 특정 만화를 복제하기보다 일반적인 그림체를 흉내 내는 경우가 많다고 설명했습니다. 서명은 저작권 침해와 별도로 이름이나 정체성의 무단 사용을 다루는 퍼블리시티권(right of publicity) 쟁점이 될 수 있습니다. 다만 해당 이미지가 농담으로 공유된 것인지 상업적으로 이용된 것인지 입증해야 할 수 있습니다. 시각예술가의 저작인격권이나 상표권이 적용되는지에 관해서는 Hacker News에서도 의견이 갈렸습니다.

창작 노동과 생성형 이미지

기사에서는 AI 이미지 생성기가 전문 만화가의 일을 밀어내는 사례도 다룹니다. 볼티모어 선(Baltimore Sun)은 30년 넘게 만화를 그린 케빈 칼러(Kevin Kallaugher)를 지난해 해고했고, 올해에는 의견면에 AI 생성 만화를 정기적으로 실었습니다. OpenAI의 워터마크 식별 도구는 해당 그림이 OpenAI 제품으로 만들어졌다고 표시했습니다. 만화가들은 뉴요커 원고료만으로 생계를 꾸리지는 못하지만, 잡지 게재 경력이 상업 작업과 책 삽화 등 다른 일감으로 이어진다고 말했습니다. 이들에게 위협이 되는 일은 잡지 만화 한 편의 대체에 그치지 않습니다.

Hacker News 반응

• @skybrian — 의도가 무엇이었든 분명한 버그이니 고쳐야 합니다. 하지만 ChatGPT는 만화에 자기 이름을 서명해야 할까요, 아니면 서명 없이 둬야 할까요?
  • @saalweachter — 제 생각에는 버그란 “뉴요커 만화의 모서리에 가장 그럴듯한 픽셀 무리를 생성한 것”입니다.
• @kzsh — 특정 그림체에 특정 서명이 나타날 확률을 본 것 같습니다. 서명하려는 의도가 있었다는 뜻은 아니라고 생각합니다.
  • @ctippett — 맞습니다. Getty Images 워터마크나 로고가 이미지 생성 결과에 뒤틀린 채 나오는 경우도 있습니다. 학습 데이터에서 두드러진 요소라면 모델이 그렇게 생성합니다. 막아야 할 ‘버그’는 모델이 아니라 이를 피하도록 유도하는 후처리나 시스템 프롬프트에 있을 겁니다.
• @dorkwood — 왜 버그인가요? 그림의 다른 부분도 예술가에게서 가져왔다면 서명도 마찬가지 아닌가요? 왜 서명만 선을 넘나요?
  • @DonsDiscountGas — 다른 사람이 그리거나 쓰거나 만든 것과 아주 비슷하게 그릴 수는 있습니다. 하지만 다른 사람 이름이 아니라 자기 이름을 서명해야 합니다.
• @gwern — Nano Banana Pro와 ChatGPT로 만화를 생성할 때마다 이런 문제가 반복됐습니다. 거짓 서명을 지우려고 이미지를 한 번 더 편집해야 합니다. 귀찮고, 대부분의 사용자가 그 작업을 하지 않을 거라 예상합니다.
• @WD-42 — 우리 회사 엔지니어링 매니저가 스프린트 데모 마지막에 만화를 넣었는데, 서명이 ‘bloper’였습니다. 웃기지도 않고 좀 이상해서 물어봤더니 ChatGPT가 만든 그림이었고, 서명은 알아차리지 못했다고 했습니다.
• @baubino — 이 일은 표절과 저작권 침해에서 허위 사칭 문제로 번졌습니다. 누군가의 서명을 그 사람이 하지 않은 문서나 말에 붙이는 일이 어떤 결과를 낳을지 생각하면 섬뜩합니다.
  • @AnimalMuppet — 이건 소송감입니다. 이제는 사람들이 이런 일을 하면 실제로 비용이 큰 법적 책임을 진다는 점을 배워야 합니다. AI 기업도 마찬가지입니다.
• @zahlman — 당연히 이런 일이 생깁니다. 학습 데이터에는 ‘뉴요커 스타일 만화’와 로퍼의 서명이 함께 있는 사례가 많습니다. 모델이 서명을 특별한 요소로 취급하도록 별도로 학습하지 않았다면, 둘을 연결하는 건 예상 가능한 결과입니다.
  • @holden_nelson — AI를 비판하는 저도 이건 분명 사용자 책임이라고 봅니다. 기술에 결함이 있다고 사용자의 책임이 사라지지는 않습니다. 오히려 기술이 그 책임을 키웁니다.
• @cm2012 — 별도로 요청하지 않는 한 AI가 만든 그림에 서명을 넣지 않는 일을 기본값으로 삼아야 합니다.
• @Insimwytim — 문제는 ChatGPT가 그런 그림을 만드는 게 아니라, 그렇게 만든 뒤 소송을 당해 무너질 정도로 책임을 지지 않는다는 겁니다.
  • @gruez — 기사에 따르면 사용자는 ChatGPT에 “뉴요커 스타일 만화”를 요청했습니다. 미국 법에서는 스타일을 저작권으로 보호하지 않습니다. 상표나 초상·정체성 침해 주장이 더 강할 수 있지만, 요청한 사람은 AI가 만든 이미지임을 알고 있었습니다. 이미지를 공개한 사람은 누구였을까요?
• @moralestapia — 프롬프트를 공개하세요. 그게 없으면 이 논의는 의미가 없습니다.
• @serf — 이 문제는 초기 Stable Diffusion 모델부터 쉽게 재현됐습니다. 이미지 생성 모델에 일본 우키요에 스타일을 요청하면, 역사적 그림에서 자주 보이는 한코(hanko)가 거의 늘 나옵니다. 시대나 그림과 관계없는 도장이 ‘일본 미술’의 특징처럼 생성되는 겁니다.
• @nyorai — 생성형 AI와 LLM에 대한 비판이 OpenAI와 제품에 집중되는 것 같습니다. 이런 서명 위조는 Gemini나 Claude도 쉽게 할 수 있다고 생각합니다.
  • @heartbreak — Claude에는 이미지 생성 기능이 없지 않나요?

원문: Nieman Lab / 번역·요약: Trawling