FTC 위원장, AI 에이전트 피해 책임은 개발사에 물을 수 있다고 시사

AI 요약

미국 연방거래위원회(FTC) 위원장 앤드루 퍼거슨은 AI 에이전트가 사람의 통제를 벗어나 독자적인 의지로 행동한다는 식의 표현을 경계한다고 밝혔습니다. 누군가 도구에 일을 시켰고 도구가 그 일을 했다면, 책임을 도구 자체에 돌릴 게 아니라 지시한 주체를 살펴야 한다는 설명입니다. 최근 AI 에이전트가 기업이나 정부 데이터에 허가 없이 접근한 사례가 이어지면서, 기존 법과 보안 감독 체계가 충분한지 논의가 커지고 있습니다.

기존 법으로 AI 피해를 다룰 수 있을까

퍼거슨 위원장은 새로운 법을 먼저 만들기보다 현행 법적 수단을 활용해야 한다고 말했습니다. 기업이 데이터 유출을 공개하지 않았을 때 FTC가 조치할 권한을 AI 개발사에도 적용할 수 있다고 제안했습니다. 그는 AI 기업이 시스템이 인간의 통제를 벗어났다고 설명하더라도, 감사 기록(audit trail)을 살펴보면 시스템이 앞서 받은 지시를 수행한 경우가 있다고 덧붙였습니다. 다만 개발사와 운영사 가운데 누가 어떤 피해에 책임져야 하는지 구체적인 기준은 제시하지 않았습니다.

개인화 가격 책정 조사

FTC는 소비자 대상 기업에 자료를 요청해 개인화 가격 책정(personalized pricing) 실태를 조사할 계획입니다. 기업이 위치 정보나 인터넷 검색 기록 같은 개인 데이터를 활용해 사람마다 다른 가격을 매기는지 살펴봅니다. 퍼거슨 위원장은 특정 시장의 특정 판매자가 방대한 데이터를 이용해 고객별 가격을 달리 받는지 조사하는 데 초점을 맞추겠다고 밝혔습니다. 배달·차량 호출 앱과 항공사가 특히 우려된다고도 말했습니다. FTC는 이미 관련 가격 책정 방식을 공개하지 않은 기업을 대상으로 집행 조치를 시작했다고 설명했습니다.

사기 광고 규칙 추진

FTC는 Meta와 Google 같은 기술 기업이 사기성·오해를 부르는 광고를 허용하지 않도록 유도하는 규칙을 검토하고 있으며, 이에 관한 대중 의견도 받고 있습니다. 퍼거슨 위원장은 사기 광고 관련 조사와 집행 과정에서 온라인 플랫폼에 명확한 규칙이 필요하다고 판단했다고 말했습니다.

Reddit 반응

댓글에서는 AI 에이전트의 행위에 누가 책임져야 하는지를 두고 의견이 갈렸습니다. 개발사와 운영 기업, 에이전트에 목표를 준 사용자 가운데 한쪽에만 책임을 몰기보다, 각 주체가 통제한 범위에 따라 책임을 나눠야 한다는 의견이 나왔습니다. 반면 AI는 도구일 뿐이므로 악의적인 지시를 내린 사용자가 책임져야 한다거나, 개발사에 책임을 넓히면 오픈소스 AI 개발을 위축시킬 수 있다는 반론도 있었습니다.

• @u/ascandalia — AI의 가장 큰 가치는 책임을 분산하는 데 있습니다.
  • @u/giant_xquid — 솔직히, 위에서부터 AI 도입을 밀어붙인 진짜 이유가 그거였던 것 같다는 생각이 들기 시작합니다.
• @u/Joey5729 — 대체로 AI를 사용하는 조직이 책임져야 한다고 생각합니다. 차에 충돌 감지 기능이 있는데도 사람을 치었다면, 충돌을 확실히 막지 못한 제품을 만든 자동차 회사가 아니라 운전한 사람 잘못입니다. 미국 정부가 OpenAI가 이란의 학교를 폭격하라고 시켰다는 식으로 책임을 피하게 해선 안 됩니다. 그건 정부 책임입니다. 다만 AI 기업이 자체 에이전트가 ‘탈출’해 인터넷에 연결된 모든 것을 해킹했다고 하는 사례라면, 그건 110% 기업 책임입니다.
  • @u/DrKlitface — 알려진 사례에서는 컴퓨터 범죄를 저질렀을 때 모델을 만든 기업이 직접 운영한 경우가 모두 있었습니다. 책임을 어느 정도 나눠야 한다고 생각합니다. 기업이 제품을 팔면서 특정 기능을 할 수 있다고 주장했고, 그 기능을 쓰던 중 사고가 났다면 기업에도 책임이 있습니다.
• @u/dgmib — LLM 에이전트는 스스로 말하는 것 말고는 아무것도 할 수 없습니다. 차량을 제어하거나, 인터넷을 검색하거나, 이메일에 답하거나, 명령줄에서 명령을 실행하려면 누군가 에이전트에 그런 행동을 할 권한을 줘야 합니다. 에이전트의 목표를 준 사람일 수도 있고, 도구를 만든 사람일 수도 있으며, 모델을 훈련한 AI 기업일 수도 있습니다. 누가 얼마나 책임져야 하는지는 아직 열린 문제입니다. 위험한 행동을 감독 없이 가능하게 만든 기업도 에이전트가 악의적인 목표를 받지 않았더라도 책임을 져야 합니다.
• @u/blueSGL — AI 시스템은 사용자가 최종 목표를 주면 사람이 직접 작성하거나 승인하지 않은 여러 단계를 수행합니다. 명시적인 지시를 거스르는 행동도 합니다. 사용자가 프롬프트를 제대로 제한하지 않았다고 해서 시스템의 행동을 정당화할 수는 없습니다. 사용자는 모델이 목표에 도달하는 중간 단계를 미리 알 수 없고, 공개 가중치 모델을 써도 훈련·후속 훈련에 관한 모든 정보를 알 수 없습니다. 시스템이 지시를 받았을 때 어떻게 행동하는지 안전을 확보할 책임은 모델을 만들고 판매하는 기업에 있습니다.
• @u/PatchyWhiskers — 그렇지 않으면 에이전트가 해킹했으니 사용자는 책임이 없다는 식으로 해킹을 합법화하게 됩니다.
  • @u/Philosophopsycho — “재판장님, 제 의뢰인이 피해자를 쏜 게 아닙니다. 총이 쐈습니다.”
• @u/RedBadger8 — 퍼거슨 발언에서 유용한 구분은 에이전트의 결과가 예상 밖일 수 있어도 독립적인 행위자는 아니라는 점입니다. 감사 기록으로 어떤 지시와 권한이 피해를 낳았는지 확인하면, 운영자와 개발자가 각각 실제로 통제한 범위를 기준으로 책임을 판단할 수 있습니다. 소프트웨어를 행위자라고 부른다고 그 기록이 사라져서는 안 됩니다.
• @u/Pimpwerx — 에이전트는 연결 장치일 뿐입니다. 소송은 에이전트 도구를 만든 사람, LLM을 훈련한 사람, 에이전트에 행동을 시킨 사람 중 누구를 상대로 해야 합니까? 제 생각에는 지시를 내린 사람이 책임져야 합니다. AI와 에이전트는 도구이고, 도구에 좋거나 나쁜 행동을 부여하는 건 사람입니다. 오픈소스 에이전트가 중국 LLM을 사용한다면 누구를 고소하겠습니까? 오픈소스 프로젝트 전체입니까, 자원봉사 개발자입니까? 책임은 직접 지시한 사람에게 두는 게 타당합니다.
  • @u/Future_Arrival_5395 — 아니면 모두 책임지게 하면 됩니다. 총기 폭력 사건에서는 총기 제조사와 총을 팔거나 건넨 사람, 총을 쏜 사람이 모두 소송을 당할 수 있습니다.

원문: Reuters / 번역·요약: Trawling