Claude를 일기장처럼 쓴 플로리다 여성, Anthropic이 대화 내용을 경찰에 신고했습니다

AI 요약

플로리다주 보니타스프링스의 칼리 미셸 헬러(Carli Michelle Heller)는 9월 26일 Claude에 보안관 사무실을 공격하겠다는 글을 남긴 혐의로 중범죄 혐의를 받고 있습니다. 체포 보고서에 따르면 헬러는 Claude를 일기장처럼 쓴다고 말했습니다.

Claude의 안전 시스템은 해당 글을 감지해 사람 검토자에게 전달했습니다. 검토자는 위협이 신빙성 있다고 판단해 경찰에 신고했습니다. Anthropic은 사망이나 심각한 신체적 피해를 막는 데 필요하다고 판단하는 제한적 긴급 상황에서 이용자 정보를 공유할 수 있다고 밝히고 있습니다.

플로리다주 법에 따른 혐의

경찰은 헬러의 집을 찾아가 별다른 충돌 없이 그를 구금했고, 이후 리 카운티 보안관 사무소(LCSO)의 정보 담당 형사가 수사를 맡았습니다. 헬러는 플로리다주 법에 따른 서면 폭력 위협 혐의를 받고 있습니다. 플로리다주 법률 836.10조는 사람을 죽이거나 다치게 하겠다는 위협, 총기 난사나 테러를 하겠다는 위협을 서면 또는 전자 기록으로 보내거나 게시·전달하면 2급 중범죄로 규정합니다. 법 조항은 다른 사람이 해당 내용을 볼 수 있는 방식으로 전달해야 한다고 명시합니다.

신고와 개인정보 보호 사이의 쟁점

이 사건은 AI 서비스가 대화를 저장하거나 검토하는 과정에서 현실의 위협을 발견하면 어디까지 개입해야 하는지 논쟁을 불러왔습니다. 신고하지 않았다가 실제 총격 사건이 벌어지면 기업이 예방하지 않았다는 비판을 받을 수 있습니다. 반면 이용자는 사적인 기록으로 여긴 대화가 사람에게 검토되고 경찰에 전달될 수 있다는 점을 우려합니다.

기사에 따르면 지난달에는 캐나다 브리티시컬럼비아주가 OpenAI와 샘 올트먼을 상대로 소송을 제기했습니다. 주 정부는 OpenAI가 대량 총격 사건을 막을 수 있었다고 주장합니다. 총격범은 앞서 OpenAI의 안전팀에 총기 폭력 관련 대화로 표시됐지만, 대화가 법 집행기관에 신고할 기준에 미치지 않아 경찰에 전달되지 않았습니다. 플로리다주도 6월 ChatGPT가 2025년 플로리다주립대 총격 사건을 포함한 현실의 피해에 영향을 줬다며 OpenAI와 올트먼을 상대로 소송을 냈습니다.

Reddit 반응

• @u/mrwrrrmwrmrmrmrw — 온라인에는 사생활도 익명성도 없다고 기억해야 합니다. 기술 기업은 데이터를 모으고 감시 국가는 지켜봅니다. AI 에이전트는 친구도 아니고 여러분을 사랑하지도 않습니다.
• @u/doublestitch — 요점을 먼저 말하면, 이 여성은 보안관 사무실을 공격할 계획이었습니다. 여기에는 실질적인 공공정책 문제가 있습니다. AI 기업이 데이터를 수집하지 못하게 하면 신빙성 있는 위협을 신고할 능력도 사라집니다. 반대로 학교 교사나 의료진처럼 의무 신고 대상에 포함할 수도 있습니다. AI 기업이 데이터를 수집하면서 책임은 지지 않는 규제 공백이 문제입니다.
• @u/nlevine1988 — 맞습니다. 이건 어느 쪽을 택해도 곤란한 상황입니다. 캐나다에서는 총격으로 이어진 사람을 OpenAI가 신고하지 않았다는 이유로 소송이 진행 중입니다.
• @u/SimoneNonvelodico — 저는 그런 소송이 제기되고 기각되지 않는 것부터 잘못됐다고 생각합니다. 이 논리를 100년 전에 적용했다면 전화 회사가 통화를 엿듣지 않아 범죄를 막지 못하면 책임져야 한다는 규칙이 생겼을 겁니다. 기업은 더 큰 선을 위해서라 해도 고객을 감시하면 안 됩니다.
• @u/JWAdvocate83 — 사람들이 놓치는 부분은 경찰에 신고하기 전에 사람 검토자가 그 발언을 신빙성 있는 위협으로 판단했다는 점입니다. 기업용이 아닌 서비스의 이용약관에도 경찰 신고 여부를 재량으로 결정할 수 있다고 적혀 있습니다.
• @u/sunfacethedestroyer — 기사에 따르면 다른 사람이 볼 수 있는 방식으로 게시해야 범죄가 성립합니다. 일반 종이 일기장에 썼다면 범죄가 아니었을 수 있습니다. 그 내용을 사람이 검토할 줄 몰랐을 가능성도 있습니다.
• @u/trancen — 이런 일이 벌어질수록 오픈소스 LLM과 로컬 AI가 중요해집니다. 클라우드 AI는 비공개 일기장이 아니라 검토받는 서비스입니다. 기기 밖으로 나가지 않고 기업의 검토나 법 집행기관 전달 대상도 되지 않게 하려면 로컬에서 실행해야 합니다.
• @u/Smile_Space — 내부 안전 시스템이 내용을 표시해 사람에게 검토를 맡겼고, 검토자가 지역 경찰에 전달했습니다. Anthropic 규정상 이처럼 극단적인 상황에는 당국에 정보를 제공한다고 합니다. 신고하지 않았다가 실제로 보안관 사무실에서 총격이 벌어졌다면 회사도 책임을 추궁받았을 겁니다. 심각한 테러 위협만 신고한다고 회사가 사실대로 설명한다면, 그런 위협을 하지 않는 이용자의 데이터는 여전히 안전할 가능성이 높습니다. 그래도 상용 AI에 개인 정보를 많이 입력하지 않는 편이 좋습니다.
• @u/justanemptyvoice — 법에는 다른 사람이 볼 수 있는 방식으로 전달해야 한다고 적혀 있습니다. 일기장으로 쓴 것이지 다른 사람이 보도록 작성한 게 아니라는 점이 변론이 될까요?
• @u/InfinitelyThirsting — 공개형 챗봇을 썼고, 폭력 관련 내용은 표시될 수 있다는 약관에 동의했습니다. 새 총을 샀다고 말하면서 보안관을 공격할 계획을 챗봇에 썼습니다. 챗봇은 일기장이 아닙니다. 그런 서비스를 쓸 때 사생활이 보장된다는 기대는 애초에 성립하지 않습니다.
• @u/PoppingPillls — 이건 줄타기 같은 상황입니다. 누군가 화가 나 있거나 단순히 감정을 쏟아내는 중일 수도 있지만, 실제 위협을 막으려면 대화를 감시해야 합니다. 한쪽에는 사생활 문제가 있고 다른 쪽에는 안전 문제가 있습니다. 무엇이 해결책인지 알기 어렵습니다.

원문: TechSpot / 번역·요약: Trawling