AI 얼굴 인식 단서로 은행 절도범 오인 체포된 여성, 1,000만 달러 소송

AI 요약

테네시주에 사는 50세 여성 앤젤라 립스(Angela Lipps)는 자신이 저지르지 않은 은행 절도 혐의로 체포돼 약 6개월간 구금됐다며 노스다코타주 파고시와 파고 경찰 형사 루카스 헥(Lucas Heck)을 상대로 1,000만 달러 손해배상 소송을 제기했습니다. 소장에 따르면 립스는 2025년 7월 이웃집 아이들을 돌보던 중 체포됐습니다. 테네시주 구금시설에 머문 뒤 노스다코타주로 이송됐고, 보석금 10만 달러를 낼 수 없어 구금 상태가 이어졌습니다. 립스와 변호인이 범행 당시 테네시에 있었다는 은행 기록을 제출한 뒤 혐의는 취하됐으며, 립스는 크리스마스이브에 풀려났습니다.

얼굴 인식 결과는 수사 단서였습니다

소장에 따르면 웨스트파고 경찰 수사관이 사용한 AI 얼굴 인식 소프트웨어는 은행 절도 사건의 용의자가 사용한 위조 신분증 사진과 립스의 소셜미디어 사진을 비교했습니다. 시스템은 립스를 잠재적 수사 단서로 제시했습니다. 하지만 소장에는 립스와 감시 영상 속 용의자가 체격, 얼굴 특징, 문신에서 달랐다고 적혀 있습니다. 립스는 체포 전 노스다코타주에 간 적도 없었습니다.

파고 형사 헥은 얼굴 인식 시스템을 직접 사용한 혐의를 받지는 않습니다. 다만 소장은 헥이 충분히 조사하거나 체포영장 발부에 필요한 상당한 근거(probable cause)를 확보하지 않은 채 영장을 요청했다고 주장합니다. 경찰이 얼굴 인식 결과를 단독 근거로 체포나 기소에 사용해서는 안 된다는 점을 알면서도 무시했고, 파고 경찰이 관련 기술 사용법을 제대로 교육·감독하지 않았다는 주장도 담겼습니다.

당시 파고 경찰서장 데이브 지볼스키(Dave Zibolski)는 수사 과정에서 몇 가지 오류를 확인했다고 밝혔습니다. 웨스트파고 경찰은 위조 신분증 사진으로 립스를 단서로 삼았지만, 파고 형사들은 은행 감시 사진도 얼굴 인식에 사용된 것으로 잘못 이해했다고 설명했습니다. 지볼스키는 위조 신분증 사진 속 인물이 실제 신분증 소지자라는 보장은 없다고 말했습니다. 파고 경찰에는 자체 얼굴 인식 시스템이 없으며, 통상 미확인 인물을 주·지역 정보센터에 보내 확인한다고도 밝혔습니다. 웨스트파고 시스템을 사용한 방식은 허용되지 않았고, 이후 금지했다고 덧붙였습니다.

구금 피해와 소송

소장에 따르면 립스는 구금 중 약을 받지 못했고 틀니도 제공받지 못했습니다. 가족 생일과 추수감사절, 크리스마스를 놓쳤으며, 풀려난 뒤에는 살던 집과 자동차, 개인 소지품을 잃은 사실을 알게 됐습니다. 변호인 에릭 라이스(Eric Rice)는 청구액이 크지만 립스에게 발생한 구체적인 피해를 반영한다고 말했습니다. 파고시는 계류 중인 소송에 관해 언급하지 않겠다고 밝혔습니다.

Reddit 반응

• @u/aStonedDeer — 한 푼도 빠짐없이 받아야 합니다.
  • @u/usrdef — 그걸로는 피해를 만회하기에 턱없이 부족합니다. 판사들은 적격 면책(qualified immunity)을 없애야 합니다. 전부 폐지하지 않더라도 경찰관이 기본적인 확인 절차를 하지 않아 무고한 사람을 불법 구금한 경우처럼 특정 범위에서는 면책을 없애야 합니다. 경찰관이 책임을 져야 한다는 걸 알게 되면 올바른 사람인지 확인하려고 한 번 더 살펴볼 겁니다.
• @u/myislanduniverse — 이런 식의 오인 체포에는 큰 비용이 따라야 합니다. 값싼 엉터리 로봇이 맞는지 확인해야 합니다. 이런 사건은 배심원 재판까지 가야 합니다. 형편없는 AI 도구의 말만 듣고 6개월이나 가둬 두다니요. 정의를 무시한 책임자들도 감옥에 가야 합니다.
  • @u/lazyoldsailor — 더 심각한 건 강도가 사용한 위조 신분증 사진을 AI가 분석했다는 점입니다. 은행을 털 때 강도가 왜 자기 사진이 든 위조 신분증을 쓰겠습니까? AI가 맞았는지는 요점이 아닙니다. 형사들은 위조 신분증과 AI의 판단을 그대로 받아들이지 말고 더 조사했어야 합니다.
• @u/MedicalScientist8576 — 이런 시스템은 AI와 얼굴 인식의 능력과 한계를 제대로 모르는 사람들이 억지로 도입하는 것 같습니다. AI는 사람들이 믿고 싶어 하는 만큼 똑똑하지 않습니다.
  • @u/Current-Lion-3786 — 정말 맞는 말입니다. 더 많은 사람이 이 점을 알았으면 좋겠습니다. 사람 얼굴을 그린다고 여섯 손가락 이미지를 계속 만드는 프로그램을 얼마나 믿을 수 있겠습니까? 서로 다른 용도라는 건 알지만, 한쪽에서 제대로 못 하면 다른 쪽에서도 잘할 거라고 보기 어렵습니다.
• @u/Secret_Fee1146 — 제대로 감독하지 않은 채 이런 전문 조직이 AI에 크게 의존했다면 중대한 과실입니다. 1,000만 달러는 쉽게 받아야 하지만, 책임을 피하려고 끝까지 다툴 겁니다.
  • @u/ChipChester — 은행은 이 일에 책임이 없습니다. 파고 경찰과 웰스파고(Wells Fargo)는 다른 곳입니다. 배상금과 별개로 문제를 일으킨 경찰관도 같은 기간 감옥에 보내야 합니다.
• @u/Consistent-Train8094 — 기계가 누군가를 절도범으로 잘못 지목했다면, 그 결과를 증거처럼 취급한 사람들이 책임져야 합니다. 피해자가 아니라요.
• @u/JingtianXiming — 제목에 왜 ‘혐의상(alleged)’이라는 표현이 들어갔나요? AI가 얼굴 인식 결과를 냈다는 점이 불확실한가요, 아니면 법 집행기관이 그 결과를 사용했다는 점이 불확실한가요?
  • @u/morgrimmoon — 아직 어느 사람이 잘못했는지 입증되지 않았기 때문에 ‘혐의상’이라고 쓴 겁니다. 컴퓨터가 체포를 결정하는 것도 아닙니다. 경찰 내부의 다른 실수나 개인적인 이유가 원인이었을 가능성도 아직 배제되지 않았습니다. 관련 소송이 끝날 때까지 언론은 명확해 보이는 사실도 단정하지 않으려 합니다.

원문: ABC News / 번역·요약: Trawling