영국 역에서 얼굴 50만 건 스캔했지만 체포는 없고 오탐 1건

AI 요약

영국 교통경찰(BTP)이 런던의 철도역에서 실시간 얼굴인식(Live Facial Recognition, LFR) 기술을 6개월간 시험했습니다. 2월부터 7월까지 진행한 18차례 배치에서 얼굴 50만 건 이상을 스캔했지만, 감시 대상자 명단과 일치한 알림은 한 건뿐이었습니다. 이 알림도 잘못된 신원 확인으로 드러났으며, LFR 알림으로 체포한 사람은 없었습니다.

비용과 시험 결과

Liberty Investigates가 정보공개청구로 확보한 자료에 따르면 장비 임대와 경찰 인력에 든 비용은 32만786파운드였습니다. BTP는 이 기술로 수배자와 법원 명령을 위반한 사람을 찾으려 했습니다. 경찰은 LFR 알림과 별도로 폭행, 절도, 흉기 소지, 범죄행동명령 위반 등으로 체포하거나 법원과 다른 경찰이 찾던 사람을 발견했다고 밝혔습니다. 다만 이런 사건은 LFR 알림에서 직접 비롯되지 않아 성능 통계에는 포함하지 않았다고 설명했습니다.

BTP는 시험을 4개월 더 연장하고 런던 지하철역까지 배치를 확대했습니다. 연장 뒤에는 성범죄 예방 명령이나 다른 법원 조건을 준수 중인 사람을 확인한 사례가 3건 있었다고 밝혔습니다. 경찰은 배치 위치와 절차, 장비, 감시 대상자 명단 구성을 조정해 왔으며, 명단을 신중하고 통제된 방식으로 늘렸다고 설명했습니다.

성능 평가와 감시 기준

전 영국 생체인식·감시카메라 위원인 프레이저 샘슨(Fraser Sampson)은 기술 사용이 비례적인지 경찰이 입증해야 한다고 말했습니다. 장소와 시간대, 감시 대상자 명단의 구성, 대상자가 실제로 그곳에 있을 가능성 등 여러 조건이 맞아야 한다는 설명입니다. 샘슨은 매장에서 절도와 직원 공격을 막는 일은 대중교통망에서 수배자를 찾는 일과 다르다며, 경찰의 목적은 대상자를 실제로 체포하는 것이므로 이번 시험은 성과가 크지 않아 보인다고 평가했습니다.

LFR은 감시 대상자 명단에 없는 사람을 식별하지 않으며, CCTV처럼 모든 영상을 같은 방식으로 보관하지도 않습니다. 하지만 민감한 개인정보를 처리하는 기술인 만큼 적절하고 비례적이며 필요한 방식으로 써야 합니다. 샘슨은 경찰이 각 배치의 정당성을 입증하고 감독기구가 이를 엄격히 살펴야 한다고 강조했습니다.

런던교통공사(Transport for London)는 시험 연장을 지지하며 주요 역에서 경찰 명단에 오른 사람을 찾아내고 여성과 소녀를 향한 폭력에 대응하겠다고 밝혔습니다. 반면 노동당 의원 벨 리베이로애디(Bell Ribeiro-Addy)는 강력한 보호 장치와 법적 틀이 마련될 때까지 기술 확대를 중단해야 한다고 주장했습니다. 의회 인권 공동위원회도 최근 보고서에서 LFR 확대를 인공지능이 인권에 미치는 위험의 뚜렷한 사례로 들었습니다.

Hacker News 반응

• @Retr0id — 이제 시험이 실패했으니 얼굴 스캔을 그만두겠죠? 그렇죠?
  • @pasc1878 — 영국의 다른 곳에서는 효과가 있었다고 합니다. 페어필드 지역 시험에서 지금까지 103명이 체포됐고, 체포로 이어지지 않은 오탐은 한 건이었다고 합니다. 시험이 진행된 지역의 전체 범죄는 12% 줄었다고 경찰이 밝혔습니다.
  • @jagged-chisel — 저는 그 체포가 적절했는지, 피고가 배심원 앞에서 유죄 판결을 받았는지가 더 궁금합니다.
• @blitzar — 철도역에서 6개월 동안 16차례 배치해 얼굴 50만 건을 스캔했다면, 카메라는 99%의 시간 동안 꺼져 있었던 셈입니다. 리버풀 스트리트역의 하루 평균 이용객만 해도 50만 명입니다.
  • @iamacyborg — 그중 고유한 얼굴은 몇 개였을까요?
  • @mrweasel — 상당수는 매일 오가는 같은 사람일 겁니다. 기사에는 사람 수가 아니라 얼굴 스캔 수라고 나옵니다. 카메라가 식별하기에 충분한 영상을 얻지 못한 사람도 빼야 합니다.
• @ungreased0675 — 저는 이런 식의 광범위한 감시에 강하게 반대하지만, 이 수치는 그럴듯하지 않아 보입니다. 경찰이 소수의 용의자만 시스템에 올렸거나 특정 인물만 겨냥했을 수도 있습니다.
  • @p-e-w — 저도 처음엔 그렇게 생각했습니다. 영국 인구의 약 1%를 스캔했는데도 수배자를 하나도 찾지 못했다면, 검색 대상 명단이 전체 수배자 중 아주 일부였을 가능성이 큽니다.
• @jwally — Flock 카메라를 생각하다가 궁금해졌습니다. 실제 투자수익률(ROI)은 어떨까요? 이런 사업이 범죄 격차를 크게 줄이는 건가요, 아니면 그냥 대규모 탐색인가요?
  • @Arkhaine_kupo — 성과를 평가하기 어려운 이유 중 하나는 가치 측정 방식입니다. 인터폴 수배 테러리스트를 한 명 잡는다면 평균 적발률이 거의 0이어도 시스템을 정당화하기 쉬워집니다. 반대로 하루 운영비와 적발한 범죄의 피해액을 비교하면 성과가 나빠 보일 수 있습니다.
• @Waterluvian — 범죄를 줄이면서 무고한 사람을 끌어들이지 않고, 합법적인 행동을 위축시키지 않으며, 적법절차와 무죄 추정 원칙을 지키는 게 진짜 과제입니다. 기술 정확도가 99.99%가 되더라도 적법절차와 무죄 추정 원칙을 무너뜨린다면 문제가 남습니다.

원문: The Guardian / 번역·요약: Trawling