Flock으로도 부족했나 — 댈러스, 쓰레기 수거 차량의 AI 카메라로 주택을 촬영해 57건의 소환장 발부

AI 요약

댈러스시는 Flock Safety의 자동 번호판 인식 카메라(Automatic License Plate Reader)와는 별도로, 쓰레기 수거 차량에 AI 카메라를 장착해 주택 외관을 촬영하는 프로그램을 운영하고 있습니다. 이 카메라는 차량이 주택가를 지나갈 때 건물과 부지를 촬영하고, 인공지능이 의심되는 규정 위반을 식별해 부동산별 ‘황폐화 점수(blight score)’를 부여합니다. 시의 Code Compliance 부서는 이 점수를 활용해 어떤 주소에 단속 인력을 먼저 보낼지 정하고 있습니다.

■ 쓰레기 수거 차량에 장착된 AI 카메라의 작동 방식

NBC 5의 보도에 따르면 카메라는 여름에 운영을 시작했습니다. 시는 카메라가 매달 주택을 촬영할 예정이며, 촬영된 이미지는 1년 동안 보관합니다. 이미지에 포함될 수 있는 얼굴과 차량 번호판은 흐림 처리합니다. 이 시스템은 단순히 사진을 저장하는 데 그치지 않고, 주택의 상태를 분석해 잠재적인 규정 위반 주소를 선별합니다. 시 기록에 따르면 카메라는 4개월 동안 2만 1,000개 주소에서 잠재적인 위반을 표시했습니다.

댈러스시는 이 결과를 바탕으로 3,700명의 부동산 소유자에게 ‘예의상 안내문(courtesy notice)’을 보냈습니다. 시 관계자는 이 안내문이 경고나 공식 위반 통지가 아니라고 설명하지만, 안내문에는 ‘위반 사항이 확인됐다(violations identified)’는 표현이 포함되어 있었습니다. 또한 문제가 해결되지 않으면 소환장(citation)이나 시의 철거·정비 조치(abatement)로 이어질 수 있다고 적혀 있었고, 소유자에게 문제를 신속하게 처리하라고 권고했습니다.

■ 탐지 결과와 실제 집행

댈러스 시 관리자 Kimberly Bizor Tolbert에 따르면 시는 34개 부동산에 대해 총 57건의 소환장을 발부했습니다. 이와 별도로 Code Compliance 부서는 카메라가 더 심각한 위반 가능성을 포착한 부동산과 관련해 약 300건의 추가 집행 사건을 열었습니다. Code Compliance 부국장 Jeremy Reed는 우선순위상 담당 공무원이 현장에 나가 문제를 조속히 해결해야 한다고 판단한 사건이 약 300건이라고 설명했습니다.

다만 카메라가 잠재적 위반으로 표시한 2만 1,000개 주소 전체가 소환장이나 공식 위반 판정을 받은 것은 아닙니다. 시가 발송한 안내문도 공식 소환장과는 구분됩니다. 논란은 이 시스템이 의심 사례를 선별하는 단계와 실제 집행 단계 사이의 차이가 주민에게 충분히 명확하게 전달되지 않았다는 점에서 커지고 있습니다. 시는 안내문이 조치를 요구하는 문서가 아니라고 설명하지만, 문서의 표현은 수령자에게 곧바로 검사나 처벌이 이어질 수 있다는 인상을 줄 수 있습니다.

■ 영구 지붕 부품을 임시 수리로 오인한 사례

Oak Cliff에 거주하는 Sarrah Morrison은 자신의 주택에 ‘쓰레기(litter)’가 있고 지붕이 ‘작동 가능한 상태가 아니다(not in operating condition)’라는 내용의 안내문을 받았습니다. 안내문에는 AI 카메라가 촬영한 주택 사진도 첨부되어 있었습니다. Morrison은 이 표현을 보고 시의 현장 검사나 소환장이 곧 이어질 수 있다고 받아들였습니다.

Morrison은 카메라가 임시 지붕 수리로 판단한 부분이 사실은 평평한 지붕의 일부를 보호하기 위해 수년 전에 설치한 영구적인 금속 마감재(flashing)였다는 자료를 시에 제출했습니다. 시에 해당 내용을 설명하고 자신의 파일에 기록하겠다는 답변을 받은 뒤에도 며칠 만에 같은 안내문을 다시 받았다고 말했습니다. 시 관계자는 안내문이 그 자체로 경고나 위반 판정은 아니며, 안내문을 받았다는 이유만으로 집행이 이뤄지는 것은 아니라고 재차 설명했습니다. 그러나 안내문이 ‘위반’이라는 단어와 후속 집행 가능성을 함께 제시하면서, AI의 오인식이 주민의 행동과 불안에 직접 영향을 줄 수 있다는 문제가 드러났습니다.

■ 저소득 지역에 집중될 수 있다는 우려

댈러스 시의회 의원 Chad West는 이 프로그램이 의도치 않게 ‘가난한 사람들에게 부과되는 세금’이 될 수 있다는 점을 가장 우려한다고 밝혔습니다. NBC 5 Investigates가 작성한 지도에서는 카메라가 잠재적 위반으로 표시한 부동산이 남부 댈러스의 여러 ZIP 코드에 가장 많이 분포한 것으로 나타났습니다. 시가 이를 지역별 문제 집중도를 보여주는 자료로 활용할 수 있는 반면, 해당 지역에 거주하는 사람들에게 단속과 수리 비용이 편중될 가능성도 제기됐습니다.

Morrison은 자신의 건강 상태에도 불구하고 안내문을 받은 뒤 100도에 달하는 더위 속에서 몇 시간 동안 마당을 청소했다고 말했습니다. 그는 비교적 사소한 외관 문제라도 수리 비용을 감당하기 어려운 저소득 지역 주민에게는 검사, 소환장, 정비 명령의 가능성 자체가 재정적 부담이 될 수 있다고 우려했습니다. 특히 AI가 일시적인 수리 흔적이나 영구적인 건축 부품을 규정 위반으로 오인할 경우, 주민이 잘못된 탐지 결과를 바로잡기 위해 시와 반복적으로 소통해야 하는 상황이 생길 수 있습니다.

■ 투명성과 재검토 절차

이 시스템은 촬영 주기, 이미지 보관 기간, 얼굴과 번호판의 비식별화 방식은 공개했지만, 어떤 시각적 특징을 바탕으로 위반 가능성을 판정하는지, 황폐화 점수가 어떤 기준으로 계산되는지, 주민이 AI의 판단에 어떻게 이의를 제기할 수 있는지는 보도에서 구체적으로 제시되지 않았습니다. 현재 확인된 절차에서는 AI 카메라가 주소를 표시하고, 시 공무원이 우선순위를 정해 추가 검토나 현장 방문을 결정합니다. 따라서 카메라의 자동 탐지가 곧바로 집행을 의미하지는 않지만, 주민에게 전달되는 안내문이 그 차이를 충분히 설명하지 못하면 자동 판정과 공식 처분이 동일하게 받아들여질 수 있습니다.

West 의원은 관련 예산 삭감안을 철회하는 대신 시의회 브리핑을 받기로 했으며, 프로그램은 10월에 추가 검토를 받을 예정입니다. 댈러스시는 앞으로도 쓰레기 수거 차량이 주택을 정기적으로 촬영하도록 할 계획입니다. 이에 따라 논쟁의 핵심은 AI 카메라가 얼마나 많은 잠재적 위반을 찾아내는지뿐 아니라, 오인 탐지를 수정하는 절차, 안내문의 법적 의미를 명확히 하는 방식, 촬영·보관되는 주택 이미지에 대한 주민의 통제 범위를 어떻게 정할지로 확대되고 있습니다.

■ Reddit 반응

• @tabrizzi — 이 속도라면 결국 위반 사항을 확인하기 위해 드론으로 뒷마당까지 검사하게 될 것입니다.

• @ICLazeru — 쓰레기 수거 차량에 집을 스캔하는 카메라를 달아 HOA 수준의 헛소리 때문에 소환장을 보내고 있습니다. 한편 Epstein File의 아동 학대 가해자들은 자유롭게 돌아다니고 있습니다.

• @TruckWorking3129 — 안타깝고 화가 나는 일이지만, Flock만의 문제가 아니라 우리 삶에 대한 모든 감시의 문제입니다. 어떤 법안이든, 하하, 모든 비밀스러운 감시를 포함해야 합니다.

• @redditistripe — HOA와 지방자치단체의 규정 및 규정 위반 문제를 보면, ‘자유의 땅’이 전혀 자유롭지 않다는 인상을 받는 사람이 저뿐입니까? 이곳은 온갖 사소한 트집이 넘치는 땅처럼 보입니다.

• @epochwin — 이런 유형의 감시에 관한 주요 소송이 무엇인지, 정부가 이를 사용하는 경우 수정헌법 제4조의 보호와 어떻게 맞물리는지 궁금합니다.

원문: Yahoo News / NBC 5 Investigates / 번역·요약: Trawling