미국 일리노이주(州) 시카고에 사는 65세 마이클 윌리엄스는 2020년 5월 동네에서 한 청년을 차에 태워줬다. “집에 데려다 달라”는 동네 이웃 새퍼리언 헤링(당시 25세)의 요청을 거절하기 어려웠기 때문이다. 하지만 3개월 뒤 그는 경찰에 헤링 살인 혐의로 체포됐다.
경찰은 교차로를 통과하던 자동차와 음향 센서에 포착된 총성을 바탕으로 윌리엄스가 자신의 차 안에 있던 헤링을 총으로 쏴 숨지게 했다고 밝혔다. 하지만 윌리엄스는 교차로에서 차량 한 대가 옆에 섰고 누군가 헤링에게 총을 쐈다고 주장했다. 그는 병원 응급실로 헤링을 옮겼고 자신의 인적사항까지 남겼을 정도로 범죄와는 무관하다고 항변했다. 하지만 윌리엄스는 11개월의 억울한 옥살이를 한 뒤 다행히 증거불충분을 이유로 풀려났다.
윌리엄스 측이 21일(현지시간) 경찰을 관장하는 시카고시를 상대로 손해배상소송을 제기했다고 미 AP통신, 시카고선타임스 등이 보도했다. 윌리엄스는 자신을 살인자로 몰고 가는 데 결정적 역할을 한 총성검출업체 ‘샷스팟터(ShotSpotter)’의 알고리즘 기반 인공지능(AI) 기술에 결함이 있다고 주장했다.
샷스팟터는 ‘1,400만 개의 소리를 총소리나 다른 것으로 분류하는 알고리즘을 사용해 총기 폭력을 막는 데 도움을 주는 경찰 기술 솔루션 선두주자’라고 자신들을 설명하고 있다. AP는 샷스팟터 센서가 미국 도시 110곳에 설치됐고 지난 4년 동안 91건의 사건에서 법정 증거로 활용됐다고 전했다. 샷스팟터의 정확도는 97%라는 게 회사 측 주장이다.
시카고 경찰은 샷스팟터에 3,300만 달러(약 432억 원)를 지급하고 센서를 범죄 우발 지역에 설치했다. 경찰은 샷스팟터 센서로 총격 음향을 확인하고 범죄 현장에 더 빨리 출동할 수 있어 시민 안전 확보에 도움이 된다고 주장했다. 윌리엄스 사건 역시 이렇게 설치된 샷스팟터에서 큰 소음을 확인했고 이를 토대로 윌리엄스가 살인자로 지목됐다.
그러나 윌리엄스 측은 “경찰 보고서에 범행 동기도 언급되지 않았고, 목격자도 없고, 범행에 사용됐다는 총기도 회수되지 않았다”고 항변한다.
특히 샷스팟터 센서가 포착한 헤링 살인 사건 소음도 처음에는 폭죽으로 기록됐지만 샷스팟터 직원이 총소리로 수정한 것으로 드러났다. AP는 “(샷스팟터는) 음향 센서로 가능한 총성을 식별한 뒤 직원들이 오디오 녹음을 다시 듣고 소리가 어디서 났는지 확인하거나 변경하는 방식이어서 인간의 편견이 개입할 수 있다”고 지적했다.
또 마이크 바로 아래에서 이뤄진 실탄 발사를 샷스팟터 센서가 놓치거나 불꽃놀이, 자동차 배기가스 폭발음을 총소리로 잘못 분류하기도 했다. 법원 기록에 따르면 경찰 요청에 따라 샷스팟터 직원이 총기 발사 장소나 횟수를 수정하기도 했다.
윌리엄스는 “이런 장치들이 설치된 곳은 가난한 흑인사회뿐이고 다른 곳에는 없다”고 비판했다. AI 활용 과정에서 발생할 수 있는 오류 가능성을 잘 따져야 한다는 지적도 이어지고 있다.