또 생사람 잡은 AI... 안면인식에 누명, 이번에도 '흑인'이었다

'절도범' 몰린 미국 흑인 여성, 경찰 등 고소
'8년 전 사진' 안면인식 오류로 억울한 구금
"유색 인종이 타깃" "보조 역할 해야" 비판

2018년 미국 플로리다주(州) 마이애미 국제공항에서 세관 관계자(오른쪽)가 입국자에게 여권사진과 대조하기 위해 "안면인식 카메라를 응시하라"고 말하고 있다. 마이애미=AFP 연합뉴스

미국의 30대 여성이 인공지능(AI)을 이용한 안면인식 기술 오류 탓에 도둑 누명을 쓰고 억울한 구금을 당했다며 당국을 고소했다. 이전의 유사 사례들과 마찬가지로, 이번에도 피해자는 또 흑인이었다. 최첨단 과학 기술이 인종차별이란 구시대적 편견과의 '잘못된 만남'을 한 결과다. 행정권 남용에 대한 비판과 함께, 대책 마련을 촉구하는 목소리가 높아지고 있다.

6일(현지시간) 미국 뉴욕타임스(NYT) 등에 따르면, 미 미시간주(州) 디트로이트에 사는 포르차 우드러프(32)는 지난 3일 디트로이트 경찰과 시 당국을 상대로 소송을 냈다. 난데없이 차량 절도 용의자로 몰려 '부당한 체포'를 당했다는 이유였다.

이 사건은 지난 2월로 거슬러 올라간다. 당시 8개월 차 임신부였던 우드러프는 두 딸의 등교 준비를 하던 중 자택에서 갑자기 체포됐다. 경찰은 그에게 △2주 전 한 남성과 공모해 피해자에게 권총을 겨눴고(강도) △차량과 지갑 등을 훔쳐 달아났다(절도)는 혐의를 제시했다. 어이가 없었던 우드러프는 자신의 배를 가리키며 "농담하는 거죠?"라고 물었다. 하지만 소용없었고, 이내 수갑이 채워졌다. 만삭의 몸으로 구금돼 조사를 받았고, 휴대전화도 압수당했다.

우드러프가 절도범으로 특정된 과정은 이렇다. 경찰은 한 주유소 감시 카메라에 찍힌 여성 용의자 얼굴을 안면인식 기술로 분석했다. 범인 식별용 얼굴 사진인 '머그샷' 데이터베이스에 저장돼 있던 8년 전 우드러프의 모습과 유사한 것으로 판단됐다. 그는 2015년 만료된 면허증으로 운전하다 체포됐을 때 머그샷을 찍었던 적이 있다. 절도 피해자도 경찰이 6명으로 추린 흑인 여성 사진 중 우드러프를 범인으로 지목했다.

우드러프는 보석금 10만 달러(약 1억3,000만 원)를 내고, 구금된 지 11시간 만에 일단 풀려났다. 그로부터 약 한 달 후, 검찰은 '증거 불충분'으로 사건을 기각했다. 100% 확실하다고 단정할 순 없는 '안면인식 분석 비교' 외에, 다른 증거는 단 하나도 없었다는 얘기다. 우드러프는 "전혀 알지도 못하는 일 때문에 오랜 시간 불편한 몸으로 심문을 받았다"며 "(수갑을 차는 엄마 모습에) 딸들도 정신적 충격을 받았다"고 토로했다.

현지에서는 AI 이용 안면인식 기술 오류가 무고한 시민의 부당한 체포로 이어지는 일이 유색인종에 집중되고 있다는 지적이 나온다. 우드러프와 같은 사례는 미국 내에서 총 여섯 차례 발생했는데, 누명을 쓴 당사자는 공교롭게도 모두 흑인이었기 때문이다.

지난해 11월에도 조지아주의 한 흑인 남성이 절도 혐의로 고속도로 한복판에서 체포됐다. 안면인식 알고리즘이 감시카메라 속 범인 모습과 사회관계망서비스(SNS) 등에 올라온 이 남성의 사진이 비슷하다고 판단한 결과였다. NYT는 "디트로이트 경찰국은 한 해 평균 125건의 안면인식 검색을 실시하는데, 사실상 흑인만 대상으로 한다는 민간단체 조사 결과도 있다"고 전했다.

전문가들도 안면인식 기술은 보조 역할에 머물러야 한다고 경고한다. 심리학자인 게리 웰스 아이오와주립대 교수는 "얼굴 인식 기술과 목격자 증언이 범죄 혐의 적용의 근거가 되는 건 위험하다"고 말했다.

조아름 기자 archo1206@hankookilbo.com