2021년 2월 미국 샌프란시스코에 사는 40대 마크는 어린 아들이 성기 감염으로 아프다는 것을 알아차렸다. 병원이 문을 닫은 늦은 밤이라 감염 부위 사진을 찍어 보내 '긴급 비대면 진료'를 받았다. 의사의 항생제 처방으로 아이는 금방 나았지만, 문제는 그다음부터였다. 아이의 사진을 자동 검열한 구글이 '아동 성착취·학대' 혐의를 씌워 마크의 계정을 일방적으로 정지시킨 것이다.
구글 계정에 저장해 둔 '마크의 인생'이 통째로 날아갔다. 가족 사진, 연락처, 일정, 업무 자료 등 모든 데이터 접근이 차단됐고, 구글과 연동된 다른 사이트 계정 접속도 막혔다. '구글 파이' 휴대폰 요금제가 중단돼 전화번호도 바꿔야 했다.
구글에 호소하면 해결될 거라는 기대도 어긋났다. 마크가 사정했지만 구글은 "계정을 복원할 수 없다"고만 했다.
마크는 경찰 조사까지 받았다. 경찰은 "구글 신고를 받아 인터넷 검색 기록, 위치 정보, 메시지, 사진 등을 수색했다"고 사후 통보했다. 결과는 무혐의 처분. 마크는 경찰에 계정 복원을 도와달라고 요청했지만 "해줄 수 있는 게 없다"는 답을 받았다. 마크의 계정은 영구 삭제됐다.
21일(현지시간) 미국 뉴욕타임스(NYT)가 소개한 구글의 인공지능(AI) 필터링 시스템 피해 사례다. 구글은 2018년 아동 성착취 이미지를 식별하는 AI 프로그램을 개발했다. 특정 계정에서 수상한 콘텐츠를 발견하면 계정을 정지하고 계정에 연동된 콘텐츠를 수색한다. 수색 결과를 실종·착취아동을 위한 국립센터(NCMEC)나 경찰에 보고한다.
이 시스템은 아동 착취물 적발과 수사에 상당한 공을 세웠다. 구글은 지난해 60만 건 이상의 성착취 의심 콘텐츠를 찾아냈고, 관련 계정 27만 개를 정지했다. NCMEC 측은 "사각지대에 놓인 아이를 찾아내 보호할 수 있는 기회"라고 호평했다.
전문가들은 마크와 비슷한 피해 사례가 수백~수천 건 더 있을 것으로 추정한다. AI 필터링 기술이 사진을 찍은 '맥락'을 정확히 파악하는 수준까진 진보하지 못했기 때문이다. 마크 같은 피해자들은 기술이 완성될 때까지 대의를 위해 꾹 참아야 할까. 온라인 필터링과 검열은 어디까지 허용돼야 할까. 마크의 사례가 던진 논쟁적 질문이다.
아동 성범죄를 연구하는 카리사 헤식 미국 노스캐롤라이나 법대 교수는 구글이 현재의 필터링 시스템을 유지하는 것이 "어떤 사진이 적절한지 일일이 판단하는 것보다는 (혐의가 제기된) 사람들을 전부 차단하는 게 더 쉽기 때문"이라고 지적했다. 이어 "아동 성학대를 뿌리 뽑기 위해 정보기술(IT) 기업의 협조가 필수적이지만, 계정 복원 등 사후 조치도 해야 한다"고 말했다.