오픈AI 등 미국 주요 인공지능(AI) 업체들이 AI 모델 학습용 데이터에서 나체 이미지를 제거하겠다고 12일(현지시간) 선언했다. 이미지 생성 AI 도구를 이용한 '딥페이크(AI 기반 이미지 합성 기술)' 성범죄를 차단하기 위해 함께 칼을 빼든 것이다.
미 백악관은 이날 오픈AI, 마이크로소프트(MS), 어도비, 앤스로픽, 코히어 등 5개사가 AI 학습 데이터에서 나체 이미지를 없애는 자발적 조치를 취하기로 서약했다고 발표했다. AI 모델이 나체 이미지를 학습하지 않으면 이용자가 AI에 나체 이미지를 이용한 합성을 명령해도 실행할 수가 없게 된다. 이들 기업은 아울러 AI 모델이 성적으로 노골적인 딥페이크 이미지를 출력하지 않도록 AI 개발 과정에서부터 테스트와 의견 수렴을 반복적으로 수행하겠다고도 약속했다.
미국 정부가 중재한 이번 서약은 기업들의 자발적인 약속으로, 설령 이행하지 않더라도 불이익은 없다. 다만 미국 기술전문매체 엔가젯은 "전 세계적 문제로 대두된 딥페이크 성범죄 해결에 동참하고자 하는 선의는 박수받을 만하다"고 평가했다. 반면 애플, 구글, 아마존, 메타는 이름을 올리지 않았다고 매체는 꼬집었다.
주요 AI 기업들의 본사가 포진해 있는 미국은 딥페이크 성범죄가 가장 만연한 국가 중 하나다. 미국 NBC방송에 따르면 지난 한 해 제작된 성적 딥페이크 영상은 2022년까지 제작된 누적 영상 수보다 많았다고 한다. 딥페이크 성범죄는 특히 여성, 어린이, 성소수자 등에게 영향을 미치고 있다고 백악관은 밝혔다.
이 때문에 조 바이든 행정부는 딥페이크 성범죄 피해를 줄이는 것을 목표로 광범위한 캠페인을 벌이는 중이다. 기업들 역시 정부 노력과 보조를 맞춰가고 있다. 구글은 지난 7월 딥페이크 콘텐츠가 포함된 웹사이트의 검색 결과 노출을 후순위로 미루고 최악의 경우 아예 노출시키지 않겠다는 방침을 밝혔다. 메타는 딥페이크 성범죄에 연루된 것으로 추정되는 인스타그램 계정 약 6만3,000개를 차단했다. 그럼에도 미국 비영리단체 사이버 시민권 이니셔티브의 메리 앤 프랭크스 회장은 미 CBS방송에 "애초에 기업들이 더 큰 책임감을 갖고 할 수 있는 역할을 다했다면 피해가 확산하지 않았을 것"이라며 더 책임 있는 조치가 필요하다고 주장했다.