미국 캘리포니아 주(州)의회가 선거 등과 관련해 인공지능(AI) 기반 이미지 합성(딥페이크) 규제 범위를 대폭 넓힌 법안을 통과시켰다. 특히 여기에는 미성년자 대상 성 착취물의 제작·배포·소지 처벌 조항의 범위를 '딥페이크'까지 명시적으로 확장하는 법안도 포함됐다. 이 법안은 주지사 서명을 기다리고 있다.
지난달 31일(현지시간) AP통신에 따르면 캘리포니아 주의회는 최근 딥페이크 아동 성 착취물 규제 법안을 처리했다. 이 법안은 해당 아동이 실존 인물인지와 무관하게 미성년자에 대한 딥페이크 성 착취물 제작과 배포·소지를 원천 금지한다.
실제 발의된 법안의 취지를 살펴보면, 주의회는 "연구에 따르면 아동 성 착취물을 소비하면 미성년자에 대한 직접적 성범죄 연루 위험이 증가한다"며 "아동 성 착취물 소지는 아동의 성적 착취를 정상화(normalization)하고 새로운 피해를 낳는다"고 밝혔다. 또 "이 같은 피해는 아동 성 착취물이 어떤 방식으로 만들어지든 관계없이 존재한다"고 지적했다.
주의회는 이어 "이미 연방법은 실제 어린이를 동원해 만든 것이 아닐지라도 아동에 대한 외설적인 시각적 표현을 금지하고 있다"며 "기술 발전에 따라 인공적으로 생성된 이미지까지 (처벌 대상으로) 포괄하도록 법을 발전시켜야 한다"고 설명했다.
실제로 미국 연방법은 미성년자의 성적 행위를 묘사하는 시각물을 제작·배포·소지하면 처벌하는데, 해당 미성년자가 실존 인물일 필요는 없다. 캘리포니아 주의회는 여기에 더해, 주법상 처벌 범위를 'AI 생성 이미지'까지 구체적으로 적시하기로 합의한 것이다.
이렇게 '딥페이크'를 처벌 대상으로 못 박으려는 시도가 나온 것은 AI 접근성이 높아지면서 관련 피해가 급증했기 때문이다. 앞서 스탠퍼드 인터넷 관측소(SIO)는 지난해 12월 보고서를 통해 AI 이미지 생성기들이 수천 장의 아동 성 착취물 이미지를 학습했다고 발표했다. AP는 "청소년들이 AI 도구를 사용해 친구들의 사진을 나체로 바꾸는 사례가 점점 더 많아지고 있다"며 "SIO와 아동학대에 맞서 싸우는 단체들은 AI 기술 회사에 훈련 데이터 세트에서 유해한 자료를 제외하는 일에 더 많은 주의를 기울이도록 요구하고 있다"고도 설명했다. 캘리포니아 주의회에서도 이 같은 현상이 언급되면서 법을 구체화하자는 공감대가 모인 것으로 전해졌다.
이외에도 캘리포니아 주의회는 △선거 관련 딥페이크 제작 금지 △사회관계망서비스(SNS) 업체의 딥페이크 선거 콘텐츠 규제 의무 △테크 기업 및 SNS 플랫폼의 AI 감지 도구 제공 의무 △콜센터 근로자 AI 대체 금지 △유족 동의 없는 사망자 디지털 복제 금지 등의 내용을 담은 법안들을 처리했다고 AP는 전했다.
주의회를 통과한 법안들은 민주당 소속 개리 뉴섬 주지사에게 송부됐다. 뉴섬 주지사는 9월 30일까지 법안 서명 및 거부권 행사 여부를 결정해야 한다.