인공지능(AI)이 사람에게 해를 입힐 경우 개발사에 책임을 묻는 것을 골자로 한 AI 규제 법안이 28일(현지시간) 미국 캘리포니아주(州) 의회를 통과했다. 구글, 메타 등 AI 경쟁을 이끄는 테크업체들은 물론 미국 민주당 소속 낸시 펠로시 전 연방 하원의장 등의 반대에도 불구, 민주당이 다수인 주의회에서는 압도적 찬성표가 나왔다.
공은 이제 민주당 소속 개빈 뉴섬 캘리포니아 주지사에게 넘어갔다. 뉴섬 주지사가 최종 서명하면 '미국에서 가장 강력한 AI 규제법'이 탄생하게 된다.
캘리포니아주 하원은 이날 '첨단 AI 시스템을 위한 안전 및 보안 혁신 법안'(SB1047)을 가결했다. 찬성 49표, 반대 9표였다. 지난 5월 이미 주 상원에서 통과된 법안을 일부 고친 것인 만큼, 이번 수정안도 무난히 상원 문턱을 넘을 것으로 보인다.
SB1047은 기업들이 강력한 AI 기술을 대중에게 공개하기 전, 안전성 테스트 시행을 의무화하고 있다. 지금도 대부분 AI 업체가 관행적으로 실시하고 있긴 하지만, '출시 전 테스트'를 법으로 강제하는 셈이다. 또 AI 시스템이 사람을 사망에 이르게 하거나 5억 달러(약 6,770억 원) 이상 피해를 발생시킬 경우, 주 법무장관이 AI 개발사를 상대로 민사소송을 낼 수 있도록 하는 권한도 명문화했다.
다만 업계의 반응은 엇갈린다. 그간 AI의 위험성을 여러 차례 경고해 온 'AI 대부' 제프리 힌튼 토론토대 교수, 일론 머스크 테슬라 최고경영자(CEO) 등은 공개적으로 찬성 입장을 밝혔다.
반대로 오픈AI, 구글, 메타 등 테크업체들은 거세게 반발해 왔다. 특정 용도가 아니라 AI 기술에 대한 광범위한 규제라는 점에서, '혁신을 저해할 수 있다'는 게 이들의 주장이다. 미국 워싱턴포스트는 "AI 회사에 잠재적 법적 책임을 부여하는 이 법안은 AI 규제 필요성을 주장해 온 업계 관계자들 사이에서도 너무 지나친 것으로 여겨지고 있다"고 전했다. 캘리포니아주에서만 19선을 한 펠로시 전 하원의장 역시 성명을 내고 해당 법안을 통과시켜선 안 된다고 주의회를 압박했다.
이런 상황에서 의회의 선택은 '가결'이었다. 미국 온라인 매체 액시오스는 "다른 많은 기술 정책에서와 마찬가지로, 캘리포니아는 (연방) 의회가 늑장을 부리는 사이 선두주자가 되기로 결심했다"고 평가했다. 연방 차원의 AI 규제 법안 마련이 계속 지연되는 가운데, 실리콘밸리를 품고 있어 '세계의 기술 수도'로도 불리는 캘리포니아주가 본보기를 보였다는 뜻이다.
법안의 운명은 이제 '서명 권한'을 쥔 뉴섬 주지사가 최종적으로 결정하게 됐다. 사안의 민감성을 고려한 듯, 뉴섬 주지사는 아직 찬반 입장을 밝히지 않고 있다. 반대 진영으로부터 '법안에 거부권을 행사하라'는 압박을 받고 있는 터라 그가 의회와는 다른 판단을 내릴 가능성을 배제할 수 없다. 반대로 서명할 경우에는 실리콘밸리에 본사를 둔 AI 빅테크가 모두 규제 또는 제재를 받게 되는 만큼, 사실상 전 세계 AI 업계에 영향을 미치게 될 것으로 예상된다.