유럽연합(EU)의 '인공지능(AI) 규제법' 윤곽이 나왔다. 최종 합의까지는 EU 내에서 추가 협상을 해야 하지만, AI를 포괄적으로 규제하는 '세계 최초의 법'이 될 가능성이 크다. 현재까지 마련된 법안에는 AI가 활용되면 안 되는 분야 등의 내용이 꽤 상세히 담겼다. AI의 부작용 억제 방안 논의가 한창 진행 중인 미국, 중국 등 다른 나라에도 '가장 중요한 참고서'가 될 것이란 전망이 우세하다.
EU의 의회에 해당하는 유럽의회에 따르면, 14일(현지시간) 본회의 표결에서 AI 규제 법안이 압도적 찬성으로 통과됐다. 찬성 499표, 반대 28표, 기권 93표가 나왔다. 법안 가결 직후, 행정부 격인 EU 집행위원회와 27개 회원국을 대표하는 이사회 간 3자 협상이 시작됐다. 이는 법 도입을 위한 마지막 절차다. EU는 '연내 협상 타결'을 목표로 하고 있다. 시행은 유예 기간 등을 거쳐 2026년에야 가능할 전망이다.
가장 눈에 띄는 건 'AI 금지 분야'가 적시됐다는 점이다. 우선 '사람을 조종할 위험'을 내포해서는 안 된다고 규정됐다. 법안은 "취약집단의 인지·행동을 조작해선 안 된다. '어린이에게 위험한 행동을 조장하는 음성인식 장난감' 등이 그 예가 될 수 있다"고 했다. AI가 사람의 행동, 지위, 특성을 임의로 평가하고 분류하는 것도 허용되지 않는다.
AI를 안면 인식 등 생체 인식에 사용해서도 안 된다. 국가 안보, 치안 등 중대한 사안에서도 예외는 없다. 다만 EU 회원국들로 구성된 이사회의 경우, '예외적 활용을 허용하자'는 입장이어서 향후 논의를 거쳐 수정될 가능성은 있다.
또 '고위험 AI'를 별도로 분류해 관리·감독하기로 했다. 대상을 '건강, 안전, 기본권, 환경 등에 해를 끼치는 분야에서 활용되는 것'으로 정했는데, 규제 범위가 상당히 방대해질 수 있다. 법안은 '4,500만 명 이상이 사용하는 사회관계망서비스(SNS)에 사용되는 추천 시스템' 등을 고위험 AI의 예시로 들었다. 그러면서 "AI가 유해한 결과를 만드는 걸 막으려면 사람이 감독해야 한다"고 덧붙였다.
'생성형 AI'인 챗GPT 규제 방안도 명시했다. 챗GPT는 단순 정보 전달은 물론, 새로운 창작물까지 만든다. EU가 급속도로 입법 논의를 전개한 것도 지난해 11월 챗GPT 공개가 직접적 계기가 됐다. 의회는 △생성형 AI가 만드는 콘텐츠에는 'AI에 의해 생성됐다'고 명기하고 △AI 훈련에 어떤 정보가 활용됐는지 공개하며 △AI가 불법 콘텐츠를 만들지 않도록 막는 별도 시스템을 개발해야 한다는 등의 내용을 법안에 담았다.
EU가 AI 규제법 선봉에 선 건, 인간에 대한 AI의 위협에 그만큼 민감하다는 방증이다. 브란도 베니페이 이탈리아 의원은 "민주주의와 자유에 대한 위험과 싸우고, 우리의 지위를 보호하는 것"에 입법 방점이 찍혀 있다고 설명했다.
세계 첫 AI 규제 종합법인 만큼, 관련 법안을 도입하는 다른 나라들도 이를 참고할 가능성이 크다. 디지털 관련 비영리조직 '어세스나우'의 수석 정책분석가 다니엘 루퍼는 "EU가 '(AI는) 인권에 용인될 수 없는 위험을 갖고 있다'고 밝힌 건 전 세계가 참고해야 할, 중요한 순간"이라고 미국 주간지 타임에 말했다.
다만 EU의 선제적 입법 의도는 'EU 중심'의 AI 국제 질서를 짜려는 데 있다는 시각도 있다. 지나치게 포괄적인 규제가 EU 내 기술 개발을 저해할 것이란 우려도 적지는 않다.