방송통신위원회가 2025년 중 인공지능(AI)으로 만든 합성 콘텐츠 '딥페이크'를 이용한 성범죄물이나 불법 촬영물 등을 선제 차단하고 사후 심의하는 법적인 근거를 마련한다고 밝혔다. 마약·도박 등 명백한 불법 정보는 빠르게 삭제하고 허위·조작 정보는 플랫폼 사업자들이 자정 활동을 할 수 있게 한다.
방통위는 14일 공개한 2025년도 업무 계획을 통해 디지털 콘텐츠와 AI 서비스의 일상화에 따라 발생할 수 있는 이용자 피해를 최소화하는 정책을 내놓겠다고 밝혔다. 특히 딥페이크 성범죄물과 불법 촬영물로 의심되는 영상은 판단이 어렵더라도 먼저 차단한 뒤 방송통신심의위원회에서 심의할 수 있도록 법적 근거를 마련한다. 영상이 온라인에 퍼지는 2차 피해를 최대한 방지하겠다는 취지다. 같은 내용으로 김태선 더불어민주당 의원이 발의한 전기통신사업법 개정안은 국회 과학기술정보방송통신위원회에서 검토 중이며 정부도 지난해 11월 딥페이크 방지 종합 대책의 일부로 발표했다.
또 마약과 도박 등 관계 기관이 명백한 불법 정보로 판단해 요청하는 경우는 방통위가 직접 사업자에게 삭제와 차단을 요청할 수 있게 할 방침이다. '가짜뉴스'로 불리는 허위·조작 정보의 경우는 민관 합동 자율규제 권고안을 마련해 사업자의 자정 활동을 유도하고 단계적 규제 체계를 정립하기로 했다.
디지털 플랫폼 기업에 대한 규제 수위는 높아질 전망이다. 방통위는 유럽연합(EU)의 디지털서비스법(DSA)을 본딴 '온라인서비스 이용자보호법(가칭)' 도입을 준비하고 있다고 밝혔다. 플랫폼 상의 불법·유해정보 유통을 방지하고 콘텐츠 노출 기준을 공개하는 등의 내용이 담길 것으로 보인다. 또 쇼핑·배달·교육 등 민생과 밀접한 플랫폼 서비스의 이용자 피해 유발 행위를 집중 점검한다. 특히 △가입·이용 조건을 제대로 알리지 않거나(다크패턴) △서비스 이용 중 강제로 다른 사이트로 연결시켜 광고를 보게 하는 행위는 엄정 대응하기로 했다.
한편 방통위는 AI 기술 확산에 맞춰 'AI 이용자보호 종합 계획'을 마련하고 서비스 피해 신고 창구와 분쟁조정 제도 등을 마련하겠다고 밝혔다. 통신 시장에서는 단말기 유통법 폐지에 따른 후속 조치로 지원금 경쟁 활성화 여건을 조성하고 불공정 행위는 방지할 수 있도록 하위 법령 정비에 나설 계획이다. 방송 시장에선 통합 법제 마련을 통해 방송과 온라인동영상서비스(OTT) 양쪽 미디어의 동반 성장을 지원하고 규제도 일원화하는 방향으로 정책을 추진한다.
김태규 방통위원장 직무대행은 "디지털·미디어 환경의 변화 속에서 가장 중요한 것은 국민이 안전하고 신뢰할 수 있는 이용 환경을 만드는 것"이라며 "AI·디지털 플랫폼·방송 등 모든 영역에서 국민이 체감할 수 있는 정책을 구현하겠다"고 밝혔다.