딥페이크 공포 커지는데... 구글 "유튜브에 영상 생성 AI 결합"

딥마인드 개발 영상 생성 AI '비오'
올해부터 구글 쇼츠에 결합하기로
"딥페이크 범죄 악용될 수도" 우려

유튜브에 결합된 영상 생성 인공지능 비오에 "꿈 같은 비밀의 정원, 생생한 색감, 분명한 붓 터치"라고 입력해 영상 생성을 주문하고 있는 모습. 메이드 온 유튜브 영상 캡처

24억여 명이 이용하는 세계 최대 동영상 플랫폼 유튜브에 동영상 생성 인공지능(AI) 도구가 통합된다. 구글은 유튜브에서 활동하는 창작자(크리에이터)들이 기존 방식으로는 구현해 내기 어려웠던 콘텐츠를 만들 수 있도록 지원하는 목적이라고 설명했지만, 전 세계적 위협으로 부상한 딥페이크 범죄에 악용될 수 있다는 우려가 크다.

쇼츠 창작자들, 영상 생성 AI 공짜로 쓴다

구글 유튜브는 18일(현지시간) 미국 뉴욕에서 열린 연례 전략 발표 행사 '메이드 온 유튜브'(Made on Youtube)에서 "올해 안에 구글 딥마인드의 가장 뛰어난 동영상 생성 모델 비오(Veo)를 유튜브 쇼츠에 통합하기 시작할 것"이라고 밝혔다. 쇼츠는 유튜브가 짧은 동영상(숏폼) 플랫폼 틱톡에 대항해 내놓은 것으로, 최대 60초 길이의 영상을 만들고 공유하고 시청할 수 있는 유튜브 내 기능이다. 구글은 여기에 비오를 붙여, 크리에이터들이 최대 6초 분량의 독립적인 영상을 생성할 수 있도록 하겠다는 계획을 밝혔다.

비오는 '알파고' 개발사 구글 딥마인드가 만든 최신형 영상 생성 AI다. 지난 5월 구글 연례 개발자대회에서 맛보기식으로 처음 공개됐는데, 이용자가 말로 주문하면 AI가 다양한 스타일로 고화질(1,080p) 영상을 제작해 준다. 오픈AI의 소라나 런웨이 젠-3 알파 등이 경쟁 제품이다.

유튜브는 지난해 쇼츠의 배경화면을 생성해 주는 AI 기능을 도입했는데, 비록 6초 분량이지만 별도 영상 생성이 가능해진 건 여기서 크게 나아간 행보다. 대부분 영상 생성 AI 도구들이 유료로 제공되고 있기 때문에 비오가 유튜브에서 '공짜'로 제공된다는 것만으로 영상 생성 AI에 대한 접근성을 끌어올릴 것으로 보인다. 미국 기술전문매체 테크크런치는 "이 새 기능을 통해 크리에이터는 영상에 자연스러운 연결 장면을 추가할 수 있다"며 "가령 뉴욕 여행 영상의 시작 부분에 (드론 같은 장비가 있어야 촬영 가능한) 뉴욕 빌딩들의 스카이라인을 생성해 넣을 수 있을 것"이라고 했다.

닐 모한 구글 유튜브 최고경영자가 18일 미국 뉴욕 피어57에서 열린 메이드 온 유튜브 행사에서 유튜브의 새 기능들을 소개하고 있다. 구글 제공

구글 "AI 생성 영상에 꼬리표 붙일 것"

닐 모한 유튜브 최고경영자는 "(비오는) 여러분의 작업을 더 빠르고 효율적으로 만들고, 창의적인 아이디어를 더 빠르게 실현시켜줄 것"이라고 자신했다. 그러나 테크업계에서는 세계 각국에서 딥페이크 피해가 잇따르는 가운데 구글의 조치가 자칫 이런 상황을 심화시킬 수 있다는 지적이 나온다.

구글은 이 같은 우려를 의식해 나름의 안전장치를 둔 것으로 보인다. AI 도구 접목을 쇼츠로만 국한하고, AI 생성 영상의 길이가 6초를 넘기지 못하게 한 것이 그 예다. 구글은 "비오로 생성된 창작물에는 워터마크(육안으로는 확인할 수 없는 식별 표시)를 삽입하고, 꼬리표(라벨)를 붙여 시청자들에게 해당 영상이 AI로 생성됐다는 사실을 명확히 알릴 것"이라고도 강조했다.

딥페이크 악용 가능성과 별개로 AI의 저작권 침해 등에 대한 크리에이터들의 우려도 크다고 미국 경제매체 CNBC 등은 전했다. 기술매체 더버지는 "(AI는) 크리에이터의 영상 제작을 더 쉽게 만들 수 있지만, 영상 제작이 쉬워지면 유튜브가 모두 느낌이 비슷한 엉터리 AI 영상으로 도배될 가능성이 있다"고 꼬집었다.

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com