생성 AI가 가져올 수 있는 어두운 미래

넷플릭스 제공

'블랙 미러'라는 시리즈 드라마가 있다. 미디어와 기술이 인간의 윤리관 변화를 앞서 나갔을 때 벌어지는 부정적인 면들을 다루는 넷플릭스 SF 드라마다. 과감하고 충격적이지만 근미래에 가능할 법한 이야기를 다루기 때문에 더 꺼림칙하면서도 강력한 화두를 던진다. 최근 새 시즌이 공개되었는데 첫 화 '존은 끔찍해'는 시작부터 강렬했다. 개인정보 추적과 생성 인공지능(AI)이 고도로 발전한 사회에서 개인에게 어떤 일이 일어날 수 있는지 날카롭게 풍자했기 때문이다.

평범한 회사원 존은 넷플릭스와 똑 닮은 글로벌 스트리밍 사이트를 보다가 충격에 빠진다. 자신의 일상과 사생활이 고스란히 각색되어 드라마로 나오고 있었기 때문이다. 존이 전 남자친구를 만나고, 상담사와 내밀한 대화를 하는 것까지 거의 실시간으로 방영된다. 사생활이 여과 없이 노출되는 데다가 실제보다 더 나쁘게 과장되어 표현되면서 존은 사회생활에 큰 문제가 생긴다. 어떻게 이런 일이 가능한 것인가? 넷플릭스와 똑 닮은 다국적 테크 기업은 평범한 회사원 존의 일상에 대해서 어떻게 알아냈고 어떻게 현실 같은 영상을 만들어 실시간으로 방영할 수 있는 걸까?

단지 공상과학 드라마에 불과하다고 생각할 수도 있지만 동시에 근미래에 실제로 일어날 수 있는 현실일 수도 있다. 우리의 일상은 이미 고도로 발달한 디지털 기술과 그것을 손에 쥔 다국적 기업에 의해서 낱낱이 기록되고 있기 때문이다. 그리고 우리는 편리함이라는 명목하에 그것을 쉽게 허용했다. 내가 무슨 생각을 하고 어디에 관심이 있는지는 휴대폰 사용 기록을 보면 훤히 보인다. 지금 어디에 있는지는 위성항법장치(GPS)로 추적할 수 있다. 소비 내역은 금융사 애플에서 볼 수 있다. 어쩌면 이 모든 것을 알기 위해서 해킹을 할 필요도 없다. 내가 자발적으로 공개한 소셜 미디어 계정에도 개인정보가 가득하기 때문이다.

내 얼굴과 현실을 똑 닮은 영상을 실시간 스트리밍하는 것은 어떻게 가능한가? 요새 뜨거운 감자인 생성 AI를 사용하면 간단하다. 이미 AI는 진위 여부가 구분되지 않는 수준의 이미지를 만들어내고 있다. 내 사진을 업로드하면 진짜 나 같은 이미지들을 수십 초 안에 생성해 낸다. 영상화도 어렵지 않다.

블랙 미러 에피소드에서처럼, 나와 똑 닮았지만 내가 아닌 사람이 화면 속에서 활보하는 것은 소름 끼치게 들린다. 누가 그것을 허용할 것인가? 하지만 이미 많은 이들이 자발적으로 본인의 얼굴을 AI에 제공하고 있다. 요새 친구들이 유행처럼 새로운 프로필 사진을 인스타그램에 올린다. AI로 생성한 사진이라고 한다. 원본 사진을 올리면 그것을 바탕으로 나와 닮은 예쁜 프로필 사진을 만들어주는 것이다. 그런 일을 왜 할까? 비싼 돈과 시간을 들여 사진관에 가지 않고서도 예쁜 사진을 얻을 수 있기 때문이다. 많은 이들이 눈앞의 이득이 있다고 생각하면 별생각 없이 내 얼굴을 AI가 사용하도록 제공한다.

그러면 내 사진을 바탕으로 AI가 생성한 사진은 내 사진인가? 초상권이나 저작권은 내 것인가, AI 제공 회사의 것인가? 우리 사회는 지금까지 없었던 새로운 사회적 합의가 필요한 시기에 도달하고 있는 것 같다. 블랙 미러에서 풍자한 어두운 현실에는 당도하지 않도록 기술을 어떻게 사용하고 어떤 부분은 제한할 것인지 논의가 필요하다.

곽나래 이커머스 기획자