[르포]'선거의 해' 더 바빠진 틱톡…AI가 문제 영상 삭제, 전문 인력이 또 걸러낸다

틱톡 싱가포르 투명성과 책임 센터 방문
알고리즘 원리는 '취향 60%+추천 40%'
AI가 유해 콘텐츠 거르고 사람이 직접 심사

틱톡 관계자가 11일 싱가포르 원래플스키의 '틱톡 투명성과 책임센터(TAC)'에서 틱톡의 알고리즘과 운영 방식을 취재진에게 설명하고 있다. 싱가포르=김지현 기자

'쇼트폼의 전성기를 창조한 재미있는 플랫폼이냐, 데이터 보안이 걱정되는 위험한 플랫폼이냐.'

15초짜리 동영상 공유 애플리케이션(앱) '틱톡'에 대한 평가는 극명하게 엇갈린다. 틱톡의 알고리즘이 전 세계의 정치, 경제, 사회, 문화 등 모든 영역에 영향을 미치는 시대라서다. 지구촌 선거의 해를 맞아 더 뜨겁게 달아오른 알고리즘 투명성 논란을 틱톡 측은 어떻게 생각할까. 11일 싱가포르 원래플스키에 있는 '틱톡 투명성과 책임센터(TAC)'에서 관계자들에게 답을 들어봤다.

"알고리즘은 수학… 언제든 초기화 가능"

싱가포르 원래플스키의 '틱톡 투명성과 책임센터(TAC)' 입구 모습. 센터 내부는 보안 관계상 촬영할 수 없었다. 싱가포르=김지현 기자

틱톡은 2017년 출시 후 전 세계 16억 명 넘는 이용자를 확보한 슈퍼앱이자 논란의 앱이다. '틱톡의 모기업이 중국 기업(바이트댄스)이니 중국 정부를 위해 알고리즘 조작을 강요받는 게 아니냐'는 의심이 끊이질 않는다. 이 때문에 틱톡은 각국 정부 관계자나 언론인을 시시때때로 싱가포르, 미국 로스앤젤레스, 아일랜드 더블린 등에 있는 TAC에 초대해 알고리즘과 콘텐츠 심사 방식 등을 살펴보게 한다.

한국일보에 TAC를 안내한 틱톡 관계자는 "틱톡의 알고리즘은 수학"이라고 정의했다. '알고리즘이 중국 정부의 영향을 받지 않는다'는 점을 우회적으로 표현한 것. 실제 틱톡 이용자의 데이터는 싱가포르와 미국에 있다.

틱톡이 시연한 추천 알고리즘 원리는 간단했다. 이용자가 틱톡 영상 8개를 이용하면서 보인 반응(시청 시간, 좋아요 혹은 관심 없음, 댓글, 공유, 즐겨찾기 활용 등)마다 숫자를 설정한 뒤 확률을 계산한 후 '맞춤 동영상 8개 묶음'을 보여줬다. 이용자의 반응 데이터가 실시간으로 쌓여 추천 동영상의 종류도 시시각각 달라졌다.

하지만 이용자 취향에만 초점을 맞추면 특정 내용에 편향된 콘텐츠만 보여주게 되고 지루해질 우려가 커진다. 그래서 틱톡은 이용자의 취향을 있는 그대로 반영한 콘텐츠 60%, 인기 동영상이나 비슷한 관심사 등 틱톡이 고른 콘텐츠를 40% 제공한다. 소비자들이 알고리즘이 추천한 콘텐츠만 소비하게 만들어 문화 다양성을 심각하게 저해한다는 목소리도 있지만 틱톡 관계자는 "추천 피드 새로고침 버튼을 누르면 언제든 데이터가 초기화된다"고 설명했다.

"문화 이해 높은 심사 인력이 24시간 콘텐츠 감시"

싱가포르 원래플스키의 '틱톡 투명성과 책임센터(TAC)' 입구 모습. 센터 내부는 보안 관계상 촬영할 수 없었다. 싱가포르=김지현 기자

각종 위험한 챌린지가 유행하면서 안전성 논란에 휩싸였던 틱톡은 이제 허위·유해 콘텐츠를 24시간 내내 걸러내고 있었다. ①인공지능(AI) 기술을 활용해 유해 콘텐츠를 1차적으로 골라 자동 삭제하고 ②AI가 거르지 못하는 유해 콘텐츠는 4만여 명의 전문 심사역(신뢰·안전 전문가)들이 영상을 판독해 △삭제 △계정정지 △알고리즘 배제 △차단 등의 조치를 내린다. 특히 각 문화권에 대한 이해도가 높은 심사역들이 심사를 맡는다. 싱가포르에서 일하는 심사역들은 동남아시아, 동북아시아 심사역들은 한국, 일본, 중국 문화 권역을 담당하는 식이다.

AI 시대에 굳이 '사람의 손'으로도 콘텐츠를 심사하는 이유가 뭘까. 틱톡 관계자는 "AI는 기계적으로 판별하기 때문에 고유 문화나 관습, 법규 등에 대한 이해가 완벽하지 않다"고 했다. AI가 학습한 내용을 교묘하게 우회해서 유해 콘텐츠를 올리거나 문화권에 따라 다르게 해석되는 경우가 많아서다. 예를 들면 브라질에선 수영복만 입고 촬영해도 내용에 따라 영상이 허용될 수 있지만 다른 문화권에선 부적절한 영상일 수 있다. 이 때문에 "틱톡처럼 사람이 심층적으로 심사하는 곳은 없고 이 점이 경쟁 플랫폼(구글 유튜브나 메타 인스타그램 등)과의 확실한 차별점"이라고 틱톡 측은 자신했다.

'선거의 해' 더 커진 안전성 우려, 더 바빠진 틱톡

싱가포르 원래플스키에 있는 틱톡 투명성과 책임 센터(TAC)에 설치된 유해 콘텐츠 선별용 모니터와 시스템. 틱톡의 전문 심사 인력들은 해당 프로그램에서 정책을 기준으로 유해 콘텐츠를 심사하고 있다. 틱톡 제공

틱톡은 선거 관련 가짜뉴스도 이런 방식으로 제재하고 있었다. 최근 선거를 시행하거나 준비 중인 국가들 사이에서 정치 홍보 플랫폼으로 틱톡을 활용할 때 여론을 조작하려는 시도가 많이 포착되고 안전성에 대한 우려도 커졌기 때문이다.

미국에 이어 틱톡을 가장 많이 쓰는 인도네시아가 대표적 사례다. 2월 치러진 인도네시아 대선은 '틱톡 선거'로 불릴 만큼 사회관계망서비스(SNS)를 활용한 선거 운동 경쟁이 치열했다. 대선후보 간 이념적 차별성이 옅어진 데다 젊은 층에게 친근한 이미지를 얻기 위해서다. 틱톡은 인도네시아 대선 당시 특정 후보에게 유리한 영상을 인위적으로 퍼뜨리려는 시도를 눈여겨보고 817개의 허위 계정을 적발했다. 독일에서는 나치 옹호 등 극단적 주장을 펼치는 극우 정당인 '독일을 위한 대안(AfD)'도 틱톡으로 지지세를 확장해 논란이 되자 틱톡은 보고서를 통해 AfD에 우호적인 내용을 전파한 허위 계정 32개를 찾아 제재했다고 밝혔다.

틱톡의 알고리즘이 여론 조작 시도나 유해 콘텐츠를 '100%' 차단할 수 있는지에 대해선 의문이 남는다. 틱톡의 TAC 관계자도 "기계학습(머신러닝)을 통해 수천, 수만 가지 유해 요소를 (영상 유통 전에) 걸러내려 하지만 시스템을 교묘하게 우회해 이용하려는 사람들도 있다"고 말했다. AI 알고리즘의 허점을 파고들어 유해한 콘텐츠를 확산시키려는 시도를 완벽하게 차단하긴 어렵단 뜻이다.

다만 틱톡은 글로벌 플랫폼사 중 안전을 위해 가장 노력하고 있다는 점을 강조했다. 류동근 틱톡코리아 공공정책 총괄은 "틱톡의 영향력이 각 나라에서 커지면서 굉장히 많은 의무감을 갖고 발 빠르게 대응하고 있다"면서 "틱톡은 정부 요청에 적극적으로 협조하는 기업"이라고 말했다.

싱가포르= 김지현 기자 hyun1620@hankookilbo.com