지나가는 국내 프로야구(KBO) 청년팬을 붙잡고 "왜 이 팀을 응원하게 됐어요?"라고 묻는다면 이런 식의 대답이 돌아오는 경우가 많을 거다. 올해로 출범 42년째를 맞는 KBO는 대표적 지역 연고 스포츠. 부모와 아들딸이 대를 물려 응원하는, 일종의 '모태신앙'적 성격을 꽤나 강하게 지닌다.
이렇게 경험은 한 인간의 성격, 선호, 나아가 가치관 형성에 결정적 영향을 미친다. 부모뿐만이랴. 커서는 친구와 선생님, 감명 깊게 보고 읽은 영화와 책 등. 인간은 살면서 만나는 세계와의 접속, 그리고 사유를 통해 '자아'를 만들어나간다.
그러나 인공지능(AI)이 눈부신 기술적 발전을 거듭하는 이 시기, 이제 인간은 부모와 스승이 아닌 AI 알고리즘이 정해주는 경로를 따라 경험하고 AI가 선별적으로 열어둔 창(窓)을 통해 밖을 내다보는 세상에 살게 됐다. 어린 세대에게 AI는 때론 부모보다 더 강력한 영향을 미치기도 한다. 그 중심에 'AI 추천 알고리즘'이 있다.
'32.9시간'.
국내 유튜브 사용자의 월 평균 이용 시간이다. 하루로 따지면 1시간 6분인데, 성인의 일 평균 독서시간(20분·2021년 독서실태조사), 일 평균 통근시간(30.8분·2020년 인구센서스)을 훨씬 뛰어넘는다.
이렇게 사람들의 시선을 오래 사로잡는 유튜브는 타 미디어와 달리 '추천 알고리즘'이 강하게 작동하는 매체다. 전체 유튜브 시청 시간의 70%가 알고리즘 추천 영상에서 발생한다. 적극적으로 동영상을 찾아서 보는 시간보다, AI가 재생하는대로 무심코 따라가는 시간이 훨씬 많다는 의미다.
AI는 사용자의 이용 패턴과 데이터를 분석해 '개인 맞춤형'으로 어떤 콘텐츠를 보여줄지 결정한다. 유튜브뿐 아니라, 인스타그램, 페이스북, 네이버·카카오 뉴스 등도 자신들이 개발한 AI 추천 알고리즘을 통해 이용자가 무엇을 보고 들을지를 결정한다.
계속 이렇게 가다 보면 AI가 우리 머릿속을 지배하는 세상이 오지나 않을까? 아니면 이미 지배하고 있는 걸까?
AI가 한 인간의 머릿속을 지배해 파멸로 몰아갔던 사례가 실제로 있다. 2017년 영국에서 발생한 비극적인 사건이다. 당시 14세 소녀 몰리 러셀은 사회관계망서비스(SNS)가 지속적으로 추천해 주었던 자해 및 자살 관련 게시물에 장시간 노출됐다가, 결국 스스로 목숨을 끊었다.
일간 가디언 등에 따르면 몰리는 숨지기 전 6개월 동안 인스타그램을 하루 최대 120회 사용하며 1만1,000개 이상의 콘텐츠에 '좋아요'를 표시했고, 같은 기간 핀터레스트(이미지 기반 SNS)도 1만5,000회 이상 사용했다. 조사당국은 "몰리가 이용한 콘텐츠 중 일부는 성인이 보기도 어려울 만큼 잔인했다"며 "SNS 게시물이 죽음에 영향을 미쳤다"는 결론을 내렸다.
몰리 아버지 이언 러셀은 당시 언론 인터뷰에서 "내 딸이 목숨을 잃는 데 인스타그램이 도움을 줬다는 사실에 의심의 여지가 없다"며 SNS의 유해 콘텐츠를 강력하게 규제해야 한다고 주장했다.
AI 알고리즘은 어떤 식으로 작동했기에 14세 몰리를 삶의 벼랑 끝으로까지 밀어냈던 것일까.
사실 추천 알고리즘이란 개념 자체는 컴퓨터가 존재하기 전 먼 옛날부터 있었다. 식당 점원이 평소 어떤 음식이 잘 팔리는지를 주의깊게 봐 뒀다가 "저희 집은 떡볶이가 잘 나가요"라며 말해 주는 것 또한 추천 알고리즘이다. AI 추천 알고리즘은 인간의 직관과 기억력에 의지하던 이 과정을 데이터와 알고리즘을 통해 자동화한 것이다.
지금 유튜브, 넷플릭스와 각종 SNS 서비스에 사용되는 AI 추천 알고리즘은 어떤 데이터를 기준으로 추천하느냐에 따라 크게 △콘텐츠 기반 필터링과 △협업 필터링으로 분류된다.
콘텐츠 기반 필터링은 추천 기준이 콘텐츠다. 이용자가 소비한 콘텐츠의 특성을 기준으로 그 사람의 취향과 선호를 파악해 그에 맞는 콘텐츠를 제공하는 방식이다. 옷가게 점원이 단골 손님에게 "손님은 통 넓은 흰색 반팔 티셔츠를 자주 구매하셨으니까 분명 이 신상 티셔츠도 마음에 드실 거예요"라며 권하는 식이다.
협업 필터링은 콘텐츠가 아닌 다른 이용자의 데이터를 기준으로 한다. 대상 소비자와 비슷한 성향이나 선호를 가질 것으로 추정되는 이용자를 유사 이용자군으로 상정하고, 그 그룹의 소비 결과를 토대로 목표 소비자에게 콘텐츠를 추천한다. 옷가게에서 단골이 아닌 처음 방문한 이용자에게 점원이 "고객님처럼 날씬한 분들이 많이 찾으시는 상품이에요"라며 추천하는 것과 비슷한 원리다.
AI 추천 알고리즘은 '다 알아서 다 해주는 편리함'에 사람을 중독되게 만든다. 장병탁 서울대 AI연구원 원장은 "알고리즘은 내가 무엇을 보는지, 어떤 반응을 보이는지를 수집해 개인 맞춤형으로 변한다"며 "관련 콘텐츠를 계속해서 추천하기 때문에 사용자는 여기에 중독되게 된다"고 말했다.
그러나 언뜻 보기에 사용자에게 더없이 친절한 AI 알고리즘은, 알고 보면 기업 이윤 극대화에 모든 서비스의 초점이 맞춰져 있다. 추천 알고리즘은 어떻게든 이용자의 체류시간을 늘리고 해당 사이트에 사람들을 잡아두기 위해 물불을 가리지 않는다는 뜻이다. 몰리 러셀의 죽음도 따지고 보면 '체류시간'이 결정적이었다. 몰리는 알고리즘이 계속 공급하는 유해 콘텐츠에 사로잡혀 SNS를 벗어나지 못했고, 자해·자살 게시물의 홍수에 빠져 극단적 선택을 하게 됐던 것이다.
몰리의 죽음 이후 SNS 서비스들은 유해콘텐츠 차단에 노력을 기울이겠다고 했지만, 시장 논리에 기반한 AI 알고리즘에 내재한 문제는 여전히 '현재진행형'이다.
서울 광진구에 사는 김모(38)씨는 요즘 유튜브의 '사이렌헤드' 영상을 즐겨보는 6살 아들 때문에 고민이 많다. 사이렌헤드는 캐나다 작가 트레버 헨더슨이 창작한 가상의 괴생명체로, 여러 2차 창작물로 인기를 끈 대표적인 괴담 캐릭터다. 아들은 유튜브 알고리즘으로 우연히 사이렌헤드 영상을 접한 후 이 괴물의 세계에 빠져 들었다. 김씨는 "요즘 아이들 사이에서 사이렌헤드 인기가 많다보니 추천 영상에도 자연스럽게 사이렌헤드가 등장한 것 같다"면서 "아이가 무섭다고 하면서도 계속 본다"고 걱정했다.
사이렌헤드 현상에 대해 김아미 서울대 빅데이터 혁신공유대학 연구교수는 "아이들은 호기심이 많고 현실하고 다른 것에 자극을 느끼고 끌리기 마련"이라며 "친구들과 함께 보고 함께 즐기는 '또래문화'에 익숙해 괴담 캐릭터가 알고리즘에 의해 추천되고, 또 찾아볼 수밖에 없다"고 분석했다.
뉴스 분야에서 이런 추천 알고리즘의 폐해는 더 심각하다. 정치·사회 문제와 같은 가치관과 연관될 때 자기 관심사와 먼 콘텐츠에 노출되지 않는 '필터 버블'에 갇힐 수 있기 때문이다. 김성회 정치연구소 씽크와이 소장은 "유튜브에선 이용자가 1분 이상 머무를 만한 영상을 추천한다"며 "광고까지 오래 시청할 수 있도록 하려면 이용자와 비슷한 주장을 반복하는 채널들로 선택지를 좁힐 수밖에 없다"고 말했다.
차미영 카이스트 전산학부 교수는 "테니스를 좋아해 유튜브에서 테니스 영상을 보면 고가의 테니스 라켓 언박싱(상품을 개봉하고 소개하는 것) 영상 등 자극적인 콘텐츠를 추천해 준다"며 "AI 알고리즘은 근본적으로 바이어스(편향)을 띄고 있기 때문에 어느 한 분야의 끝으로 향하는 극단화(radicalization)의 특징을 갖고 있다"고 설명했다.
특이하게도 AI는 이용자 취향을 양극으로 내몰면서 동시에 동질화하는 특성도 있다. 이런 '동조 현상'은 콘텐츠 시장뿐 만 아니라 유통 시장에서도 일어난다. 알고리즘에 의한 '디지털 카르텔' 현상이 그것이다. 아마존과 쿠팡 등 대형 전자상거래 기업들이 AI 알고리즘을 통해 가격을 조정하게 되면서, 자동으로 가격이 일치하는 담합이 일어날 우려가 있다는 것이다. 김건우 카카오모빌리티 수석이코노미스트는 "알고리즘 감사 제도를 통해서 알고리즘에 대한 투명성을 높이자는 제안, 기업의 법인격과 같은 법적 지위를 알고리즘에 부여하여 권리와 책임을 명확히 하자는 제안 등 새로운 경쟁환경에 맞는 전향적인 대응을 요구하는 의견들이 나오고 있는 상황"이라고 전했다.
마크 카니 전 영란은행(BOE) 총재는 과거 바티칸에서 만났던 프란치스코 교황과의 일화를 공개한 바 있다. 당시 교황은 각국 정부 당국자, 기업가,교수 등이 모인 자리에서 자본주의 시장의 핵심을 이런 식으로 묘사했다고 한다.
인간성을 증류해 이기심 하나만 남긴 결과가 시장이듯, 인간성의 다양한 면을 배제하고 극단적 요소만을 살린 결과가 바로 알고리즘 추천의 작동 원리일 수 있다. 이광석 서울과기대 IT정책전문대학원 교수는 "알고리즘 추천 기술에 의한 편향된 콘텐츠 소비 탓에 우리는 극단적 상호 배제와 증오로 똘똘 뭉친 정치적 부족주의를 마주했다"며 "이용자의 활동과 취향을 데이터로 포획해 이를 자원 삼아 기생하는 'AI 자본주의'가 깊어지고 있다"고 비판했다.
AI의 발전 속도만큼 AI 경계론이 비등해지자, 일부 빅테크들은 자사 알고리즘을 공개하고 투명성을 강화하려는 움직임으로 위기를 벗어나려 한다. 트위터는 이달 자사 콘텐츠 추천 알고리즘에 해당하는 소스 코드를 공개했다. 틱톡도 지난해 12월 영상 추천 방식을 공개했고, 네이버와 카카오 또한 뉴스 알고리즘 검증 위원회를 설치하거나 뉴스 배치 알고리즘을 외부에 알렸다.
알고리즘에 '인간성'을 담아보려는 시도 또한 늘어나고 있다. IT 전문매체 와이어드에 따르면 페이스북 운영사 메타의 심리학자와 개발자 등으로 구성된 연구진은 AI가 추천한 페이스북 게시물의 노출도, 이용시간 등에 따른 이용자의 만족도를 측정하는 연구를 진행하고 있다. 당장의 이윤을 포기하더라도 알고리즘이 사람을 행복하게 만드는 방향으로 작동하는 방식을 고민하기 시작했다는 의미다. 차미영 교수는 "당장의 수익도 중요하지만 AI가 사회적인 역할을 해야 한다는 흐름이 형성되고 있다"면서 "이제는 추천 알고리즘을 통해 인류가 얼마나 나아졌는지를 살피고, 이 가치를 토대로 알고리즘을 만들어야 하는 시기가 온 것"이라고 말했다.
▶ 알고리즘은 당신의 반쪽을 알고 있다…'자만추'보다 자연스러운 '알만추'
https://www.hankookilbo.com/News/Read/A2023041212030001863
▶ 목숨 좌우할 AI무기, 기술 계획만 있고 '윤리 로드맵'이 없다
https://www.hankookilbo.com/News/Read/A2023041415560000383
▶ 다가오는 AI무기 시대...'윤리성'원칙도 신속하게 만들어야
https://www.hankookilbo.com/News/Read/A2023041415360001972