인공지능이라는 가짜 믿음

입력
2021.04.08 19:00

클럽하우스 앱. 로이터 연합뉴스


친구의 초대로 요즘 한참 주가를 올리고 있다는 SNS인 클럽하우스에 들어갔다. 모르는 사람들끼리 어떻게 이야기를 시작하고 대화를 유지하지? 수업 대화를 연구 분야 중 하나로 다루는 사람으로서 호기심이 일었다. 무엇보다도 얼굴 없이 목소리로만 대화하는 이 플랫폼의 인기가 어디에서 오는지 궁금했다.

그러나 이런 호기심은 사람들의 목소리가 들려오는 클럽하우스 방으로 들어가자 이내 공포로 변했다. 선생이라는 직업을 가지게 되면서 좀 덜해지고, 또 안 그런 척도 하지만 나는 본래 낯도 많이 가리고 사람을 만나는 것을 무서워한다. 특히 모르는 사람들이 가득한 공간에서는 더 정신을 못차린다.

클럽하우스의 대화판이 어떻게 돌아가는지 파악하기도 전에 잠시 이야기를 듣다가 황급히 방을 빠져나오기를 반복했다. 누군가 나를 지목해 말을 시킬지도 모른다는 두려움에 압도당한 것이다. 방금 들어간 방에서도 사회자로 보이는 이가 ‘자, 이쯤에서 새로 들어온 분들에게’라고 말하자 부랴부랴 앱을 닫아버렸다.

이런 상상을 해본다. 나와 똑같은 목소리, 똑같은 말하는 방식을 가진 인공지능이 나 대신 클럽하우스에 참여하는 것은 어떨까? 누군가 말을 시키면 인공 지능이 나를 대신해서 말한다. 나는 나의 복제품인 인공 지능 뒤에 숨어서 조용히 대화를 관찰하기만 하면 된다.


©게티이미지뱅크

세상을 떠난 가수의 목소리로 그 가수가 부르지 않은 노래도 부르게 만드는 세상이니 이 또한 가능할 것이다. 70여 년 전에 앨런 튜링이 제안했던 튜링 테스트를 시행해 볼 수도 있다. 대화 참여자들 중 몇 퍼센트가 내 복제품이 사람이 아니라는 것을 알아차릴까. 튜링은 주장한다. 만약 참여자의 30% 이상이 컴퓨터 프로그램을 사람이라고 판정한다면, 이 프로그램을 생각하는 인공지능으로 인정할 수 있다고. 그의 말이 맞다면, 내가 아닌 또 다른 내가 존재하게 되는 셈이다.

튜링의 제안은 행동주의에 기반한다. 인간의 사고와 마음은 눈으로 확인할 수 없는 블랙박스 안에 갇혀 있다. 이런 관점에 따르면 우리는 옆에 있는 사람이 진짜로 생각하는지도 알 수 없고, 그에게 마음이란 게 존재하는지도 알 수 없다. 눈으로 확인 가능한 것은 구체적인 행동뿐이다. 따라서 만약 우리의 행동을 흉내 내는 무엇인가가 있다면 우리는 그 무엇인가가 우리처럼 사고하고 마음으로 느낀다고 추측할 수 있다.

아니 무슨 말씀을. 철학자 존 설은 튜링의 관점을 반박한다. 내가 그 블랙박스 안에 앉아 있는 어떤 존재라고 생각해 보자. 이 블랙박스의 이름은 중국어 방이다. 나는 중국어를 하나도 모르지만 방 안에 있는 중국어 답변 프로그램을 능수능란하게 다룰 수 있다. 자 이제 누군가가 방 밖에서 중국어로 질문을 던진다. 그럼 나는 중국어로 답하는 프로그램을 이용해 ‘훌륭한’ 답을 내어 준다. 이 경우 ‘나’는 중국어를 할 수 있는 존재라고 할 수 있는가?

이에 대해 행동주의자들은 다음과 같이 반박할 것이다. 네네. 그냥 블랙박스 안에 조용히 앉아서 생각이나 하세요. 어차피 당신이 그 상자 안에 있는지 없는지 우리는 알 수 없으니까. 우리에게 들리는 것은 오직 상자 밖으로 흘러나오는 중국어뿐이라고요.

행동주의와 그에 대한 반박. 그 반박에 대한 재반박. 이것이 인공지능을 둘러싼 논란의 역사라고 할 수 있다. 이 자리에서 논란의 역사를 반복할 생각은 없으니, 인공지능에 대한 내 생각을 짧게 밝히겠다. 아주 거칠게 말해 인공지능이 ‘육체’를 얻지 않는 이상, 인간과 진정한 대화를 나누는 날은 오지 않을 것이라고 나는 생각한다. 언어는 인간의 인지와 밀접하게 관계를 맺고 있고, 이 인지는 인간의 몸과 연결되어 있기 때문이다. 우리는 우리의 언어를 우리의 몸에서 떼어낼 수 없다.


©게티이미지뱅크

내가 정작 관심을 가지고 있는 것은 인공지능이 아니라 인공지능과 진짜 대화를 하고 있다고 믿는 ‘인간의 내면’이다. 인간은 일단 자신이 무언가와 ‘대화’를 하고 있다고 생각하면 너무 쉽게 그 무언가가 실재한다고 믿는다. 실험을 한 번 해보자. 당신은 누군가에게 다음과 같은 질문을 던진다. ‘너 친구 있어?’ 약간의 뜸을 들인 후, 그 누군가가 당신에게 답한다. ‘가끔 혼잣말을 하곤 해요.’ 이 대답을 들은 당신은 그 누군가에게 친구가 없다고 생각하고 그를 측은하게 생각할 것이다. 친구가 얼마나 없길래 혼잣말을 한다는 것일까? 아, 눈물이 앞을 가리는구나.

여기서 이 누군가는 한 스마트폰에서 제공되는 음성인식 서비스다. 생각해 보면 이 음성인식 서비스는 질문과 관계없는 엉뚱한 대답을 했다. 그런데 인간은 이 엉뚱한 대답을 이상하게 생각하지 않는다. 오히려 그 엉뚱함 속에서 정확한 답을 찾아낸다. 이것이 가능한 까닭은 인간이 협력하는 성향을 타고났기 때문이다. 믿기 어렵겠지만 인간이 대화를 할 때, 대화의 표층이 아닌 저 깊은 심층에서는 상대방이 자신과의 대화를 위해 언제나 협력하고 있다고 믿는다. 대화의 표면에서 아무리 심한 갈등이 진행되더라도 이 대화의 바닥에서는 두 주체 사이의 협력이 멈춤 없이 작동하는 것이다.

이런 대화를 생각해 보자. "사과드릴게요." "아니요. 괜찮습니다." "그러지 마시고 이제 화 좀 푸세요." "아, 됐다니까요." 사과하는 사람과 달리 사과를 받는 사람은 이 대화에 협력하지 않는 것처럼 보인다. 그러나 사과하는 사람이 "괜찮다고요? 알겠습니다"라고 말하면서 떠나버리면 사과를 받던 사람은 황당해할 것이다. 그가 괜찮다고 한 것은 마음이 전혀 괜찮지 않으니 마음이 풀릴 때까지 다시금 몇 번이고 사과하라는 뜻이었을 테니까.

이처럼 인간은 말해지지 않은 것의 의미를 알아내며, 심지어 다르게 말한 것의 의미도 파악해 낸다. 언어학에서 대화 함축 현상으로 설명하는 이런 인간 언어의 특징은 앞서 말한 인간의 협력하는 본성에 기인한다. 협력하는 본성이 워낙 강하기 때문에 인간은 인공지능 프로그램이 만들어낸 이상한 헛소리도 뭔가 의미가 있을 거라고 생각한다. 협력하는 주체가 없음에도 그런 주체가 실재하며, 그 주체와 자신이 서로 협력하고 있다고 믿는 것이다. 인공지능이 창조했다는 기사문이나 소설, 미술 작품에 대한 감탄도 이것들을 만들어낸 ‘주체’가 있다고 믿기 때문에 가능하다.

사실 지금의 인류를 만들어 낸 것은 존재하지도 않는 주체가 인간과 협력하고 있다는 믿음이다. 인간은 자연의 사물들 속에서, 변화무쌍한 자연의 현상에서 인간다움을 찾아냈다. 그리고 그것들이 인간에게 끊임없이 말을 걸고 있다고 믿었다. 그 믿음은 신을 만들고, 민족을 만들고, 국가를 만들고, 온갖 무슨무슨 주의를 만들었다.

그런 점에서 인공지능은 인류와 오랫동안 함께해온 애니미즘의 현현이다. 인공지능은 사물에 깃든 신령한 기운을 드러내어 보여준다. 거울 속에 갇혀 있던 허상은 이제는 거울 밖으로 나와 언제 어디서나 우리와 함께한다. 가짜 주체이지만 너무나 생생하기에 인간은 인공지능이 우리와 협력할 자격을 가진 진짜 주체라고 믿는다.

©게티이미지뱅크

자본을 위해 복무하는 담론은 거기서 멈추지 않고 인공지능을 신적인 존재로 격상시킨다. 이제 우리는 인공지능 신들의 보호, 아니 신들의 지시와 감시에서 벗어날 수 없다. 그렇게 해서 인공지능은 공포의 대상인 동시에 구원자로 자리매김했다. 그리고 이 인공 지능 신 위에는 제프 베이조스니, 일론 머스크니, 저커버그니, 마윈이니, 김범석이니 하는 전지전능한 자본가 신인(神人)들, 21세기 오즈의 대마법사들이 있다.

문제는 이런 담론들이 가짜 믿음을 유도한다는 것이다. 이 담론들은 우리가 공포와 구원 사이를 방황하다가 무기력함을 학습하게 한다. 예를 들어 우리는 인공지능을 이용해 노동자들을 착취하는 플랫폼 기업에 분노하다가도 무능한 인간 교사들을 유능한 인공지능 교사가 대체하리라는 말에 솔깃해한다. 그러고는 이렇게 생각하는 것이다. 그래 이제는 어쩔 수 없어. 인공지능이 모든 것을 대체할 거야. 이런 담론들은 인간과 인간 노동의 쓸모없음을 확증한다. 더불어 인간이 결국 인공지능에 종속될 수밖에 없다는 가짜 믿음을 만들어낸다. 자 이제, 인공지능 신에 순응하고 저 자본가 신인들을 경배하라.

그러나 인공지능은 자본가 신인들이 만들어낸 것이 아니다. 인공지능은 우리가 알게 모르게 자본에 빼앗긴 우리의 말과 행위들을 재료로 만들어졌다. 그리고 이 재료들을 모아 붙여 놀라운 인형으로 만들어낸 것은 인간들의 노동이었다. 인공지능이 세상을 돌리는 것 같지만, 여전히, 그리고 앞으로도 이 세상을 움직이는 것은 결국 사람들의 노동일 것이다. 그렇다. 인간과 인간의 노동이 무용하다는 이야기들은 거짓이다.

이제 우리는 무대 위에서 에메랄드성을 약속하는 자본가 오즈의 마법사들이 무대 아래에서는 서쪽 마녀로 변한다는 것을 안다. 그들은 우리의 모습을 따라 창조한 인공지능을 날개 달린 황금원숭이로 만들어 우리를 노예로 부리려 한다. (베이조스의 아마존에서는 노동자들이 빈 병에 오줌을 누며 일해야 한다. 김범석의 쿠팡에서는 지난 1년간 6명의 노동자가 사망했다. 이는 물론 세상 구석구석까지 뻗어 나가는 전지전능한 마법사들의 선의가 그들의 회사까지는 미치지 못했기 때문이리라.)

우리는 오즈의 마법사가 마법을 부릴 줄 모르는 복화술사라는 것도 알고 있다. 이 복화술사들의 특기가 다른 사람의 목소리로 최면 걸기라는 것도. 그들은 끊임없이 다른 목소리로, 수많은 사람의 목소리로, 심지어 듣는 사람 자신의 목소리로 속삭인다. 인간은 이제 불필요하다고, 인간의 노동은 싸구려라고, 인공지능이 다 알아서 할 테니 이제 기꺼운 마음으로 복종하라고.

이 최면에서 깨는 방법은 아무리 우리와 닮아 있어도 인공지능이 가짜 주체라는 것을 깨닫는 것이다. 거울 속 허상이 진짜처럼 보여도 그 허상과는 진정한 대화를 나눌 수 없다는 것을 아는 것이다. 거울은 결국 거울일 뿐이다.

백승주 전남대 국문학과 교수
대체텍스트
백승주전남대 국문학과 교수
세상을 보는 균형, 한국일보 Copyright © Hankookilbo

당신이 관심 있을만한 이슈

댓글 1,324

0 / 250
첫번째 댓글을 남겨주세요.

중복 선택 불가 안내

이미 공감 표현을 선택하신
기사입니다. 변경을 원하시면 취소
후 다시 선택해주세요.

기사가 저장 되었습니다.
기사 저장이 취소되었습니다.