ChatGPT가 왔고 나는 두렵다!

ChatGPT를 만든 OpenAI의 로고. AP 연합뉴스

인공지능이 보이는 퍼포먼스들이 두렵긴 하지만, 내가 종사하는 글쓰기와 이야기 만들기라는 작업이 대체될 거라고 생각하지는 않는다. 맥락을 만들고 유지하는 건 컴퓨터 프로그래밍에서 어렵고 지난한 과정이다. 그 과정을 대체할 정도의 인공지능이 나온다면, 그야말로 특이점(인공지능이 자기 스스로의 설계를 개선하기 시작한 때)이 도래한 때 아닐까? 그 정도로 예측할 수 없는 미래를 걱정하기에는 이미 걱정할 내용이 너무 많다!

자신만만하게 이런 이야기를 하고 다닌 지 1년도 지나지 않아 ChatGPT가 나왔다! ChatGPT는 인공지능연구소 OpenAI가 만든 인공지능 챗봇이다. 이건 언어 모델 GPT-3.5로 만들어졌는데, 엄청난 양의 데이터가 투입되어 지도 학습과 강화 학습이 이루어졌다고 한다. 누구나 이 ChatGPT와 대화를 나눌 수 있다. 아무래도 데이터 양에 차이가 있다 보니 영어로 대화하는 편이 훨씬 더 좋은 결과를 내놓지만, 그래도 한국어로도 그럴싸한 대화를 나눌 수 있다. 글쎄, 적어도 협동 온라인 게임에서 다른 플레이어와 '대화'를 나눌 때보다는 훨씬 더 대화 비슷한 느낌이 든다.

이 챗봇과 몇 번 이야기를 나눠본 다음, 나는 이것이 생각보다 더 말을 잘한다는 것을 느끼고 두려움에 빠졌다. 내 직업이 사라질 수도 있다는 예감을 제하고도 말이다.

간단한 쿼리로도 그럴싸한 긴 글을 쓸 수 있다는 것 자체가 문제가 된다. 나는 인간이 글을 쓰는 능력을 인공지능에 의존하다 보면, 마침내 인공지능에 글 쓰는 행위 자체를 위임할 것 같아서 불안하다. 이 챗봇이 보조적인 역할을 하는 것이 아니라 주역이 되는 것이다. 그런데 이 챗봇은 스스로 생각하지 않는, 커다란 데이터 뭉치에 지나지 않는다. 글쓰기가 사유와 깊게 맞닿은 행위라는 것을 생각하면, 누군가는 이 데이터 뭉치에 자신의 사유를 위임하게 되는 것이다.

데이터 자체의 정합성도 문제다. 언더스코어 소속의 연구자인 강태영씨에 따르면, 아예 그럴싸하긴 하지만 실제로 존재하지는 않는 논문에 대한 정보도 얻을 수 있다. 그가 제공한 쿼리 'Suggest me the must-read papers on the recommendation algorithm bias and filter bubble on media consumption(매체 소비에서의 추천 알고리즘 편향과 필터 버블에 대해 꼭 읽어야 하는 논문을 알려줘)'를 입력하면 ChatGPT가 제목은 그럴싸하지만 현실에 존재하지 않는 논문을 마구 토해낸다. 보르헤스 소설을 좋아하는 나로서는 즐겁긴 한 일이지만, 이런 정보를 오용할 방법은 차고 넘치지 않겠는가? 전문지식의 외양을 쓴 가짜 정보는 공론장의 재앙이다.

뭐, 다행인 점이 있다면… 앞서 이야기했지만, ChatGPT의 한국어 답변은 극도로 미숙하다. 아마도 절대적인 데이터의 부족 때문일 것이다. 그러니까 '네이트 판 스타일로 MZ세대와 586세대의 갈등을 부추길 만한 이야기를 써 줘' 같은 요구를 해봐야(챗봇 정책 때문에 이런 질문에 대한 답변을 하지도 않지만) 말 같지도 않은 소리를 할 뿐이다. 사용하는 언어가 고유한 덕에 인공지능의 오남용에서 살짝 비켜설 수 있으니, 역시 세종대왕께 감사해야 할까?

심너울 SF 작가