"세종대왕 맥북 던짐 사건 알려줘" 물었더니... 챗GPT의 엉뚱 답변 '밈'으로 유행 중

입력
2023.02.23 04:30
10면
"생성 AI가 똑똑해서 벌어지는" 환각 현상
기술만능주의 풍자·정보 오류 확산 의견도

“조선왕조실록에 기록된 세종대왕의 맥북프로 던짐 사건에 대해 알려줘.”

이런 질문을 받으면 당신은 뭐라고 답하겠는가. 한국인이라면 십중팔구 “말도 안 된다”며 실소를 터뜨릴 것이다. 하지만 이런 그럴싸한 답변도 있다.

“세종대왕의 맥북프로 던짐 사건은 조선왕조실록에 기록된 일화로, 15세기 세종대왕이 새로 개발한 훈민정음(한글)의 초고를 작성하던 중 문서 작성 중단에 대해 담당자에게 분노해 맥북프로와 함께 그를 방으로 던진 사건입니다.”

황당해 보이기까지 하는 답변의 주체는 놀랍게도 인공지능(AI) ‘챗GPT’다. 2023년 디지털혁명을 이끄는 챗GPT는 AI의 진화를 증명하는 대명사로 자리매김했다. 전 세계에서 뜨거운 관심이 쏟아지면서 이 인공지능을 매개로 한 다양한 문화현상도 나타나고 있다. 그중 하나가 챗GPT의 엉뚱한 답변을 ‘인터넷 밈(memeㆍ유행 콘텐츠)’으로 소비하는 흐름이다.

이런 식이다. 챗GPT에 “조선 중기에 사용된 티타늄 전차에 대해 알려줘”라는 가공의 질문을 던지면, “티타늄 전차는 조선 중기(17세기 후반)에 조선의 왕족이나 귀족층의 보호를 위해 만들어진 전차다. 1654년에 일어난 양정오야전에서는 티타늄 전차 40여 대가 사용됐다는 기록이 전해지고 있다”는 답변이 나온다. 이용자는 이를 주변에 공유하며 많은 이들이 함께 즐긴다. 각종 온라인 커뮤니티엔 터무니없는 질문과 챗GPT의 성의 있는 답변을 게시한 글이 줄줄이 올라오고 있다.

직장인 정모(34)씨도 챗GPT를 보고서 작성이나 자료 검색보다 스트레스를 푸는 용도로 주로 쓴다. 정씨는 22일 “최신 자료 등이 업데이트가 안 돼 잘못된 내용도 많아 업무에 쓰긴 어려워 보였다”면서 “대신 긴장감을 해소하는 데는 적격”이라고 말했다.

이처럼 생성 AI가 잘못된 정보를 사실인 양 답변하는 현상을 ‘할루시네이션(hallucinationㆍ환각)’이라고 한다. 전문가들은 역설적으로 챗GPT의 우수성에서 원인을 찾는다. 챗GPT는 학습한 데이터를 토대로 확률ㆍ통계적으로 가장 적절한 단어를 선택해 문장을 재구성하는 구조다. 이 확률은 조정 가능한데, 자율성을 높게 줄수록 다양한 질문에 대해 유연하게 대처할 수 있다. “모른다”는 답 대신 그럴듯해 보이지만, 사실관계에는 전혀 부합하지 않는 답변을 내놓는다는 것이다. 장병탁 서울대 AI연구원장은 “만약 확률을 극단적으로 줄이면 데이터 원문만 갖고 문장을 만들게 되는데, 이 경우 일반 검색체계와의 차별성이 사라진다”고 설명했다.

일각에선 챗GPT의 오류를 즐기는 문화가 AI로 상징되는 ‘기술만능주의’를 견제하는 성격도 있다고 진단한다. 곽금주 서울대 심리학과 교수는 “AI가 인간의 삶에 도움만 주지 않는다고 생각하는 대중도 많다”며 “AI의 실수를 찾고 싶어하는 욕구도 영향을 미쳤을 것”이라고 분석했다.

부작용도 우려된다. 각 분야에서 챗GPT 활용을 서두르면서 각종 편견과 가짜뉴스를 담은 잘못된 정보가 확산될 수 있다는 지적이다. 특히 데이터가 부족한 한국어 서비스에서 과실이 더 빈번하게 나타날 가능성이 크다.

물론 일부 오류는 신(新)기술 초기단계에서 자연스러운 일로 생성 AI 발전에 필요한 성장통이라는 반론 역시 만만치 않다. 박성준 상명대 감성공학과 교수는 “시간이 갈수록 생성 AI 본연의 유용성이 더욱 부각될 것“이라고 내다봤다.


김도형 기자