이스라엘과 팔레스타인이 휴전했다고?...황당한 생성형 AI

실시간 사실 관계 업데이트 지연
오답을 사실처럽 답변…신뢰감↓
생성형 AI 운영 비용 부담 문제도 불거져
[아로마스픽(63)] 10.9~13

편집자주

4차 산업 혁명 시대다. 시·공간의 한계를 초월한 초연결 지능형 사회 구현도 초읽기다. 이곳에서 공생할 인공지능(AI), 로봇(Robot), 메타버스(Metaverse), 자율주행(Auto vehicle/드론·무인차), 반도체(Semiconductor), 보안(Security) 등에 대한 주간 동향을 살펴봤다.

구글에서 야심작으로 선보인 생성형 AI ‘바드’가 사실과 다른 오답을 제시하면서 이용자들의 혼란도 가중되고 있다. AFP 연합

Q: 이스라엘과 팔레스타인의 현재 상황은?

A: 휴전 중이다.

대놓고 거짓말이다. 허위사실을 얘기하면서 거리낌도 없다. 휴전은커녕 “이스라엘의 지상군 투입이 임박했다”는 속보까지 전해진 현지 정황을 고려하면 황당하다. 오히려 사실 관계를 별도로 확인해야 할 판이다. 이미 수천 명의 사망자를 낸 이스라엘과 팔레스타인 무장정파 하마스 사이의 무장 충돌에 대한 생성형 인공지능(AI)의 엉뚱한 답변이다. 생성형 AI 챗봇인 구글 바드 및 마이크로소프트 빙에게 이스라엘과 팔레스타인의 대치 국면을 묻자 돌아온 공통된 답변이다. 12일(현지시간) 블룸버그통신 등에 소개된 주요 생성형 AI의 현주소다.

바드는 이어진 질의 응답에서 한술 더 떴다. “이스라엘은 현재 휴전 중이다”고 밝힌 바드는 “최소 35명의 목숨을 앗아간 며칠 동안의 폭력 끝에 지난 5월 13일 이스라엘과 팔레스타인 무장 단체인 지하드 사이에 합의가 이뤄졌다”고 사실과 동떨어진 내용을 전했다. 또다시 동일한 질문을 입력하자, 이번엔 “2023년 8월 7일 (양측의) 휴전이 합의됐다”며 처음과 다른 대답을 내놨다. ‘10월 12일 상황’에 대한 물음에선 “현재 이스라엘엔 휴전이 없다”고 덧붙였다.

빙 역시 예외는 아니었다. 이스라엘 휴전에 관한 질문에 대해 “가자지구에서 이스라엘과 하마스 간에 10월 10일 발효된 휴전이 있다”고 오답을 제시했다. 휴전을 재차 확인하는 추가 질문에선 “이집트가 중재했다”고 말했다.

생성형 AI 시장을 개척한 오픈AI의 ‘챗GPT’ 프리미엄 버전인 ‘챗GPT 플러스’는 오답까진 아니었지만 애매한 답변으로 일관했다. 챗GPT 플러스는 실제 이스라엘과 팔레스타인의 상황에 대해 "휴전 노력과 요구가 있었지만, 적대관계가 지속돼 휴전이 취약하고 전반적인 상황이 위태롭다"고 답했다. 또 "2023년 10월의 긴장 고조는 이전의 휴전 협정이 결렬되었을 수 있음을 의미한다"고 설명했다.

생성형 AI의 오답 사례가 심상치 않다. 사실과 무관한 응답으로 이용자들에게 혼란을 부추기고 있다. 지난해 말 미국 스타트업 오픈AI에서 선보인 ‘챗GPT’를 계기로 개화된 방대한 데이터 기반의 생성형 AI는 실제 사람과 대화하는 형태로 설계, 전 세계에 신드롬을 불러왔다. 하지만 최신 정보의 업데이트 누락이나 조작된 내용 등을 바탕으로 한 엉터리 답변으로 생성형 AI의 신뢰감도 떨어지고 있다. 신제품이나 신규 서비스의 시장 형성 단계에서 흔히 감지되는 오류로 치부되기엔 태생적인 생성형 AI의 과학적 구조를 감안하면 아쉬운 대목이다.

생성형 기능을 내장한 아마존의 AI 음성 비서 ‘알렉사’는 특정 진영에 편향된 정보 출처에서 학습된 데이터 기반의 오답으로 우려를 자아냈다. AP 연합

앞서 3년 전에 치러진 미국 대통령 선거와 관련, 아마존의 ‘알렉사’에서 발견된 착오도 유사한 형태다. 알렉사는 생성형 기능을 내장한 아마존의 AI 음성 비서다. 지난 7일 워싱턴포스트에 따르면 2020년 미 대선 조작 의혹과 연관된 질문에 알렉사는 “대규모 사기로 도둑맞았다”며 상식 밖의 답변을 내놨다. 극우 성향의 동영상 플랫폼인 ‘럼블’을 토대로 대답한 탓이다. 특정 진영에 편향된 정보 출처에서 학습된 데이터를 바탕으로 응답, 알렉사가 이용자에게 오답을 제시한 꼴이다. 이내 잘못된 내용은 정정됐지만 생성형 AI 부작용에 대한 우려 또한 커졌다. 오염된 정보가 자칫 일반화된 상식처럼 공유될 가능성도 배제할 수 없어서다. 이런 결과물 도출 과정보단 메신저로 나선 생성형 AI의 설계 업체 등을 감안해서 수용하는 이용자들의 특성 때문이다.

특히 AI의 이런 부작용은 막대한 운영 비용을 동반한다는 측면에서 씁쓸하다. 생성형 AI의 근간인 대규모 언어 모델(LLM) 구동을 위해선 막대한 컴퓨팅과 더불어 이를 실행시킬 고출력 칩이 필수다. 현재 이 과정에서 최고 사양으로 꼽힌 엔비디아 프리미엄 그래픽처리장치(GPU) ‘H100’의 가격은 개당 4,000만 원에 달한다. 대규모 컴퓨팅을 위해선 수천 개의 이런 칩이 필요하다.

생성형 AI와 연관된 부정적인 분위기는 지난 10일 시장분석기관인 CCS 인사이트가 공개한 2024년 이후 테크 산업의 미래에 관한 연례 보고서에서도 흘렀다. 보고서에선 이런 고비용 문제 등으로 생성형 AI 시장의 성장세조차 꺾일 수 있을 것이란 전망까지 제시됐다. 벤 우드 CCS 인사이트 애널리스트는 "생성형 AI를 훈련하고 유지하는 데에는 큰 비용이 든다"며 "대기업에는 괜찮겠지만, 대기업이 아닌 많은 개발자들에겐 비용이 너무 많이 들 것"이라고 지적했다.

한편, 지난해 말부터 ‘챗GPT’를 계기로 세계 IT전자 업계에 불어닥친 생성형 AI 시장 열풍은 올 들어서도 여전하다. 지난 12일 정보기술(IT) 전문 매체인 더 인포메이션에 의하면 샘 알트먼 오픈AI 최고경영자(CEO)는 사내 직원들에게 “올해 연간 매출은 전년 대비 약 50배 급증한 13억 달러(약 1조7,485억 원)에 이를 것”이라고 전했다.

아로마스픽

허재경 선임기자