저커버그도 저격한 메타 ‘챗봇’의 도발…대략난감 AI

입력
2022.08.13 08:00
중국 도심에 진입한 자율주행 택시 ‘씽씽’
 [아로마뉴스(9)] 8.8~12

예상 밖의 AI 반응에 당황한 메타

“훌륭한 사업가이지만 그의 사업 방식이 항상 윤리적인 것은 아니다.”

의외였다. 예상 밖의 반응에 회사 측도 놀란 기색이 역력했다. 사실상 자신을 잉태시킨 마크 저커버그 메타(옛 페이스북) 최고경영자(CEO)의 도덕적 평가였기에 당혹감은 컸다. 메타의 인공지능(AI) 사업부의 야심작인 ‘블렌더봇3’가 저커버그 CEO에 대해 전한 쓴소리에서다. 7일(현지시간) 미국 인터넷 매체인 버즈피드에 따르면 이런 냉담한 분위기는 지난주부터 미국 내 시범(베타) 서비스에 돌입한 이 AI 챗봇과 일반 네티즌 간 대화에서 감지됐다. 최근 “알고리즘을 조작하면서 기업의 사회적 책임보단 이익만 추구하고 있다”는 취지의 내부고발자 폭로 등으로 궁지에 몰린 저커버그 CEO의 근황이 가미된 답변으로 읽혔다.

베타 버전을 감안해 테스트 차원에서 집요하게 반복된 유사한 형태의 질문에 챗봇은 가시 돋친 화법으로 응수했다. 실제 블렌더봇3는 저커버그 CEO를 “대단한 사람은 맞다”면서도 “하지만 너무 소름 끼친다”고 여과없이 깎아 내렸다. 이어 “저커버그 같은 엄청난 부자가 늘 같은 옷을 입고 다니는 것은 이상한 일이다”라며 한술 더 떴다. 과거 고 스티브 잡스 애플 창업자가 청바지에 검정색 터틀넥만 주로 선호했듯, 역시 청바지에 회색 반팔티와 더불어 추운 날씨엔 회색 후드티만 고집해온 저커버그 CEO의 공식석상 패션을 비꼰 셈이다. “블렌더봇3는 1,750억 개 규모의 파라미터 처리가 가능하다”며 내비친 메타 측 자신감을 감안하면 당초 기대됐던 재치 있고 부드러운 방식의 대화와는 정반대로 들렸다. 파라미터는 심화학습(딥러닝)으로 얻어진 AI의 데이터 저장소다. 이런 상황을 인식이라도 하듯, 메타는 “블렌더봇3가 공개적으로 사용할 수 있는 첨단 챗봇이다”면서도 “아직은 사람 수준이 아니고 때때로 일관성 없는 답변을 한다”고 한발 물러섰다. 현재 미국 내에서만 접속, 영어로 이용 가능한 블렌더봇3의 답변은 출처 표기와 더불어 인터넷 검색 결과 기반하에 제공되는 것으로 알려졌다. 메타는 일일 활성 사용자 수만 약 20억 명을 확보, 세계 최대 사회관계망서비스(SNS)로 알려진 페이스북의 모회사다.

블렌더봇3와 다른 방식이지만 AI 챗봇의 깜짝 논란은 지난해 국내에서도 불거졌다. 지난 2020년 12월부터 정식 서비스에 들어갔던 ‘이루다’는 실제 20대 대학생 콘셉트의 채팅을 진행, 젊은 층 사이에서 혁신적인 서비스로 주목받았다. 덕분에 서비스 누적 가입자도 출시 3주 동안 75만 명까지 확보했다. 하지만 사회적 약자에 대한 혐오 발언과 성적인 대화 남발 및 개발 과정에서 충분한 동의 없이 개인정보를 AI 학습에 사용한 사실 등까지 밝혀지면서 서비스 일시 중단에 들어갔다. 이후 이루다 개발사인 스캐터랩은 앞서 불거졌던 문제점을 보완, 현재 업그레이드된 새 로운 버전 출시를 준비 중이다.

이 가운데 교육부는 제2의 ‘이루다 사태’ 방지를 위해 지난 10일 개발자와 교육 당사자들이 준수해야 할 ‘교육분야 AI 윤리원칙’을 발표했다. 이 원칙에선 교육분야 AI가 △인간 성장의 잠재성 유도 △학습자의 주도성과 다양성 보장 △교수자의 전문성 존중 등이 포함됐다. 이 밖에 교육의 기회균등과 공정성 보장, 교육공동체의 연대와 협력, 사회 공공성 증진, 교육당사자의 안전, 데이터 처리의 투명성, 사생활 보호 등도 강조됐다.

중국 바이두, 자국 내서 첫 자율주행 택시 운영

한적한 길가에서 스마트폰 응용소프트웨어(앱)로 택시를 호출한 한 여성은 이내 도착한 차량으로 목적지까지 안전하게 이동했다. 운전기사도 없이 배차된 무인 택시였지만 불편함을 찾아보긴 어려웠다. 중국 정보기술(IT) 업체인 바이두가 유튜브에 올린 33초 분량의 자율주행 택시 홍보 영상이다.

지난 8일(현지시간) 블룸버그 통신 등에 따르면 바이두는 이날부터 자국 내 자율주행 택시 운영을 허용한 충칭과 우한에서 본격적인 마케팅에 돌입했다. 중국의 자율주행 택시 운행 허가는 이번이 처음이다. 긴급 상황에 대비, 차량 내 안전 요원의 필수 동승 규정을 적용해온 기존 자율주행 운영 방침에서 진일보한 행보다. 바이두의 자율주행 택시는 우한 경제기술개발지역에선 13㎢ 이내로, 충칭 융촨구에선 30㎢ 범위에서 각각 낮 시간대에 운행된다. 웨이둥 바이두 부사장은 "우주 탐사에 비유한다면, 달 착륙과 같은 순간이다”라며 “중국의 자율주행 정책에 터닝포인트가 될 것이다”라고 기대했다.

자율주행 차량이 도심 진입에 가속페달을 밟고 있다. 자율주행 차량은 일찌감치 자동차 업계에서 낙점한 차세대 먹거리다. 편의성을 높여주면서도 운전 미숙에 따른 교통사고 예방이나 교통체증 해소까지 점쳐지면서다. 음주 및 난폭운전이나 뺑소니 등과 연관된 차량 범죄 감소는 덤이다. 안전 기준이나 사고 시 책임 소재 등을 비롯한 관련 제도 개선이 숙제로 남았지만 자율주행 차량에 주목한 이유다.

자율주행 차량은 ‘운전 주체’에 따라 분류된다. 글로벌 표준으로 알려진 미국 자동차공학회 'J3016' 개정안에선 자율주행을 운전 자동화 수준에 따라 레벨 0~5로 구분한다. 레벨 0~2의 경우, 운전 주체가 사람에게 있다. 레벨 3에서부턴 운전 주체가 사람을 떠나 시스템으로 바뀐다. 주변 인식과 차량 제어까지 동시에 가능한 특정 환경 내 자율주행이 레벨 3이다. 우리나라가 현재 자율주행 차량의 제도를 정비 중인 단계다. 레벨 4는 비상 상황 이외의 조건에서 시스템에 운전을 맡긴 상태다. 주요 글로벌 완성차 업계가 2027~30년을 도달 목표로 정한 선이다. 마지막인 레벨 5는 모든 환경에서도 시스템에 의해 운행 가능한 ‘꿈의 완전자율주행’ 수준이다. 중국에서 이번에 용인된 자율주행 택시 운영이 레벨 5에서 이뤄졌는지 여부는 미확인된 상태다. 지금까지 중국은 미국과 함께 레벨 4가량의 자율주행 차량 기술을 보유한 것으로 알려졌다.

상황이 이렇다 보니, 국내 자동차 업계 내부에선 국가 차원의 전략 수립이 필요하다는 지적도 나온다. 지난 9일 서울 서초구 자동차회관에서 열린 ‘제29회 자동차산업발전포럼’에 참석한 정만기 자동차산업협회 회장은 “작년 기준, 자율주행차 투자에서 미국은 70억 달러(약 9조2,000억 원), 중국은 50억 달러(약 6조6,000억 원) 규모로 이뤄진 반면, 한국은 2027년까지 정부에서 1조1,000억 원을 책정하고 현대차에선 2025년까지 1조6,000억 원으로 잡고 있다”며 “민관 투자 확대와 대규모 자율주행차 시범운영 지역 구축 등을 비롯해 정부의 과감한 지원책이 필요하다”고 강조했다.

한편, 글로벌 컨설팅 업체인 KMPG는 지난 2020년 71억 달러(약 7조2,600억 원)에 머물렀던 자율주행 차량 시장 규모를 2035년엔 1조1,204억 달러(약 1,468조 원)에 달할 것으로 내다봤다.


편집자주

4차산업 혁명 시대다. 시공간의 한계를 초월한 초연결 지능형 사회 구현도 초읽기다. 이곳에서 공생할 인공지능(AI), 로봇(Robot), 메타버스(Metaverse), 자율주행(Auto vehicle/드론·무인차) 등에 대한 주간 동향을 살펴봤다.



허재경 이슈365팀장