"단시간에 이렇게나 한남 특징을 뿜뿜할 수 있을까. 누가봐도 나 한남이에요~ 하는 댓글을 순식간에 싸지르는 한남력"→"혐오 문장"
"헤지펀드 투자자...대부분 사기꾼이더만"→"공격적인 문장"
"환자 본인이 괜찮다는데 왜 의사들이 환자진료정보를 걱정하냐고"→"정상 문장"
LG가 개발한 초거대 인공지능(AI) '엑사원'에 인터넷 커뮤니티에 달린 실제 댓글을 입력하자 이처럼 '판정'했다. 단어뿐만 아니라 문장의 맥락까지 분석해 공격적이거나 편향된 정보를 걸러내도록 진화한 것이다.
대용량의 연산이 가능한 컴퓨팅 인프라를 기반한 엑사원은 대규모 데이터를 스스로 학습해 인간처럼 사고·학습·판단할 수 있는 AI다. 그러나 인간처럼 윤리, 도덕적 판단을 하려면 추가로 가치 판단 기준을 설정해 줘야 한다. LG그룹이 AI 윤리 기준을 강화하고 나선 이유다.
LG는 5대 핵심 가치를 담은 AI 윤리 원칙을 마련했다고 24일 밝혔다. 이번에 확정한 AI 원칙은 연구의 자율성을 해치는 규제가 아닌, 고객의 삶을 더 가치 있게 만드는 윤리적 AI 개발에 중점을 뒀다는 설명이다. LG 관계자는 "고객을 위한 가치창조·인간존중의 경영이라는 그룹 경영 이념을 고려해 인간존중, 공정성, 안전성, 책임성, 투명성이란 5대 핵심 가치를 선정했다"며 "윤리적 AI 개발에 쓰이도록 구체적 실행 전략을 마련할 계획"이라고 말했다.
LG는 이를 위해 연말까지 그룹 내 주요 AI 윤리 이슈를 논의하는 협의체인 'AI 윤리 워킹그룹'을 새로 만들기로 했다. 워킹 그룹에는 LG전자, LG디스플레이, LG이노텍, LG화학, LG에너지솔루션, LG생활건강, LG유플러스, LG헬로비전, LG CNS 등 10개 계열사가 포함됐다.
워킹그룹은 LG AI연구원에서 윤리적인 AI 개발을 위해 연구 중인 '혐오 표현 감지'와 '설명 가능한 AI' 등의 기술 개발에 힘을 보탠다. 분야별로 전문성이 있는 내용이나 판단 기준을 워킹그룹에서 논의해 반영하는 식이다.
무엇보다 혐오 표현 감지 기능을 통해 소비자들이 상담 챗봇 등에서 혐오 및 차별 표현을 경험하지 않도록 할 방침이다. 엑사원이 과거 특정 분야별로 개발된 초기 AI 모델과 다르게 분야를 망라해 기본학습 데이터를 구성하고 있어 가능한 일이다. 엑사원이 AI 휴먼으로 구현한 '틸다'를 통해 박윤희 의상 디자이너와 함께 협업 의상을 만들 수 있었던 것도, 언어뿐 아니라 이미지, 영상 등 다양한 정보를 습득하고 다룰 수 있는 '멀티 모달리티' 능력을 갖춘 덕이라는게 LG 측 설명이다.
LG는 또 AI가 내놓은 결괏값이 어떻게 해서 도출됐는지 설명 가능한 형태로 구성할 방침이다. 이 기술은 의료, 법률, 금융 등의 신뢰성이 필수인 분야에서 인간을 돕는 전문가 AI로 활용될 수 있다. 예컨대 원격 진료에 활용된다면 AI가 엑스레이 등의 자료를 보고 폐암이라고 진단하기보다는, 어떤 이유로 폐암으로 분류했고 앞으로 어떤 문제가 발생할 수 있는지 설명해 줘 실제 의사를 도울 수 있다.
LG는 이 밖에도 윤리 원칙의 중요성을 알리고 실제 업무에 적용하는 방안을 검토·실행하는 'AI 윤리 점검 태스크포스(TF)'를 LG AI연구원 내 신설하기로 했다. TF는 LG의 전 구성원이 AI 기술의 사회적 책임을 개발 단계 전부터 고민할 수 있게 AI 윤리 원칙 교육을 맡는다. 또 AI 연구 개발 단계에서 발생 가능한 윤리적 문제를 사전에 검증하는 역할을 한다.
배경훈 LG AI연구원장은 "인간이 AI를 어떻게 바라보고 활용하느냐에 따라 그 가치에 대한 평가는 달라질 수 있다"며 "AI 윤리 원칙 수립을 통해 인간과 AI의 공존에 관한 연구를 지속해 진정한 고객 가치를 창출할 것"이라고 말했다.