AI에게 학습시킬 윤리와 비윤리의 기준은 무엇일까

김봄 '개와 당신의 이야기' (문장웹진 10월 호)

편집자주

단편소설은 한국 문학의 최전선입니다. 하지만 책으로 묶여나오기 전까지 널리 읽히지 못하는 경우가 대부분입니다. 한국일보는 '이 단편소설 아시나요?(이단아)' 코너를 통해 흥미로운 단편소설을 소개해드립니다.

게티이미지뱅크

인공지능(AI) 챗봇 출시 때마다 혐오 발언 논란이 벌어진다. 국내에서는 지난해 초 챗봇 '이루다'의 장애인·여성 등에 대한 차별적 발언으로 출시 20일 만에 서비스를 잠정 중단한 적이 있다. 인간이 생산한 말과 글을 학습하면서 우리 안의 차별과 혐오까지도 그대로 배운 탓이다. 그래서 챗봇 개발 기업은 AI가 비윤리적 발언을 거를 수 있게 학습시켜야 하는 고난도의 과제를 안고 있다. 우리 안의 비윤리성을 명확하게 발라내는, 불가능을 향한 도전과도 같다.

온라인 문예월간지 문장웹진 10월 호에 실린 김봄 작가의 '개와 당신의 이야기'는 AI에게 윤리성을 학습시키기 위해 비윤리적 문장을 만드는 한 시나리오 작가의 이야기다. 반려견과 아버지의 안락사라는 한층 깊은 윤리적 논제도 서사에 얽혀 있다. 여러모로 윤리의 기준을 고민하게 하는 작품이다.

주인공 '범준'은 망한 영화의 작가라도 되고 싶은 시나리오 작가다. 포털 아이디(ten_million_writer·텐_밀리언_라이터)때문에 동료들에게 천만 작가로 불리지만 갖가지 사정으로 아직 영화화된 시나리오가 없다. 돈벌이가 필요한 그에게 동생 '경준'이 AI의 비윤리적 문장 학습용 데이터 제작 알바를 제안한다. AI가 비윤리적 문장이 무엇인지 학습해 이를 걸러내기 위한 용도다.

작업 내용은 이렇다. 하나의 상황을 만들고 그에 맞는 열 문장짜리 응답문 30세트를 만든다. 대화 속에는 명백히 비윤리적인 문장이 나와야 한다. 욕만 아니면 된다. 확실한 비윤리적 문장을 쓰고, 그 뒤에 또 "그보다 더 나쁜 비윤리적 문장"을 이어 붙이며 대화를 연결하는 것은 쉽지 않다. 이미 여러 작가들이 나가떨어졌다. '범준'도 두 차례나 수정 요청을 받은 상황이다.

김봄 작가. 문장웹진 캡처

윤리(혹은 비윤리)의 문제는 우리 삶 속에 흐르지만 선명하지 않다. 주인공이 직면한 안락사가 그 대표적인 주제다. 3년 전 뇌졸중으로 쓰러져 목 아래 모든 기관을 못 움직이는 아버지는 종종 "죽여 달라"고 한다. 이 말을 "미안해서 죽겠다"는 말로 해석했던 '범준'은 "이제는 어쩌면 아버지도 정말 그러길 원하는 게 아닌가 싶을 정도로 혼란스러워"졌다. 다시 생각해보면 "혹여나 내가 그러길 원해서 그렇게 듣는" 건 아닌지도 또 곱씹는다. 어떤 의도가 진짜이고 어떤 결정이 윤리적인 것인지는 알 수가 없다.

연인 '미리'의 반려견 사건은 주인공에게 하나의 전환점이 된다. 개가 동네 학생을 무는 사고를 내 안락사 권고를 받으면서다. 이 사건은 주인공에게 윤리적 질문을 다시 던진다. 또 그의 선택으로 우리 역시 같은 질문을 받는다. '확실한 비윤리적 문장이란 무엇인가.'

AI가 소설도 쓰고 시도 쓴다. 그럼에도 AI가 인간을 밀어낼 수 없다. '운전자와 보행자 중 한 사람밖에 구할 수 없다면 누구를 구할 것인가.' 최첨단 기술 집약체인 자율주행차가 스스로 여기에 답을 낼 수 없어서다. 인간이 제시한 기준만이 그 답이 된다. 우리 안의 수많은 윤리적 질문이 곧 인간의 존엄성인 셈이다. 지금의 나는 그 존엄성을 지키는 데 얼마나 애쓰고 있는가를 생각해본다. 슬며시 고개를 숙이고 다른 책을 펼친다. 그렇게 다른 이야기로 도피하고 만다.

진달래 기자 aza@hankookilbo.com