당근마켓 AI는 왜 신생아 판매글을 걸러내지 못했을까

입력
2020.10.18 17:40

당근마켓 제공

중고거래 앱 '당근마켓'에선 인공지능(AI)이 경찰과 같은 역할을 하고 있다. 매일 업로드되는 수십만 건의 게시물 중에서 총기, 주류, 담배와 같은 금지 품목을 찾아내 지우고 사기꾼이나 전문 판매업자를 걸러내는 게 AI 몫이다. 당근마켓은 AI 기술을 활용한 '깨끗한 거래'를 내세워 빠르게 성장했고, 지난달엔 월간 순방문자 수(MAU) 1,000만명을 돌파하며 '국민앱' 반열에 올랐다.

인기 중고거래 앱인 당근마켓에 최근 '신생아 판매' 글이 수 분 동안 노출되면서 사회적인 공분을 불러 일으키고 있다. 플랫폼 사업자인 당근마켓 또한 책임에서 자유로울 수 없다는 지적이다. 인신매매가 형법상 금지되고 있는 만큼 당근마켓이 AI로 미리 게시물을 걸러냈어야 한다는 비판에서다.

16일 오후 6시 30분께 한 중고 물품 거래 모바일 애플리케이션에 36주 된 아이를 거래하겠다는 글이 올라와 경찰이 수사에 나섰다. 당근마켓 게시글 캡처 장면. 연합뉴스

18일 당근마켓에 따르면 문제의 게시물은 16일 오후 6시 36분에 제주 서귀포시 지역에서 당근마켓 앱에 올라왔다. '아이 입양합니다 36주 되어있어요'라는 제목의 이 글에는 갓 태어난 신생아 사진과 함께 20만원의 가격이 책정됐다. 당근마켓 관계자는 "4분 뒤인 오후 6시 40분 이용자 신고가 들어와 즉시 게시자에게 경고 알림을 줬고, 스스로 글을 내리지 않아 44분 미노출 처리를 완료했다"고 설명했다. 사실상 아동 매매 게시물이 10분 가까이 이용자들에게 노출된 셈이다.

당근마켓의 AI가 이 글을 미리 걸러내지 못한 이유는 기본적으로 '상상력 부족' 때문인 것으로 보인다. 중고거래 앱으로 사람을 사고 팔 것이라는 예상을 전혀 할 수 없었기 때문에 미리 AI에 학습을 시킬 수 없었다는 것이다. 실제로 당근마켓이 판매금지 물품으로 규정하고 있는 30여가지 카테고리에 '반려동물(열대어 포함)'이나 '낚시로 포획한 수산물' 등은 포함돼 있지만, '사람'이나 '아동'은 기재돼 있지 않다. 공정거래위원회가 정리한 '인터넷쇼핑몰을 통한 판매금지 품목'에도 당연히 '사람'은 포함돼 있지 않다.

처음 겪는 일이다 보니 AI를 학습시킬 수 있는 기존 데이터가 미비했던 점도 '구멍'이었다. 당근마켓 측은 "미리 학습시킨 정보가 아닌 경우엔 AI가 신고 처리된 내용을 꾸준히 학습하고 있는데, 이와 비슷한 전례가 없었기 때문에 AI가 인지하지 못한 것 같다"며 "이번 사건을 계기로 내부적으로 좀 더 정교한 딥러닝 기술을 개발할 것"이라고 말했다.

당근마켓 마스코트 '당근이'. 당근마켓 제공

하지만 현실적으로 당근마켓에 책임을 물을 수 있는 근거 법률은 마땅치 않다. 게시글을 올린 산모 A씨에 대해선 아동 매매 행위를 엄격히 금지하고 있는 아동복지법 위반 혐의가 적용될 수 있지만, 다른 소비자 피해가 발생하지 않은 상황에서 판매를 위한 온라인 공간만을 제공한 플랫폼 기업에 이 책임을 묻기는 어려운 상황이다. 공정위가 지난달 입법예고한 '온라인 플랫폼법' 제정안의 경우 플랫폼 사업자와 입점업체 간의 불공정 거래를 주로 다루고 있어 이번 사례와는 크게 관계가 없을 것으로 보인다.

당근마켓 측은 일단 경찰 수사에 적극적으로 협조하겠다는 입장이다. 당근마켓 관계자는 "생명을 사고 파는 행위는 절대 용납할 수 없다는 원칙으로 자체 필터 기술 등을 점검할 것"이라며 "최대한 수사 기관에 협조하겠다"고 밝혔다.

곽주현 기자
한국일보 뉴스 네이버 채널 구독하기 뉴스스탠드에서 구독하기
세상을 보는 균형, 한국일보 Copyright © Hankookilbo

댓글 1,324

0 / 250
첫번째 댓글을 남겨주세요.

중복 선택 불가 안내

이미 공감 표현을 선택하신
기사입니다. 변경을 원하시면 취소
후 다시 선택해주세요.

기사가 저장 되었습니다.
기사 저장이 취소되었습니다.