인공지능스피커가 몰래 나를 녹음한다면

편집자주

가속화한 인공지능 시대. 인간 모두를 위한, 인류 모두를 위한 AI를 만드는 방법은? AI 신기술과 그 이면의 문제들, 그리고 이를 해결할 방법과 Good AI의 필요충분조건

ⓒ게티이미지뱅크

매년 인공지능(AI) 스피커가 독거노인의 생명을 구했다는 보도를 봤다. 사연은 이렇다. 일부 지자체에서 복지제도 차원으로 독거노인들께 AI스피커를 무상으로 제공했다. 생활 편익의 목적도 있으나 주 목적은 홀로 사는 노인들이 위급한 상황 시 스피커에 "긴급 구호"를 외치면, 인공지능이 그 목소리를 인식해 바로 119나 경찰이 출동할 수 있도록 한 것이다.

이렇게 AI 스피커가 인간의 생명을 구하는 좋은 용도로 활용되고 있는 점은 매우 고무적이다. 하지만 AI 스피커가 개인정보와 사생활을 침해하는 경우도 수시로 발생하고 있어 문제가 되고 있다.

오늘은 지난 칼럼에 이어 인공지능 윤리의 5대 문제(편향성, 오류와 안전성, 악용, 개인정보보호, 킬러로봇) 중 '개인정보보호' 문제의 해결 방안까지 알아보고자 한다.

2018년 독일의 한 이용자가 AI스피커에 자신의 음성녹음 데이터를 들려달라고 요청했는데, AI스피커는 정작 해당 이용자의 기록 아닌 다른 사람의 녹음 데이터 1,700건을 제공한 일이 일어났다. 같은 해 미국에서도 한 이용자가 아내와 이야기한 은밀한 대화 내용이 AI스피커를 통해 녹음됐고, 이후 스마트폰 주소록에 있는 직장 동료에게 무단으로 전송되는 사건도 일어났다. 우리나라 역시 2019년 국내 AI스피커 서비스 2개 회사가 스피커 성능 향상을 위해 사용자들로부터 수집한 음성대화 내용을 협력사를 통해 녹취를 해오다 논란이 되었다. 여기서 문제는 사용자들에게 이러한 녹취 작업에 대한 사전동의를 전혀 받지 않았다는 점이다.

그렇다면 왜 이렇게 국내외 AI스피커에서 개인정보 유출문제가 지속적으로 발생할까. 그것은 아직 AI제품에서 개인의 데이터와 정보를 확실히 보호할 수 있는 기술적 완성도가 미흡하고, 또 하나 제품 운영 기업과 개발자, 사용자들의 AI 윤리에 대한 인식과 준수도 미흡하기 때문이다.

더욱이 AI의 개인정보보호 문제는 비단 스피커에만 국한되는 일이 아니다. 지난해 말 아파트의 홈 네트워크 기기인 월패드가 해킹되어, 전국의 아파트 수십 곳의 집안 영상이 다크웹에서 공유, 판매되고 있음이 밝혀져 충격을 준 일이 있다.

이제 인공지능 시대가 본격화되면, 집 내부뿐만 아니라 공공시설, 매장, 거리 등 곳곳에 센서가 설치되어 AI 학습과 정보분석이라는 목적하에 개인정보를 실시간으로 수집하고 활용할 가능성이 매우 높아진다. 그야말로 AI기술의 편익이라는 대가로 모두가 우려하는 '빅브라더' 세상이 열릴 수 있는 것이다.

그렇다면 어떻게 이 문제를 해결해야 할까. 개인정보보호는 인간의 가장 근본적 인격권과 행복추구권에 직결되기 때문에, AI의 개인정보보호 문제는 AI 윤리 문제 중 법적 제도화를 통해 해결해야 하는 문제이다. 예컨대 유럽연합(EU)의 일반개인정보보호규정(GDPR)은 가장 앞서나가는 엄격한 구속력이 있는 개인정보보호 규정인데, 이제 우리나라의 AI기업들이 AI제품과 서비스를 EU에 수출하기 위해서는 반드시 GDPR 규정을 준수하여 제품과 서비스를 만들어야 한다.

우리나라에도 이 GDPR을 벤치마킹한 개인정보보호법이 제정돼 있고, 개인정보의 오남용과 유출을 감독할 기구로 개인정보보호위원회가 설치되어 있다. 개인정보보호위원회는 지난해 5월 '인공지능 개인정보보호 자율점검표'를 발표하기도 했다.

이제 AI 제품과 서비스를 개발하는 기업과 개발자는 이러한 규정과 법률을 준수하고, 소비자들도 AI시대에 자신의 개인정보를 스스로 보호하고 지키려는 노력을 해야 한다. 우리가 AI를 통해 편익과 행복을 얻는 것도 중요하지만, AI에 의해 인간의 권리와 존엄이 침해돼서는 절대 안 될 것이다.