'노벨 물리학상' 받은 AI 선구자들 "인간 이해 벗어난 AI 발전 우려돼"

홉필드 "이해 불가한 AI 작동 원리 파악해야"
힌턴 "역사적 분기점… AI가 생존 위협할 수도"

인공지능(AI) 머신러닝 기초를 확립한 공로로 2024년 노벨 물리학상을 공동 수상한 존 홉필드(왼쪽) 프린스턴대 교수와 제프리 힌턴 토론토대 교수. AP 연합뉴스

현대 인공지능(AI) 기술 발전의 기초를 다진 노벨상 수상자들이 인간의 이해 범위를 벗어난 AI의 발전에 우려를 표명했다.

올해 노벨 물리학상을 수상한 존 홉필드(91) 미국 프린스턴대 명예교수는 8일(현지시간) 수상 소감 온라인 회견에서 "물리학자로서 저는 통제할 수 없고 한계를 파악할 수 없는 것에 큰 불안함을 느낀다"고 말했다. 이어 "신경망 연구 덕분에 AI 연구는 물리학과 컴퓨터 과학에서 이제 작동 원리를 이해할 수 없는 경이로움으로 여겨지고 있다"며 "이는 매우 불안한 일로, 내가 (노벨상 공동 수상자) 제프리 힌턴 교수와 함께 AI에 대한 이해를 이 분야에서의 핵심적인 필요 사항이라고 주장하고 나선 이유이기도 하다"라고 말했다.

홉필드 교수의 우려는 AI 발전 그 자체보다는 AI가 세상의 모든 정보와 결합하면서 개인의 자율성을 제한할 수 있다는 데 있다. 홉필드 교수는 "내가 우려하는 것은 정보의 상호작용이 제어되는 방식으로 통제되는 세상"이라며 "간단하면서도 성공적이지만 그 작동 원리를 이해하지 못하는 알고리즘에 의해 거대한 시스템이 통제되는 세상"이라고 말했다.

홉필드 교수와 노벨 물리학상을 공동 수상한 캐나다 토론토대 소속 힌턴 교수도 이날 수상 직후 노벨위원회와의 전화 인터뷰에서 AI에 대한 경계심을 내비쳤다. 힌턴 교수는 "AI가 통제에서 벗어나 생존 위협을 가져올 수 있다는 측면에서 우리는 역사적 분기점에 있다"며 AI 통제에 많은 자원을 투입해 연구할 필요가 있다고 지적했다.

힌턴 교수는 "AI는 무슨 일이 벌어지고 있는지, 무엇을 해야 할지에 관해 알고 있는 게 훨씬 적다"며 "앞으로 수년 내에 AI의 위협을 다룰 방법이 있는지를 알아내야 한다"라고 말했다. 이어 AI가 "인간을 체력 면에서 뛰어넘는 것이 아니라, 지적 능력 면에서 넘어서게 될 것"이라며 "우리는 우리보다 똑똑한 것이 있다는 것을 경험한 적이 없다"고 덧붙였다.

스웨덴 왕립과학원 노벨위원회는 이날 AI 머신러닝(기계학습)의 기초를 확립한 홉필드·힌턴 교수를 노벨 물리학상 수상자로 발표했다. 특히 이들의 '인공신경망을 이용한 머신러닝을 가능케 하는 기반 발견 및 발명' 관련 공로를 높이 평가했다.

김나연 기자 is2ny@hankookilbo.com