오픈AI의 챗GPT를 시작으로 전 세계 주요 빅테크 기업들이 인공지능(AI) 서비스를 경쟁적으로 선보이고 있다. 아직까진 오픈AI에 10억 달러 이상 투자한 MS가 시장을 이끄는 모습이지만 AI 시대의 실질적 승자는 엔비디아라는 말도 나온다. MS, 구글, 메타 등 누구든 AI 서비스를 내놓기 위해 엄청난 양의 데이터를 빠른 속도로 처리하는 엔비디아의 그래픽처리장치(GPU)를 쓰고 있어서다. 오픈AI 역시 챗GPT를 구동하기 위해 엔비디아 GPU A100을 1만 개나 썼다. A100은 개당 2,500만~3,000만 원에 팔리는 초고가 반도체다. AI의 성능이 좋아질수록 처리해야 할 데이터의 양도 많아지는 만큼 빅테크 기업들은 인프라 투자에 큰 부담을 느낄 수밖에 없다.
사실 A100을 비롯한 엔비디아 GPU는 게임 등 고사양 그래픽을 처리하는 반도체다. 전력 사용량 등에서 효율성이 아쉽다는 평가도 업계에서 나오고 있다. 국내 스타트업들이 AI 특화 반도체 개발에 나선 이유는 여기에 있다. 이들은 GPU보다 효율은 높으면서 가격은 낮춘 제품을 내세워 엔비디아에 도전장을 내보겠다는 포부를 갖고 있다.
국내에서 AI 반도체 스타트업으로 두각을 나타내는 기업은 퓨리오사AI, 리벨리온, 사피온 등이 꼽힌다. 이들은 AI 핵심인 딥러닝 알고리즘 연산에 안성맞춤인 반도체 신경망처리장치(NPU)를 만들고 있다.
퓨리오사AI는 AMD와 인텔, 삼성전자 등에서 일했던 백준호 대표가 2017년 세웠다. 최근 주목받는 AI 반도체 스타트업 중 가장 먼저 시장에 나왔다.
2021년 출시한 NPU '워보이'는 글로벌 AI 반도체 성능 테스트 대회 '엠엘퍼프'에서 엔비디아의 GPU 'T4'보다 이미지 분류와 객체 검출의 처리 속도 면에서 높은 성능을 보여줘 주목받았다. 지난해에는 이 제품을 카카오엔터프라이즈 등에 납품하면서 AI 반도체 시장 개척에 속도를 내고 있다. 내년에는 워보이 대비 성능은 8배, 데이터 전송속도는 30배 향상한 2세대 제품을 내놓을 계획이다.
업계에서는 퓨리오사AI가 AI 반도체 스타트업 중 가장 먼저 유니콘(기업가치가 10억 달러 이상인 비상장 스타트업)에 도달할 것이라는 예상이 나오고 있다. 네이버로부터 2017년 창업 초기부터 투자를 받은 데 이어 2021년에는 국내 반도체 스타트업 중 가장 큰 규모인 800억 원 투자 유치에 성공했다. 현재 최대 2,000억 원 규모의 투자 유치를 추진하고 있는데 회사 측이 제시한 기업가치는 8,000억 원 수준이다.
퓨리오사AI는 올해 안에 북미를 중심으로 글로벌 시장에 나설 예정이다. 이를 위해 지난해 말 빌 레진스키 인텔 전 부사장과 탐 갤리번 웨스턴디지털(WD) 전 부사장을 영입했다.
사피온은 SK텔레콤 내부에서 그룹의 AI 인프라를 개선하는 프로젝트로 시작한 팹리스(반도체 설계 전문기업)다. 2021년 SK텔레콤은 AI 반도체 시장에 본격 뛰어들기 위해 사피온을 분사했다. 아예 본사를 글로벌 빅테크가 모여 있는 미 캘리포니아주 실리콘밸리에 두고 처음부터 해외 시장을 겨냥했다.
사피온이 2020년 선보인 AI 반도체 'X220'도 워보이와 마찬가지로 엠엘퍼프에서 엔비디아의 GPU 'A2' 대비 2배 이상 빠른 데이터 처리 속도를 보여줬다. 회사에 따르면 X220이 엔비디아 제품에 비해 전력 소비가 40%가량에 불과하다고 설명했다. 이 제품은 이미지 분석에 특화된 제품으로 현재 NHN의 데이터센터에 구축돼 패션 AI 서비스를 구동하는 데 쓰이고 있다. 이 반도체를 직접 사용 중인 NHN은 기존 엔비디아 제품 대비 처리 속도가 5배 이상 빠르다고 밝혔다.
사피온은 올 하반기 X220 대비 4배 이상 성능이 향상된 차세대 제품 X330을 출시한다. 이 제품은 챗GPT와 같은 생성 AI에 특화된 모델이다. 또 사피온은 자율주행에 특화된 AI 반도체 X340도 준비하고 있다.
사피온의 기업가치도 빠르게 높아지고 있다. 설립 당시 800억 원이었던 사피온의 기업가치는 올해 5,000억 원으로 6배 이상 성장했다. SK텔레콤은 2027년까지 사피온을 누적 매출 2조 원, 기업가치 10조 원 규모의 회사로 키우겠다는 목표를 갖고 있다.
리벨리온은 미국 매사추세츠공대(MIT) 박사 출신인 박성현 대표가 2020년 창업한 AI 반도체 스타트업이다. 리벨리온은 2021년 초단타매매(하이 프리퀀시 트레이딩) 등 금융 거래에 특화된 NPU '아이온'을 출시했다.
카이스트를 수석으로 졸업하고, MIT에서 석사와 박사까지 마친 박 대표는 인텔, 스페이스X에서 반도체를 개발하다 모건스탠리에서 퀀트 트레이더 업무를 수행했다. 그가 아이온을 출시하게 된 것도 모건스탠리와 같은 월가 금융사들이 GPU를 대체할 특화 AI 칩에 목이 말라 있다는 것을 직접 경험했기 때문이다. 퀀트 투자의 세계에선 수만 분의 1초 차이로 천문학적 자금이 이동하는 만큼 반도체 성능에 대한 중요성이 커지고 있다. 회사 측은 금융 거래 분야에 최적화된 아이온은 현재의 GPU보다 처리 속도가 10배 빠르고, 전력은 절반 수준으로 사용한다고 소개한다. 이미 리벨리온은 JP모건을 비롯해 국내외 금융회사들에 아이온을 납품했다.
지난달에는 챗GPT와 같은 대화형 생성 AI를 구현하는 데 적합한 데이터센터용 AI 반도체 '아톰'을 출시했다. 아톰은 챗GPT에 활용된 엔비디아의 GPU A100과 비교해 전력 소비량이 20% 수준에 불과한 것으로 전해졌다. KT는 일찍부터 리벨리온에 300억 원을 투자하면서 상반기 출시 예정인 초거대 AI 서비스 '믿음'에 아톰을 넣을 준비를 하고 있다. 리벨리온의 기업가치는 3,500억 원으로 평가받고 있다.
AI 반도체 시장은 초기 단계인 만큼 아직 어느 회사도 주도권을 갖지 못한 상황이다. 하지만 성장성은 매우 밝다. 시장조사업체 가트너에 따르면 AI 반도체 시장 규모는 지난해 440억 달러에서 2025년에는 770억 달러까지 커질 것으로 전망된다. 2030년에는 전체 시스템 반도체 시장 31.3%를 AI 반도체가 차지할 전망이다.
하지만 이들 스타트업은 데이터센터 운영 기업들이 실제 환경에서 AI 반도체를 써 보는 사례를 확보하는 것 자체가 어렵다고 하소연한다. 대규모 인프라 투자를 해야 하는 데이터센터 기업 입장에선 성능과 호환성 측면에서 검증된 엔비디아 제품을 선택하고 있다는 것이다. 자산운용사 제프리스에 따르면 지난해 12월 기준 세계 6대 클라우드 서비스 내 최첨단 AI 반도체 시장에서 엔비디아 제품의 점유율은 무려 86%에 달했다. 퓨리오사AI 관계자는 "성능 면에서 엔비디아보다 몇 배 이상 뛰어나다는 평가를 받는데도 고객들은 스타트업이 언제 없어질지 모른다는 생각을 할 수 있다"고 안타까워했다.
전문가들은 정부가 AI 반도체 시장을 활성화하는 데 적극적으로 나서야 한다고 조언한다. ①국산 AI 반도체를 채택한 기업에게 보조금을 주거나 ②공공 분야에서 선제적으로 국산 AI 반도체를 활용한 데이터센터를 구축하는 방안이 제안된다. 박재근 한양대 융합전자공학부 교수는 "일본은 정부가 자국의 반도체 기업과 자동차 기업을 연결시키고 대만의 TSMC에까지 보조금을 주고 자국에 공장을 짓도록 하면서까지 차량용 반도체 시장을 육성하는 데 노력하고 있다"며 "우리 정부 역시 새로운 시장에 우리 기업들이 적극 들어올 수 있게 생태계 형성을 돕는 방안을 고민해야 한다"고 말했다.