AI로 폭발한 GPU 수요 “코로나 때 화장지만큼 구하기 힘들어”

전 세계적으로 인공지능(AI) 열풍이 불면서 이에 필요한 반도체 수요도 급증했지만, 공급이 수요를 따라가지 못하고 있다는 진단이 나온다.

29일 월스트리트저널(WSJ)은 AI용 반도체 칩인 그래픽처리장치(GPU)를 확보하기 위한 치열한 경쟁이 이뤄지고 있으며, 이는 미국에서 팬데믹 초기에 화장지 사재기가 일어났던 것과 비슷한 정도라고 보도했다.

챗GPT와 같은 AI 분야 정보처리에는 GPU가 쓰이는데, 미국의 반도체 기업 엔비디아가 세계 시장에서 GPU 공급의 90%를 맡고 있다.

최근 챗GPT 등의 성공으로 GPU 수요가 공급을 훨씬 앞지르면서 아마존이나 마이크로소프트(MS)와 같은 클라우드 서비스 공급자들이 챗GPT 개발사인 오픈AI와 같은 업체에 제공할 수 있는 처리 능력이 제한됐다.

오픈AI의 샘 알트먼 최고경영자(CEO)조차도 지난 16일 프로세서 병목현상 때문에 지금으로선 챗GPT 이용자가 많지 않았으면 좋겠다고 말할 정도였다.

테슬라 CEO 일론 머스크는 지난 23일 WSJ CEO 카운슬 서밋에서 “GPU는 마약보다도 훨씬 구하기 힘들다”고 언급한 바 있다.

GPU는 거대 언어 모델(LLM) AI를 훈련하는 기업에 있어 필수적인데, GPU가 없으면 LLM 작업이 훨씬 느려진다고 관련 업체 종사자들은 입을 모은다.

엔비디아가 만드는 GPU는 여러 계산을 동시에 진행하는 데 매우 뛰어나며 이는 AI 관련 작업에 있어 결정적이라고 WSJ은 전했다.

캘리포니아주 산타 클라라에 있는 엔비디아 본사. 로이터

AI 개발자들이 점점 더 복잡해지는 모델을 개발하고 작동시키기 위한 서버 용량이 필요해지면서 GPU 확보 경쟁이 치열해졌다.

일부 기업은 자사 네트워크에 남는 처리 능력을 샅샅이 찾고 있고, 다른 기업들은 AI 스타트업들과 공유할 수 있는 프로세서와 서버 용량을 조정하고 있다.

이도 저도 못하고 있는 AI 기업들은 그저 아마존과 MS에 더 많은 처리 능력을 달라고 애원하고 있다고 WSJ은 전했다.

AI 스타트업 라미니의 샤론 저우 CEO는 “(GPU) 부족 때문에 업계의 누구를 아는지가 중요해졌다”며 “(GPU는) 팬데믹 시기 화장지와 같다”고 표현했다.

엔비디아는 최근 수요를 맞추기 위해 공급을 늘리고 있다고 밝혔으나 많은 AI 기업 창업자들은 최소 내년까지는 공급 부족이 지속될 것으로 예상한다.

일부 소매업체에서는 엔비디아의 GPU가 3만3천달러에 팔리는데, 수요가 너무 높아서 더 비싼 가격에도 팔릴 수 있다고 WSJ은 전했다.

엔비디아의 주가는 올해 들어 160% 급등했다.

GPU를 주문했다고 해도 당장 받을 수 있는 것도 아니다. 서버 제조업체 등 엔비디아 고객들은 최신 GPU를 받으려면 6개월 이상 기다려야 한다고 말한다. 연합뉴스