"구글의 성공을 기쁘게 생각합니다. 그들은 AI 분야에서 큰 진전을 이뤘으며, 저희는 계속해서 구글에 제품을 공급하고 있습니다" (엔비디아 X 계정)

AI 칩 시장을 장악하던 엔비디아가 황급히 진화에 나설 정도로 '구글 TPU의 역풍'이 강하다. 그간 엔비디아가 주도하던 AI 랠리가 구글이란 새 물줄기로 갈라지는 모습이다.

구글 뜨고, 엔비디아 지고

25일(현지시간) 뉴욕증권거래소에서 알파벳 주가(Class A)는 1.62% 오른 323.64달러에 거래를 마쳤다. 전날 6.28% 급등에 이어 이날도 사상 최고치를 경신했다. 최근 5거래일 동안 상승폭이 14%에 달한다.

반면 엔비디아 주가는 2.59% 하락한 177.82달러로 마감했다. 지난 20일 195.96달러를 기록한 이후 하락 추세를 회복하지 못하고 있다.

구글에는 순풍이 불고 있다. 최근 출시한 '제미나이 3' AI 모델이 우수한 성능으로 이용자들의 호평을 받고 있다. 이 모델을 자체 칩 '텐서 프로세서 유닛(TPU)'으로 학습시켰다는 점도 호재로 작용했다. 시장을 독점하던 엔비디아 의존도를 벗어나 비용효율적인 인프라 투자가 가능해졌을 뿐만 아니라, 외부 판매를 통해 추가 매출도 올릴 수 있을 것이란 전망이 나온다.

엔비디아는 AI 기업들의 인프라 투자 규모가 과도하다는 'AI 거품론'을 정면으로 맞은 데 이어, 구글에 시장 주도권이 넘어갈 수 있다는 우려까지 사고 있다. 이날 엔비디아는 X 계정을 통해 "엔비디아는 업계보다 한 세대 앞서 있다"며 이런 시장 반응에 대해 적극 해명에 나선 모습이다.

엔비디아 측은 "모든 AI 모델을 실행하고 컴퓨팅이 이루어지는 모든 곳에서 작동하는 유일한 플랫폼"이라며 "엔비디아는 특정 AI 프레임워크나 기능을 위해 설계된 ASIC보다 더 뛰어난 성능, 다용도성 및 호환성을 제공한다"고 전했다.

비록 TPU가 엔비디아보다 비용이나 전력면에서 효율적일 순 있으나, 애초에 구글 내부에서 활용하기 위해 최적화된 칩인 만큼 범용성에선 엔비디아 GPU를 따라가기 어렵다는 점을 강조한 것이다.

GPU vs. TPU, 엇갈린 생태계 희비

구글과 엔비디아 뿐만 아니라 각기 생태계에 참여한 기업 진영의 희비까지 엇갈리고 있다. 구글 TPU를 공동 개발한 브로드컴 주가는 전일 11.1% 폭등한 데 이어 이날도 1.87% 상승세를 이어가며 구글 열풍의 최대 수혜주로 꼽히고 있다. 구글로부터 TPU를 공급받을 것으로 알려진 메타 주가도 3.78% 뛰었다.

반면 오라클(-1.62%), 코어위브(-3.14%) 등은 하락세를 이어가며 뚜렷한 대조를 이뤘다. 최근 레버리지를 일으켜 엔비디아로부터 대규모로 GPU를 공급받아 사업을 진행하고 있는 기업들이 대부분 약세다. 이들 역시 빅테크들로부터 대규모 계약을 따낸 'AI 기대주'였으나, 이달 들어 급격한 하락 추세로 돌아섰다.

엔비디아는 AI 칩 시장을 장악하며 75%에 달하는 매출총이익률을 기록해왔다. 하지만 엔비디아가 이런 막대한 이익을 챙기는 동안 AI 투자를 감행하는 기업들의 부담 역시 커져갔다. 과잉 투자에 대한 우려가 시장 전반으로 확산되며 이달 초부터 기술주가 약세를 띄기 시작했다.

구글은 이런 분위기를 반전시켰다. '제미나이 3'가 라이벌 오픈AI의 '챗GPT' 보다 높은 성능을 보여줬고, TPU로 차별화된 인프라 역량까지 확보했다. 여기에 검색, 유튜브, 안드로이드 등 기존 사업에도 AI 기술이 빠르게 반영되며 'AI 풀스택' 역량을 갖춘 구글의 강점이 부각되기 시작했다.

AI 인프라는 여전히 성장 중...GPU-TPU 함께 큰다

현재 시장 분위기는 엔비디아에서 구글로 대세가 넘어가는 모습이지만, 실제 GPU와 TPU는 보완적인 관계로 봐야 한다는 게 업계 전문가들의 분석이다.

젠슨 황 엔비디아 최고경영자(CEO)는 3분기 실적 발표에서 "구글은 우리 고객"이라며 "제미나이도 엔비디아 GPU에서 실행될 수 있다"고 언급한 바 있으며, 구글 대변인 역시 "TPU와 엔비디아 GPU 모두 수요가 동시에 가속하고 있으며, 두 방향 모두를 계속 지원할 것"이라고 전했다.

당장 엔비디아가 타격을 입을 가능성도 희박하다. 엔비디아는 실적 발표에서 이미 내년 클라우드용 GPU는 이미 매진됐다고 밝힌 바 있다. 또 AI 인프라 시장이 여전히 성장 중인 만큼 TPU가 GPU를 대체하기 보단 동반 성장할 가능성이 큰 것으로 전문가들은 내다보고 있다.

번스타인의 스테이시 라스곤 애널리스트는 "TPU는 지금까지 성공한 유일한 맞춤형 칩이지만 GPU는 사라지지 않을 것"이라며 "가장 중요한 화두는 컴퓨팅 파워가 부족하다는 것이며 AI 하드웨어 시장은 포화 상태가 아니다"라고 분석했다.

남도영 기자 hyun@techm.kr