엔비디아가 한국에서 대규모 개발자 행사를 열고 'AI 팩토리'와 '소버린 AI'의 중요성을 역설했다. 첨단 GPU 26만장 공급을 시작으로 한국을 '피지컬 AI'의 핵심 거점으로 삼으려는 엔비디아의 스킨십이 이어지는 모습이다.

18일 서울 삼성동 코엑스에서 열린 '엔비디아 AI 데이 서울' 콘퍼런스에서 마크 해밀턴 엔비디아 솔루션아키텍처&엔지니어링 부사장은 "한국은 수많은 로컬 기업과 스타트업, 세계적으로 알려진 브랜드들이 참여하는 탁월한 AI 생태계를 갖고 있다"며 "우리는 더 많은 GPU가 필요하다"고 강조했다.

이번 행사는 약 6년 만에 엔비디아가 한국에서 개최한 대규모 개발자 콘퍼런스다. 앞서 지난달 젠슨 황 엔비디아 최고경영자(CEO)가 국내 기업 총수들과 이른바 '깐부회동'을 갖고 첨단 GPU 26만장을 공급하기로 약속한 이후 엔비디아의 한국 AI 생태계 지원이 가속화되는 모습이다.

삼성, SK, 현대, 네이버 등 국내 기업들은 엔비디아 GPU로 이뤄진 'AI 팩토리'를 구축해 제조, 모빌리티, 로봇 등의 분야를 혁신한다는 계획이다. 정부 역시 엔비디아와 손잡고 독자 파운데이션 모델 기반의 '소버린 AI' 구축에 나선다.

해밀턴 부사장은 "네이버의 클로바 모델은 여러 영역에서 세계적인 수준"이라며 "삼성이 만든 반도체 없이 AI는 불가능했을 것"이라고 말했다. 또 "SK하이닉스의 HBM 메모리는 오늘날 AI 컴퓨팅 세계를 가능하게 하는 핵심 기술"이라며 "현대는 자율주행차를 위한 AI 분야에서 우리와 협력하고 있다"고 덧붙였다.

정소영 엔비디아 코리아 대표는 "젠슨 황 CEO 방한의 가장 큰 기여는 AI 생태계 확장"이라며 "GPU 26만장의 AI 팩토리 확보와 그를 기반으로 한국의 다양한 산업에 AI를 적용하는 프로젝트, 피지컬 AI 협력 계획 등을 통해 국내 개발자들과 더 넓고 깊게 협력을 진행하게 될 것"이라고 말했다.

'AI 팩토리' 청사진을 그려라

이날 해밀턴 부사장은 'AI 팩토리'의 중요성을 거듭 강조했다. AI 팩토리는 수많은 GPU를 연결하고 데이터와 전력, 냉각 등을 공급해 '토큰'(AI가 처리하는 데이터의 단위)을 생산하는 공장 개념이다. AI 팩토리는 엔비디아가 아직도 천문학적인 GPU가 더 필요하다고 주장하는 근거 중 하나다.

그는 "모델 실행을 위한 추론에 필요한 GPU 수가 훈련에 필요한 것보다 훨씬 많다"며 "모델을 훈련할 때는 몇 달 동안 수천 또는 수만 개의 GPU가 필요하며, 오늘날 최참단 모델은 CPU나 단일 GPU에서 실행될 수 없다"고 말했다.

해밀턴 부사장은 '생성형 AI' 시대를 넘어 '에이전틱 AI' 시대로 진입하고 있다는 점도 AI 팩토리가 더 필요한 이유로 꼽았다. 그는 "에이전트 모델은 AI가 인간에게 말하는 것뿐만 아니라 AI가 다른 많은 AI 시스템과 대화하며 단일 작업을 위해 수십, 수백 또는 수천 개의 추론을 수행한다"며 "추론 비용을 낮아지면 해당 애플리케이션이 점점 더 사용자에게 유용해지고 수요를 더 증가시킨다"고 덧붙였다.

해밀턴 부사장은 AI 팩토리가 기업들에게 실질적인 이윤을 안겨주는 '토크노믹스' 시대가 올 것이라 전망했다. 기업들이 AI를 통해 생산성을 향상시키거나, 또는 의사, 변호사 등의 전문직의 작업을 대체한다면 토큰이 그만큼의 가치를 갖게 된다는 의미다.

그는 "AI 팩토리가 생산하는 토큰에는 금전적 가치가 있다"며 "기업들은 어떤 토큰을 구매할 지, 직접 생산할 지, 판매하고 수익을 창출할 지, 생산성을 개선하고 더 높은 품질의 제품을 구축할 지 각자 원하는 가치에 따라 어떤 종류의 AI 팩토리를 필요로 하는 지 고민해야 한다"고 조언했다.

또 "우리는 칩 개발 속도를 두 배로 늘리기 위해 칩 설계자 수를 두 배로 늘리지 않았다"며 "칩 설계자를 추가하긴 했지만, 그들에게 AI를 지원해 기존 칩 설계자들을 더 효율적으로 만들었다. 이는 개발자, 재무 및 법무팀, 마케팅 팀도 마찬가지"라고 말했다.

'소버린 AI'로 'AI 강국' 실현

이어 연단에 오른 실파 콜하트카 엔비디아 AI 국가사업개발 부문장은 한국이 추구하는 'AI 강국'의 조건을 설명하며 '소버린 AI'의 중요성을 강조했다.

콜하트카 부문장은 "이제 AI는 물, 전기, 인터넷과 유사한 국가 규모의 인프라가 됐다"며 "전 세계 국가들이 'AI 소비자'에 머물러선 안된다는 걸 깨닫고 있고, 특히 한국은 'AI 생산자'가 되기 위한 강력한 전략을 갖고 있다"고 말했다.

그는 "한국은 기술과 인재, 정부의 지원 의지 등 AI 강국을 위한 필수 요건을 갖췄다"며 "자국어에 특화된 데이터셋, 이를 정제한 모델이 필수이며, 이 모든 것의 기반 인프라인 AI 팩토리는 경제 성장의 엔진이자 혁신을 위한 플랫폼"이라고 설명했다.

또 "네이버, 삼성, SK, 현대차 등 가장 영향력 있는 기술 및 산업 리더들이 세계적인 인프라를 활용해 애플리케이션과 차세대 AI 서비스를 구축하고 글로벌 규모의 디지털 경제를 성장시키기 위해 모이고 있다"며 "한국을 글로벌 AI 경제의 선두에 놓을 새로운 변화의 물결"이라고 말했다.

콜하트카 부문장에 따르면 한국에는 33만명 이상의 개발자와 130여개의 생성형 AI 스타트업이 존재하며, 세계 상위 500대 슈퍼컴퓨터 중 13대를 보유하고 있다. 또한 11개의 소버린 AI 모델이 개발되고 있고, 네이버, LG AI 연구원, SK텔레콤, NC AI, 업스테이지 등의 기업들이 정부 지원을 받아 독자 파운데이션 모델을 구축 중이다.

콜하트카 부문장은 특히 한국이 피지컬 AI 분야에서 두각을 나타낼 것이라 강조했다. 그는 "한국은 이미 피지컬 AI 분야의 선두에 있다"며 "피지컬 AI는 모든 단일 산업을 재편할 잠재력을 갖고 있고 그 영향력의 규모는 엄청날 것"이라고 말했다.

남도영 기자 hyun@techm.kr