엔비디아가 'AI 파운드리'(NVIDIA AI Foundry)를 통해 기업들이 특정 산업 요구에 맞는 맞춤형 모델을 구축할 수 있도록 지원합니다.

엔비디아 AI 파운드리는 다른 기업이 AI 모델을 개발하고 맞춤화할 수 있도록 인프라와 도구를 제공합니다. 해당 서비스는 기업이 데이터, 가속 컴퓨팅, 소프트웨어 도구 등을 사용해 맞춤형 모델을 생성하고 배포할 수 있도록 돕습니다.

28일(현지시간) 씨엔비씨 등 외신에 따르면, 기업들은 엔비디아 AI 파운드리를 통해 DGX 클라우드(DGX Cloud), 파운데이션 모델, 엔비디아 네모(NeMo) 소프트웨어, 엔비디아 전문 지식, 에코시스템 도구와 지원을 활용할 수 있습니다. 이를 통해 다양한 엔비디아와 오픈소스 모델을 맞춤화할 수 있으며, 메타의 라마 3.1(Llama 3.1) 컬렉션과 구글 딥마인드의 코드젬마 등도 포함됩니다.

엔비디아 AI 파운드리의 컴퓨팅 핵심은 엔비디아 DGX 클라우드로, 세계 최고의 퍼블릭 클라우드인 아마존 웹 서비스(AWS), 구글 클라우드(Google Cloud), 오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure)와 공동 설계된 가속 컴퓨팅 리소스 네트워크입니다.

엔비디아 파트너의 AIOps와 MLOps 플랫폼을 사용해 프로덕션용 엔비디아 AI 파운드리 모델도 개발할 수 있습니다. 고객들은 AI 파운드리 모델을 맞춤형 모델, 최적화된 엔진, 표준 API를 포함하는 엔비디아 NIM 추론 마이크로서비스로 출력해 원하는 가속 인프라에서 실행할 수 있습니다.

엔비디아에 따르면, 해당 서비스는 세계 최고의 퍼블릭 클라우드와 공동 엔지니어링된 엔비디아의 클라우드 AI 플랫폼을 기반으로 상황별 AI 수요 변화에 대응할 수 있습니다. 또한 생성형 AI 애플리케이션을 위한 기업이나 국가의 도메인별 지식을 갖춘 맞춤형 대규모언어모델(LLM)도 지원합니다.

앞으로 엔비디아 AI 파운드리가 기업이 AI를 도입할 때 직면하는 고유한 문제를 어떻게 해결할 수 있을지 궁금합니다.

자료=미디어뱀부
정리=김현기 기자 khk@techm.kr