- 200억 개 파라미터 모델 실행 가능한 세계 최소형 AI 슈퍼컴퓨터 출시… 새로운 GB10 슈퍼칩 탑재
- 전 세계 AI 개발자에게 엔비디아 그레이스 블랙웰 플랫폼 성능 지원
엔비디아가 엔비디아 프로젝트 디지츠(NVIDIA Project DIGITS)를 공개했다. 이는 전 세계 AI 연구자, 데이터 과학자, 학생에게 엔비디아 그레이스 블랙웰(Grace Blackwell) 플랫폼의 성능을 제공하는 개인용 AI 슈퍼컴퓨터이다.
프로젝트 디지츠는 새로운 엔비디아 GB10 그레이스 블랙웰 슈퍼칩을 탑재했다. 대규모 AI 모델의 프로토타이핑, 미세 조정, 실행을 위한 페타플롭의 AI 컴퓨팅 성능을 제공한다.
프로젝트 디지츠를 통해 사용자는 자체 데스크톱 시스템을 사용해 모델에서 추론을 개발하고 실행한 다음, 가속화된 클라우드 또는 데이터 센터 인프라에 모델을 원활하게 배포할 수 있다.
엔비디아 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 “AI는 모든 산업의 모든 애플리케이션에서 주류가 될 것이다. 프로젝트 디지츠를 통해 수백만 명의 개발자에게 그레이스 블랙웰 슈퍼칩을 제공할 수 있게 됐다. 모든 데이터 과학자, AI 연구원, 학생의 책상에 AI 슈퍼컴퓨터를 배치함으로써 이들이 AI 시대에 참여하고 시대를 만들어 나갈 수 있도록 지원할 것”이라고 밝혔다
페타플롭의 전력 효율적인 AI 성능을 제공하는 GB10 슈퍼칩
GB10 슈퍼칩은 엔비디아 그레이스 블랙웰 아키텍처 기반의 SoC로, FP4 정밀도에서 최대 1페타플롭의 AI 성능을 제공한다.
GB10은 최신 세대 쿠다(CUDA) 코어와 5세대 텐서 코어(Tensor Core)를 갖춘 엔비디아 블랙웰(Blackwell) GPU를 탑재하고 있다. NV링크(NVLink)-C2C 칩-투-칩 인터커넥트를 통해 Arm 아키텍처로 제작된 20개의 전력 효율적인 코어를 포함하는 고성능 엔비디아 그레이스(Grace) CPU에 연결된다. Arm 기반 SoC 설계 분야 시장 리더인 미디어텍(MediaTek)이 GB10 설계에 협력해 동급 최고의 전력 효율과 성능, 연결성에 기여했다.
GB10 슈퍼칩을 사용하면 표준 전기 콘센트만으로도 강력한 성능을 구현할 수 있다. 각 프로젝트 디지츠는 128GB의 통합된 일관된 메모리와 최대 4TB의 NVMe 스토리지를 갖추고 있다. 개발자는 이 슈퍼컴퓨터를 통해 최대 2천억 파라미터의 거대 언어 모델(LLM)을 실행해 AI 혁신을 가속화할 수 있다. 또한 , 엔비디아 커넥트X(ConnectX) 네트워킹을 통해 두 대의 프로젝트 디지츠 AI 슈퍼컴퓨터를 연결해 최대 4,050억 개의 파라미터 모델을 실행할 수 있다.
손쉽게 이용 가능한 그레이스 블랙웰 AI 슈퍼컴퓨팅
기업과 연구자들은 그레이스 블랙웰 아키텍처를 통해 리눅스(Linux) 기반 엔비디아 DGX OS를 실행하는 로컬 프로젝트 디지츠 시스템에서 모델을 프로토타이핑, 미세 조정, 테스트할 수 있다. 그 다음에는 엔비디아 DGX 클라우드(DGX Cloud™), 가속화된 클라우드 인스턴스 또는 데이터센터 인프라에 원활하게 배포할 수 있다.
이를 통해 개발자는 동일한 그레이스 블랙웰 아키텍처와 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어 플랫폼을 사용해 프로젝트 디지츠에서 AI를 프로토타이핑한 다음 클라우드 또는 데이터센터 인프라에서 확장할 수 있다.
프로젝트 디지츠 사용자는 실험과 프로토타이핑을 위한 광범위한 엔비디아 AI 소프트웨어 라이브러리에 액세스할 수 있다. 여기에는 엔비디아 NGC 카탈로그와 엔비디아 개발자(Developer) 포털에서 제공되는 소프트웨어 개발 키트, 오케스트레이션 도구, 프레임워크, 모델이 포함된다. 개발자는 엔비디아 네모(NeMo) 프레임워크로 모델을 미세 조정하고, 엔비디아 래피즈(RAPIDS) 라이브러리로 데이터 사이언스를 가속화하며, 파이토치(PyTorch), 파이썬(Python), 주피터(Jupyter) 노트북과 같은 일반적인 프레임워크를 실행할 수 있다.
사용자는 에이전트 AI 애플리케이션 구축을 위해 엔비디아 블루프린트(Blueprints)와 엔비디아 NIM 마이크로서비스를 활용할 수 있으며, 이를 활용하면 엔비디아 개발자 프로그램(Developer Program)으로 연구, 개발, 테스트가 가능하다. AI 애플리케이션이 실험 단계에서 생산 환경으로 전환할 준비가 되면 엔비디아 AI 엔터프라이즈 라이선스를 통해 엔터프라이즈급 보안, 지원, 엔비디아 AI 소프트웨어의 제품 릴리스를 제공한다.
프로젝트 디지츠는 오는 5월 엔비디아와 주요 파트너를 통해 $3,000부터 구매할 수 있다.
#엔비디아#디지츠#블랙웰#GPU#텐서코어#
