- 최신 DPU 네트워킹 및 통신 기술 적용
- 긴밀하게 통합된 CPU와 GPU 통해 AI 워크로드 성능 향상
슈퍼마이크로컴퓨터(SMCI)가 엔비디아 레퍼런스 아키텍처를 기반으로 업계에서 가장 폭넓은 신규 GPU 시스템 포트폴리오 중 하나를 발표했다.
새로운 모듈형 아키텍처는 소형 1U 및 2U 폼 팩터에서 AI 인프라와 가속화된 컴퓨팅을 표준화하면서 현재는 물론 미래의 GPU, DPU, CPU를 고려해 탁월한 유연성과 확장성을 제공한다.
슈퍼마이크로의 고성능 수냉식 냉각 기술로 집적도 높은 구성을 통해, 2개의 엔비디아 GH200 그레이스 호퍼 슈퍼칩이 고속 인터커넥트로 통합된 1U 2노드 구축이 가능해졌다. 또한, 슈퍼마이크로는 전 세계 시설을 통해 매달 수천 개의 랙 규모 AI 서버를 공급할 수 있는 역량을 갖췄으며 플러그 앤 플레이 호환성을 보장한다.
슈퍼마이크로 CEO 찰스 리앙(Charles Liang)은 “슈퍼마이크로는 다양한 워크로드에서 AI의 잠재력을 실현하기 위해 데이터센터를 혁신하며 오늘날의 AI 혁신 선도 기업으로 인정받고 있다”고 설명하고, “빠르게 진화화는 AI 기술에 맞춰 고도로 모듈화되고 확장성 및 범용성을 갖춘 시스템을 제공하는 것이 매우 중요하다. 슈퍼마이크로의 엔비디아 MGX 기반 솔루션은 자사의 빌딩블록 솔루션 전략이 최신 시스템을 신속하게 시장에 출시할 수 있도록 지원하며 업계에서 가장 워크로드에 최적화됐다는 것을 보여준다”고 밝혔다.
또한, “슈퍼마이크로는 엔비디아와 협력해 기업이 새로운 AI 기반 애플리케이션을 개발할 수 있도록 시장 출시 기간 단축을 지원하면서, 구축 과정 간소화 및 환경 영향 감소를 실현하고 있다. 새로운 서버 제품군에는 엔비디아 GH200 그레이스 호퍼 슈퍼칩, 블루필드, PCIe 5.0 EDSFF 슬롯 등 AI에 최적화된 최신 업계 기술이 탑재돼 있다”고 덧붙였다.
엔비디아 하이퍼스케일 및 HPC 부사장 이안 벅(Ian Buck)은 “엔비디아는 슈퍼마이크로와 오랫동안 협력해 최고 성능의 AI 시스템을 출시해왔다. 슈퍼마이크로의 서버 전문성이 더해진 엔비디아 MGX 모듈러 레퍼런스 설계는 그레이스 슈퍼칩과 엔비디아 그레이스 호퍼 슈퍼칩을 탑재해 전 세계 다양한 고객에게 유익한 차세대 AI 시스템으로 거듭날 것”이라고 강조했다.
슈퍼마이크로 MGX 플랫폼 기술
슈퍼마이크로의 1U 엔비디아 MGX 시스템은 최대 2개의 엔비디아 GH200 그레이스 호퍼 슈퍼칩과 함께 엔비디아 H100 GPU 2개 및 엔비디아 그레이스 CPU 2개를 탑재했다. CPU용 480GB LPDDR5X 메모리와 GPU용 96GB HBM3 또는 144GB HBM3e 메모리가 포함된다. 메모리 코히어런트, 고대역폭, 저지연 엔비디아-C2C는 PCIe 5.0보다 7배 빠른 900GB/s의 속도로 CPU, GPU, 그리고 메모리를 상호 연결한다. 모듈식 아키텍처는 클라우드 및 데이터 관리를 위한 DPU와 함께 추가 GPU, 네트워킹, 그리고 스토리지로 확장이 가능한 여러 개의 PCIe 5.0 x16 FHFL 슬롯을 제공한다.
2개의 엔비디아 GH200 그레이스 호퍼 슈퍼칩을 갖춘 1U 2노드로 설계된 슈퍼마이크로의 검증된 DTC 수냉식 냉각 솔루션은 운영 비용을 40% 이상 절감하며, 대규모 언어 모델(LLM) 클러스터 및 HPC 애플리케이션을 위해 컴퓨팅 집적도를 높이고 랙 규모의 구축을 간소화한다.
2U 슈퍼마이크로 엔비디아 MGX 플랫폼은 엔비디아 그레이스와 x86 CPU 모두에 엔디비아 H100 PCIe, H100 NVL 또는 L40S와 같은 풀사이즈 데이터센터 GPU 최대 4개를 지원한다. 또한 I/O 연결을 위한 추가 PCIe 5.0 x16 슬롯 3개 및 핫 스왑 EDSFF 스토리지 베이 8개를 제공한다.
개발자는 다양한 업계 워크로드에 위와 같은 새로운 시스템 및 소프트웨어 오퍼링을 신속하게 사용할 수 있다. 오퍼링에는 엔비디아 AI 플랫폼을 구동하고 프로덕션에 바로 사용 가능한 생성형 AI, 컴퓨터 비전, 음성 AI 등의 개발 및 도입을 간소화하는 엔터프라이즈급 소프트웨어인 엔비디아 AI 엔터프라이즈가 포함된다. 더불어 엔비디아 HPC 소프트웨어 개발 키트는 사이언티픽 컴퓨팅의 발전 촉진에 필요한 필수 툴을 제공한다.
슈퍼마이크로 엔비디아 MGX 시스템은 지능형 열 설계부터 구성 요소 선택까지 모든 측면에서 효율성을 향상시키도록 설계됐다. 엔비디아 그레이스 슈퍼칩 CPU는 144 코어를 갖추었으며, 현재 업계 표준 x86 CPU 대비 와트당 최대 2배의 성능을 제공한다. 특정 슈퍼마이크로 엔비디아 MGX 시스템은 1U에서 두 개의 노드로 구성될 수 있으며, 두 개의 그레이스 CPU 슈퍼칩에 총 288 코어를 탑재해 하이퍼스케일 및 엣지 데이터센터에 뛰어난 컴퓨팅 집적도와 에너지 효율성을 제공한다.
#슈퍼마이크로#엔비디아#MGX#GH200
