- 2만2528개 코어·4만5056개 스레드 구성…블루필드-4 DPU·DLC-2 직접 수냉 적용

 

 

슈퍼마이크로가 엔비디아 베라 CPU 256개를 탑재한 100% 수냉식 랙을 공개했다. 데이터센터 빌딩 블록 솔루션(DCBBS)을 기반으로 고밀도 CPU 컴퓨팅과 네트워킹, 보안, 냉각을 통합해 에이전틱 AI와 강화학습(RL), 데이터 처리에 필요한 연산을 수행하며 랙당 최대 2만2500개의 에이전트 샌드박스를 동시에 지원한다.

 

엔비디아 베라 CPU 랙은 3세대 엔비디아 MGX 랙과 배터리 백업 장치를 기반으로 공통 DCBBS 인프라를 제공한다. 현재 출하 중인 슈퍼마이크로의 엔비디아 베라 루빈 NVL72와 함께 운영하거나 독립적으로 구축할 수 있다.

 

GPU 생성 작업과 CPU 기반 에이전트 실행 분담

에이전틱 AI와 강화학습 워크로드는 기존의 선형적 추론 방식에서 벗어나 여러 작업을 나눠 수행하거나 반복하면서 CPU의 역할이 커지고 있다. GPU가 토큰과 코드, 쿼리를 생성하는 동안 CPU 기반 샌드박스는 작업 실행과 결과 평가, 도구 활용, 워크플로 관리를 맡는다. 수백·수천 개의 GPU를 운영하는 AI 팩토리에서는 대규모 에이전트 병렬 실행을 뒷받침할 전용 CPU 컴퓨팅 자원이 필요하다.

 

슈퍼마이크로의 엔비디아 베라 CPU 랙은 베라 CPU 256개를 통합해 총 2만2528개 코어와 4만5056개 스레드를 제공한다. 랙당 최대 2만2500개의 에이전트 샌드박스를 동시에 실행해 에이전틱 AI와 강화학습 워크로드에 필요한 CPU 연산을 처리한다.

 

블루필드-4 DPU와 DLC-2 직접 수냉 적용

엔비디아 블루필드-4 DPU는 고성능 네트워킹과 칩 수준의 보안 기능을 제공한다. 베라 CPU와 블루필드-4 DPU는 오픈셸 아키텍처와 통합돼 에이전틱 AI의 보안과 지속적인 모니터링을 지원한다. 냉각에는 슈퍼마이크로의 DLC-2 직접 수냉식 기술 스택을 적용해 100% 수냉식 랙을 구현했다. DCBBS는 전력과 네트워킹, 냉각 인프라와 구축 서비스를 통합해 대규모 AI 팩토리 구축에 필요한 인프라를 제공한다.

 

에이전틱 AI 확장에 고밀도 CPU 인프라 적용

슈퍼마이크로 찰스 리앙(Charles Liang) CEO는 “에이전틱 AI가 데이터센터의 요구사항을 변화시키면서 슈퍼마이크로는 완전 통합형 인프라를 통해 DCBBS 포트폴리오를 확장하고 있다”며 “공냉식 구축을 원하는 고객을 위해 엔비디아 베라 CPU 포트폴리오는 랙 스케일 수냉식 솔루션 외에도 공냉식 1U 및 2U 시스템을 제공하며, 엔비디아와 함께 보안성과 확장성을 갖춘 에이전틱 AI에 최적화된 공통 아키텍처를 제공해 고객의 구축 소요 시간을 단축할 수 있도록 지원한다”고 밝혔다.

 

엔비디아 엔터프라이즈 플랫폼 부문 크리스 메리어트(Chris Marriott) 부사장은 “기업들이 에이전틱 AI와 강화학습을 확장하는 가운데 수천 개의 에이전트 워크플로를 동시에 지원하기 위해서는 새로운 차원의 고밀도 CPU 인프라가 필요하다”며 “엔비디아 베라 CPU와 블루필드-4 DPU를 슈퍼마이크로의 수냉식 DCBBS 아키텍처와 통합함으로써 고객은 AI 팩토리 전반에서 에이전틱 워크로드 실행을 확장하는 데 필요한 전용 컴퓨팅 역량과 하드웨어 기반 보안을 확보할 수 있다”고 설명했다.

 

#슈퍼마이크로 #엔비디아 #베라CPU #블루필드4 #DCBBS #에이전틱AI #AI팩토리 #수냉식데이터센터 #강화학습 #DLC2