- 16개 노드 전력으로 19개 가동…토큰 처리량 초당 400만개서 500만개로 24% 증가
AI 클라우드 제공업체 람다(Lambda)가 엔비디아 블랙웰 서버 기반 DSX MaxLPS의 첫 검증 결과를 공개했다. 람다는 AI 인프라 서밋(AI Infra Summit)에서 동일한 전력 예산으로 기존 16개에서 19개 노드를 가동해 클러스터 토큰 처리량을 24%, 와트당 성능을 23% 높였다고 밝혔다.
사용하지 않는 전력 회수해 필요한 랙에 재할당
DSX MaxLPS는 GPU와 랙 전반의 전력 소비를 상시 모니터링하고 가용 전력을 필요한 곳에 동적으로 재할당한다. 정적 프로비저닝으로 남는 전력 용량을 회수해, 학습과 추론처럼 전력 사용 패턴이 다른 워크로드가 함께 실행되는 AI 팩토리에서 필요한 곳에 전력을 배분한다.
16개 노드 전력으로 19개 가동
람다는 엔비디아 블랙웰(NVIDIA Blackwell) 서버를 기반으로 DSX MaxLPS를 검증했다. 통상 최대 전력으로 16개 노드를 운영하는 것과 동일한 전력 예산에서 19개 노드를 가동했으며, 클러스터 전체 토큰 처리량은 초당 약 400만개에서 500만개로 24% 증가했다. 와트당 성능도 23% 높였다.
베라 루빈 NVL72서 GPU 용량 최대 40% 확대
엔비디아는 베라 루빈 NVL72(Vera Rubin NVL72) 기반 AI 팩토리에서도 DSX MaxLPS를 활용할 계획이다. 적합한 구축 환경에서 DSX MaxLPS를 활용하면 동일한 메가와트 전력 예산으로 GPU 용량을 최대 40% 추가 확보할 수 있다고 설명했다.
#엔비디아 #NVIDIA #DSXMaxLPS #DSX #람다 #Lambda #블랙웰 #Blackwell #베라루빈 #VeraRubin #NVL72 #AI팩토리 #AI인프라 #GPU #전력관리
