- 프라이빗 클라우드 기반 대규모 AI 처리 성능·운영 안정성 확보

 

HPE가 엔비디아와 협력해 최대 128개 GPU를 동시에 활용하는 대규모 AI 인프라를 공개했다. 엔비디아 인증 스토리지와 통합 데이터 파이프라인을 적용해 프라이빗 클라우드 환경에서 AI 학습과 추론 성능을 끌어올리고 운영 안정성도 확보했다.

 

GPU 128개 규모 확장 가능한 프라이빗 클라우드 AI 구조

핵심은 ‘HPE 프라이빗 클라우드 AI’다. 턴키 형태의 AI 팩토리 구조로 모델 학습과 추론 환경을 하나로 묶고, 동일한 운영 체계를 유지한 상태에서 GPU 자원을 수평 확장하도록 설계했다. 새로운 네트워크 확장 랙을 통해 GPU를 최대 128개까지 확장할 수 있다. 동일한 환경에서 대규모 AI 워크로드를 안정적으로 처리하며 복잡한 모델 학습과 추론 작업도 하나의 인프라에서 수행한다. 에어갭 구성도 지원해 외부 네트워크와 분리된 환경에서 민감 데이터를 보호한다.

 

GPU·네트워크·소프트웨어 통합 AI 스택

HPE는 서버, GPU, 네트워크, DPU를 결합해 데이터 처리부터 모델 실행까지 이어지는 하나의 구조를 구성했다. 엔비디아 AI 엔터프라이즈 소프트웨어와 CUDA-X 라이브러리, 블루프린트를 포함한 통합 스택을 제공해 환경에 관계없이 동일한 운영 경험을 유지한다. RTX PRO 4500 및 6000 블랙웰 GPU 지원을 확대해 엣지부터 데이터센터까지 적용 범위를 넓혔으며 다양한 산업 환경에서도 동일한 구조로 AI를 배포한다.

 

엔비디아 인증 스토리지로 데이터 병목 최소화

AI 인프라에서 데이터 흐름은 성능을 좌우하는 요소다. HPE 알레트라 스토리지 MP X10000은 오브젝트 스토리지 최초로 엔비디아 인증을 획득하며 대규모 GPU 환경에서 성능을 검증받았다. GPU 128개 규모 환경에서도 데이터 공급을 안정적으로 유지해 모델 학습 속도를 높이고 추론 지연을 줄인다. 데이터 수집, 벡터화, 추론, 복구까지 이어지는 전체 파이프라인을 하나로 연결해 병목을 최소화한다.

 

네트워크와 AI 팩토리 확장으로 대규모 처리 대응

HPE는 주니퍼 네트워킹과 광학 기술을 결합한 AI 네트워크 구조를 공개해 분산 환경에서도 대규모 워크로드를 처리할 수 있도록 했다. 엔비디아 베라 루빈 아키텍처 기반 시스템과 STX 랙 스케일 구조를 지원하며 확장성도 강화했다. 이를 통해 서비스 프로바이더와 대기업 환경에서 복잡한 AI 워크로드를 안정적으로 처리할 수 있는 기반을 마련했다.

 

HPE 안토니오 네리 CEO는 AI 경쟁은 속도와 규모, 신뢰에 달려 있으며 엔비디아와의 협력을 통해 기업이 대규모 환경에서 AI를 안정적으로 운영할 수 있도록 지원한다고 밝혔다.

 

#GTC2026 #HPE #엔비디아 #AI인프라 #GPU #프라이빗클라우드 #스토리지