AMD, 6세대 에픽 출시…AI 에이전트부터 GPU 호스트까지

- 젠 6 기반 SP7 서버 CPU 출하…AI 에이전트·GPU 호스트·엔터프라이즈 워크로드별 제품군 제공

 

AMD가 젠 6(Zen 6) 아키텍처 기반의 6세대 AMD 에픽(EPYC) SP7 서버 프로세서를 공식 출시하고, 주요 서버 공급업체는 6세대 에픽을 탑재한 시스템 출하를 시작했다. 신제품은 에이전틱 AI, 엔터프라이즈 애플리케이션, 클라우드, 고성능 컴퓨팅(HPC) 등 데이터센터 워크로드에 따라 CPU 집적도와 동작 주파수, 대역폭이 달라진다.

 

AI가 바꾼 서버 CPU 역할

에이전틱 AI는 하나의 작업 안에서 여러 에이전트를 실행하고 모델 호출과 데이터 검색, 코드 실행을 반복한다. 기존 데이터베이스와 엔터프라이즈 애플리케이션까지 연결되면서 CPU가 처리해야 할 작업도 달라진다. AMD는 이를 범용 서비스와 GPU 호스트 노드, 에이전트 샌드박스 등 세 영역으로 나누고 6세대 에픽 제품군을 각각의 작업에 배치했다.

 

GPU 호스트 노드에는 최대 5.3GHz로 동작하는 고주파수 제품을 투입한다. GPU가 AI 연산을 수행하는 동안 CPU가 데이터를 공급하는 역할로, AMD에 따르면 이전 세대 에픽보다 대규모 언어 모델(LLM) 출력 처리량이 최대 1.8배 높다.

 

여러 AI 에이전트를 동시에 실행하는 샌드박스에는 고집적 제품을 사용한다. AMD는 CPU 전력당 에이전트 수를 기준으로 엔비디아 베라(Vera)보다 최대 약 3.3배, 인텔 제온 6980P보다 약 2.5배의 이점을 제공할 수 있다고 설명했다. 에픽 9996 기반 서버는 같은 35kW 전력 한도에서 기본 전력 관리 설정을 사용하는 시스템보다 랙당 약 1.18배 많은 에이전트를 지원할 것으로 추산했다.

 

에픽 9996, 범용 서버 성능 담당

엔터프라이즈 애플리케이션과 클라우드 등 범용 워크로드에는 에픽 9996을 배치한다. AMD에 따르면 에픽 9996 기반 시스템은 엔비디아 베라 CPU 기반 시스템 대비 최대 3.7배의 성능을 기록했다. 인텔 제온 6980P 시스템과 비교하면 최대 2.2배의 성능과 최대 2배의 가격 대비 성능을 보였다. 6세대 에픽은 워크로드에 따라 CPU 집적도와 동작 주파수, 대역폭, 효율성을 달리하면서도 공통 소프트웨어와 보안·운영 기반을 유지한다. AMD는 서버 한 대에서 더 많은 애플리케이션과 트랜잭션, 사용자를 처리해 기존 전력과 공간 안에서 새로운 워크로드를 수용하도록 했다.

 

AMD 컴퓨트 및 엔터프라이즈 AI 부문 댄 맥나마라(Dan McNamara) 수석부사장은 “AI는 데이터센터의 모든 계층에서 CPU의 역할을 크게 확대하고 있다”며 “고객은 6세대 AMD 에픽을 통해 검증된 x86 기반으로 표준화하는 동시에, 더 많은 에이전트를 실행하고 가속 인프라에 필요한 데이터를 지속적으로 공급하며 비즈니스 핵심 애플리케이션을 구동할 수 있는 워크로드 최적화 솔루션을 선택할 수 있다”고 밝혔다.

 

CPU에서 랙 단위 AI 인프라로

AMD는 6세대 에픽을 개별 서버뿐 아니라 헬리온(Helion) 에이전틱 AI 랙에도 적용한다. 대규모 환경에서는 헬리온 리퀴드(Helion Liquid)를 헬리오스(Helios) 랙스케일 솔루션과 함께 운용한다. 기존 공랭식 데이터센터는 헬리온 에어(Helion Air)로 에이전트 수용량을 늘린다. CPU 실행과 GPU 추론을 한 랙에서 처리해야 하는 환경에는 헬리온 에어 인퍼런스(Helion Air Inference)를 배치해 로컬 GPU 추론까지 맡긴다. AMD는 서버 생태계와 협업해 고집적 헬리온 랙 개발을 지원해 왔다. 일부 구성은 랙당 최대 7만3728개 스레드를 지원한다.

 

메타 검증 거쳐 애저·OCI로

6세대 에픽은 서버 공급업체 출하와 함께 클라우드 환경에도 들어간다. 메타(Meta)는 AMD와 대규모 배치를 준비하며 6세대 에픽 CPU 플랫폼을 검증하고 있다. 마이크로소프트 애저는 AI 인프라 전반에서 6세대 에픽을 제공한다. AI 데이터 처리와 에이전틱 AI, HPC에는 프리뷰 중인 애저 HDv2(Azure HDv2)를 투입하고, 애저 HXv2(Azure HXv2)는 전자설계자동화(EDA)와 기술 컴퓨팅을 처리한다. 실제 운영 규모의 AI 추론은 AMD 헬리오스 기반 애저 ND MI455X v7(Azure ND MI455X v7)이 맡는다.

 

OCI는 다음 공급처다. 6세대 에픽을 탑재한 OCI 컴퓨트 E7(Compute E7) 클라우드 인스턴스를 제공할 예정이며, 엔터프라이즈 애플리케이션과 AI 모델을 뒷받침하는 CPU 서비스에 적용한다.

 

#AMD #AMD에픽 #EPYC #젠6 #Zen6 #에이전틱AI #서버CPU #데이터센터 #AI인프라 #헬리온 #헬리오스 #클라우드 #HPC