- NVLink Fusion으로 R200 NPU·MGX 랙 연동…GPU 프리필·NPU 디코드 분산 추론 개발

 

엔비디아와 리벨리온, SK텔레콤이 NVLink Fusion을 기반으로 국내 AI 반도체와 AI 데이터센터를 결합하는 소버린 AI 인프라 개발에 협력한다. 리벨리온의 차세대 R200 NPU를 엔비디아 MGX 랙 아키텍처와 연동하고, SK텔레콤 AI 데이터센터에서 자체 모델과 대국민 AI 서비스를 구동할 계획이다.

 

과학기술정보통신부 지원 아래 추진하는 이번 협력은 국내에서 개발한 AI 프로세서와 엔비디아 컴퓨팅 플랫폼을 결합해 한국의 언어와 산업 환경에 특화된 AI 서비스에 적용하는 것을 목표로 한다.

 

R200 NPU, NVLink로 랙 스케일 연결

엔비디아 NVLink Fusion은 맞춤형 XPU를 엔비디아의 고대역폭·저지연 NVLink 스케일업 네트워킹과 연결하는 기술이다. 반도체 기업은 자체 프로세서를 엔비디아 컴퓨팅과 결합하고 MGX 기반 랙 스케일 시스템에 적용할 수 있다.

 

리벨리온은 수조 개 파라미터 규모의 전문가 혼합(MoE) 모델을 포함한 AI 모델을 저지연·고효율로 추론하도록 차세대 R200 NPU를 개발하고 있다. NVLink Fusion을 적용해 랙 내부의 R200 NPU를 NVLink 스케일업 네트워킹으로 연결하며, 엔비디아 MGX 랙 아키텍처와 레퍼런스 설계를 기반으로 시스템을 개발할 예정이다. MGX 생태계에 참여하는 ODM과 부품 공급업체도 활용한다.

 

엔비디아 CEO 젠슨 황은 “NVLink Fusion을 통해 한국의 반도체 기업들은 맞춤형 ASIC을 엔비디아 AI 팩토리 플랫폼에 연결하고, 자체 프로세서와 엔비디아 컴퓨팅을 긴밀하게 연동해 AI 워크로드를 실행할 수 있다”고 밝혔다.

 

리벨리온 박성현 CEO는 “리벨리온의 맞춤형 반도체와 시스템 설계 기술에 엔비디아의 NVLink Fusion, 고속 인터커넥트 기술, 랙 스케일 설계 전문성과 SK텔레콤의 모델 및 데이터센터 운영 역량을 결합해 최첨단 모델을 대규모로 처리할 수 있는 저지연·고효율 추론 성능을 구현할 예정”이라고 덧붙였다.

 

GPU 프리필·NPU 디코드로 추론 작업 분담

엔비디아와 리벨리온, SK텔레콤은 AI 응답 생성 단계를 서로 다른 프로세서에 나누는 분산 추론 방식을 개발한다. 엔비디아 GPU가 입력 데이터를 처리하는 프리필(prefill)을 맡고 리벨리온 NPU가 토큰을 생성하는 디코드(decode)를 담당해 추론 처리량과 전력 효율을 높이는 방안이다.

 

MGX 랙 아키텍처에서는 GPU와 NPU 시스템이 랙 설치 공간과 전력 공급, 냉각 등 데이터센터 설비를 공유한다. 리벨리온은 R200 기반 시스템을 개발하고, SK텔레콤은 이를 자사 AI 데이터센터에 구축해 자체 파운데이션 모델과 AI 서비스를 구동할 계획이다.

 

SK텔레콤 AI 데이터센터에서 모델·서비스 연계

SK텔레콤은 AI 데이터센터 구축·운영 경험과 자체 파운데이션 모델, 대국민 AI 서비스 역량을 R200 기반 시스템과 결합한다. 자체 AI 모델 A.X K2와 정부 ‘모두의 AI’ 프로젝트를 통해 개발하는 대국민 AI 서비스에도 해당 인프라를 연계할 계획이다.

 

SK텔레콤 정재헌 대표이사 겸 CEO는 “SK텔레콤의 AI 데이터센터, A.X K2를 포함한 자체 AI 모델, 그리고 ‘모두의 AI’ 프로젝트를 통해 개발되는 대국민 AI 서비스를 연계함으로써 풀스택 소버린 AI 경쟁력을 강화하고 국내 AI 생태계의 발전에도 기여할 것”이라고 밝혔다.

 

과학기술정보통신부는 리벨리온과 SK텔레콤을 시작으로 엔비디아와 국내 NPU 기업 간 협력을 지원한다.

 

과학기술정보통신부 류제명 제2차관은 “이번 엔비디아와의 협력은 국내에서 개발한 NPU가 NVLink Fusion을 통해 글로벌 AI 컴퓨팅 선도 기업인 엔비디아와 함께 컴퓨팅 인프라 시장에 진출할 수 있는 중요한 계기를 마련했다”며 “정부는 이번 협력이 실질적인 성과로 이어질 수 있도록 적극 지원하는 한편, 피지컬 AI와 GPU 공급 확보 등 다양한 분야에서 엔비디아와의 협력을 한층 확대해 나갈 것”이라고 강조했다.

 

리벨리온은 R200 시스템을 2028년부터 배포할 수 있을 것으로 예상한다고 밝혔다.

 

#엔비디아 #리벨리온 #SK텔레콤 #NVLinkFusion #R200 #NPU #소버린AI #AI데이터센터 #분산추론 #MGX #AI반도체