- SK하이닉스와 CXL 하이브리드 메모리·RDMA 협업…NDP로 메모리에서 벡터 검색 처리

 

엑시나는 지난 12일부터 15일까지 미국 산호세에서 열린 ‘OCP 글로벌 서밋 2026’에서 CXL 기반 메모리 솔루션 ‘MX1’과 SK하이닉스와 진행 중인 CXL 하이브리드 메모리 협업 성과를 함께 공개했다. AI 추론 과정에서 늘어나는 메모리 수요와 데이터 이동 부담을 줄이는 ‘MX1’은 여러 서버가 KV 캐시를 공동으로 사용하고, 데이터 인접 프로세싱(NDP)으로 메모리에서 직접 연산해 데이터 이동을 줄이는 기술이다.

 

 

KV 캐시 공유하고 벡터 검색은 메모리에서 처리

AI 추론에서는 앞서 처리한 정보를 KV 캐시에 저장해 답변 생성에 다시 활용한다. 문제는 서버마다 KV 캐시를 따로 보관할 경우 같은 데이터가 중복되고, 서버 사이에서 데이터를 옮기는 작업까지 늘어난다는 점이다. MX1은 이 KV 캐시를 CXL 메모리 풀에 저장한다. 여러 AI 추론 서버가 필요한 데이터를 함께 사용하면서 서버별 중복 저장을 줄이는 방식으로, 엑시나는 OCP 글로벌 서밋에서 실제 구동 과정을 시연했다. 

RAG 벡터 검색은 접근 방식이 다르다. 데이터를 연산 장치로 가져오는 대신 MX1의 데이터 인접 프로세싱(NDP)이 데이터가 저장된 메모리에서 검색을 수행한다. 대규모 데이터를 호스트 프로세서로 반복해서 옮기는 작업을 줄여 데이터 이동 부담을 낮춘다.

 

SK하이닉스와 CXL 하이브리드 메모리 성능 검증

엑시나는 SK하이닉스와 CXL 하이브리드 아키텍처를 AI 워크로드에 적용하기 위한 기술 협업을 진행하고 있다. MX1의 SSD 메모리 확장 기능 ‘인피니트메모리(InfiniteMemory)’를 활용해 기존 CMM-D보다 메모리 용량을 크게 늘리면서 SSD보다 높은 성능을 구현할 수 있음을 확인했다. 양사는 이를 토대로 실제 AI 서빙 환경에서 적용 가능성을 검증하고 있다.

 

SK하이닉스는 OCP 글로벌 서밋에서 MX1 칩을 활용한 ‘CXL 하이브리드 메모리를 공개하고 RDMA 기반 아키텍처를 선보였다. 엑시나와 SK하이닉스는 공유 메모리 성능도 공동으로 최적화하고 있다.

 

NDP에서 에이전틱 AI까지 CXL 적용 범위 확장

엑시나는 MX1을 활용한 NDP 기술을 시작으로 에이전틱 AI와 컴포저블 메모리까지 논의를 넓혔다. 김주현 최고제품책임자(CPO)는 14일 ‘데이터 인접 연산을 위한 범용 병렬 프로그래밍’을 주제로 NDP 기술을 발표했다. 마벨·삼성전자·SK하이닉스·고트브라스 테크놀로지스와는 하이퍼스케일 이기종 AI 인프라를 위한 오픈 미들웨어를 논의했다. 에이전틱 AI에서는 CXL 메모리를 여러 시스템이 나눠 쓰고 필요한 연산을 메모리 가까이에서 처리하는 기술을 다뤘다. 김주현 CPO는 15일 삼성전자와 ‘에이전틱 AI를 위한 분리형 CXL 메모리 아키텍처’를 공동 발표하고, 동적 메모리 풀링과 공유, PNM 오프로딩 방안을 소개했다.

 

메모리 용량과 대역폭 문제는 컴포저블 메모리로 이어졌다. 엑시나 그랜트 맥키(Grant Mackey) 수석 엔지니어는 마이크로소프트·씨게이트·메타 연사들과 OCP 컴포저블 메모리 시스템(CMS) 서브프로젝트 기술 업데이트에 참여해 AI와 범용 컴퓨팅 플랫폼의 메모리 병목 문제를 논의했다. CMS 기술 개발 현황과 향후 방향도 공유했다.

 

엑시나 김진영 대표는 “AI 인프라의 성능과 효율을 높이기 위해서는 연산 성능뿐 아니라 메모리를 얼마나 효율적으로 활용하고 데이터 이동을 줄이느냐가 중요하다”며 “이번 행사에서 MX1이 실제 AI 워크로드에서 어떻게 활용될 수 있는지 보여줬으며, 앞으로도 생태계 전반의 파트너들과 협력해 차세대 AI 메모리 인프라를 발전시켜 나가겠다”고 밝혔다.

 

#엑시나 #XCENA #MX1 #CXL #AI추론 #KV캐시 #RAG #NDP #RDMA #SK하이닉스 #삼성전자 #OCP글로벌서밋 #AI메모리