- 핵심 부품 현장 비축·OEM 엔지니어 투입…하드웨어 수리 최단 4시간
케이투스(KAYTUS)가 AI 데이터센터(AIDC)와 하이퍼스케일 클러스터를 위한 ‘AI 매니지드 서비스’를 출시했다. 핵심 교체 부품을 데이터센터에 비축하고 공장 수준의 진단·수리 장비와 OEM 인증 엔지니어를 현장에 배치해 하드웨어 장애에 대응한다. 수리는 최단 4시간 안에 마치며, 일반적인 서비스 수준과 비교해 복구 시간은 30% 이상 줄였다.
AI 클러스터가 수천 개의 가속기를 운용하는 규모로 커지면서 하드웨어 장애에 따른 운영 중단도 잦아지고 있다. 메타가 공개한 라마 3.1 405B 기술 보고서에 따르면 1만6384개 GPU를 이용해 54일간 사전 학습하는 동안 419회의 예기치 않은 중단이 발생했으며, 약 78%는 하드웨어 장애가 원인이거나 관련 원인으로 추정됐다.
부품 비축부터 현장 수리까지 OEM 지원
AI 매니지드 서비스는 장비 수명주기 전반의 맞춤형 유지보수와 핵심 예비 부품 현장 비축, OEM 진단·수리, 24시간 인증 엔지니어 지원, AI 기반 장애 예측 및 선제 점검 등 5개 서비스로 구성된다. 컴퓨팅 노드와 네트워크 스위치, 고대역폭 네트워크 인터페이스 카드(NIC) 등 주요 교체 부품은 고객 데이터센터에 미리 비축한다. 장애가 발생하면 외부 창고에서 부품을 조달하는 과정을 거치지 않고 바로 교체에 들어가며, 하드웨어 수리는 최단 4시간 안에 마친다.
공장에서 사용하는 진단 장비와 전문 수리 도구도 현장에 배치해 복잡한 장애가 발생한 시스템을 공장으로 보내지 않고 개별 부품이나 노드 전체를 직접 진단·수리한다. 서비스 등급에 따라 OEM 인증 엔지니어가 연중무휴 24시간 현장 대응에 나서고, 전담 2차 기술 지원 인력이 장애 원인 분석과 처리를 지원한다. 하드웨어 상태 점검에는 AI를 활용한다. 상태 저하의 초기 징후를 감지해 서비스 중단 전에 예방 유지보수를 수행하는 방식으로, 장애 발생 후 수리에 대한 의존도를 줄인다.
장애 노드 처리시간 48시간에서 12시간으로
케이투스는 100개 이상의 랙과 수천 개 가속기를 운영하는 글로벌 클라우드 서비스 제공업체(CSP)의 AI 데이터센터에 서비스를 적용했다. 운영 결과 장애 노드 1대당 초기 점검부터 수리 완료까지 걸리는 평균 시간은 48시간에서 12시간으로 줄었다. 학습과 추론 워크로드의 실제 연산 가동 시간은 50% 증가했다. 케이투스는 다운타임 단축과 빠른 복구를 주요 요인으로 제시했으며, 워크로드 재시작 횟수도 줄어 고객이 부담할 수 있는 SLA 보상 규모가 수백만 달러 감소했다고 설명했다.
케이투스 코리아 엔터프라이즈 사업부 나한돌 기술 총괄 이사는 “KAYTUS AI 매니지드 서비스는 고객이 하드웨어 복구를 막연히 기다리지 않도록, 측정 가능한 서비스 수준을 약속한다”고 설명했다.
한국·일본 등 글로벌 서비스 제공
케이투스는 영국과 독일, 프랑스, 네덜란드, 핀란드, 폴란드, 아이슬란드 등 유럽 주요 시장과 한국·일본에서 AI 매니지드 서비스를 제공하고 있다. 서비스 방식과 수준은 고객의 인프라 규모와 운영 요구에 맞춰 조정하며, 적용 대상에는 유럽연합 일반개인정보보호규정(GDPR) 요건도 반영한다. AI 매니지드 서비스는 케이투스의 지능형 운영·관리 플랫폼 ‘KSManage’와 연동해 현장 OEM 지원과 AI 기반 운영 관리를 결합한다. 서비스 수준은 계약상 이행 기준으로 명시한다.
#케이투스 #KAYTUS #AI매니지드서비스 #AI데이터센터 #AIDC #GPU클러스터 #하이퍼스케일 #데이터센터 #AI인프라 #하드웨어유지보수 #KSManage
