- 하이퍼룸·AMD 스킬·ROCm CLI 결합…AI 워크로드 개발·실행·성능 조정 지원
AMD가 AI 워크로드 개발과 실행 기능을 담은 ROCm 10을 공개하고 ‘ROCm.AI’를 정식 제공한다. ROCm.AI는 AMD 하이퍼룸과 AMD 스킬, ROCm CLI를 결합해 기존 개발 도구에서 커널과 메모리 관리, 스케줄링을 AI로 조정한다. 같은 하드웨어에서 ROCm 7과 비교한 AMD 내부 테스트에서는 추론 성능이 평균 3.3배, 학습 성능은 2.4배 높아졌다.
하이퍼룸, 추론 병목 탐지부터 코드 검증까지 자동화
ROCm 하이퍼룸(ROCm Hyperloom)은 호스트 코드와 GPU 커널을 분석해 추론 워크로드를 최적화하는 자율형 에이전틱 시스템이다. 워크로드를 프로파일링해 병목을 찾고 개선 방법을 탐색한 뒤 코드에 필요한 변경 사항을 적용한다. 이어 벤치마크 결과를 바탕으로 성능과 결과의 정확성을 검증한다.
ROCm 10은 AMD 인스팅트 GPU 전반에서 하이퍼룸을 지원하며 vLLM과 SGLang을 연동한다. 개발자는 HIP과 트리톤(Triton), 플라이DSL(FlyDSL)을 대상으로 최적화를 실행하고 제안된 코드 변경 사항과 측정·예상 성능 개선치를 보고서로 확인한다. 하이퍼룸은 독립 실행 방식과 AMD 스킬을 통해 이용할 수 있다.
AMD 스킬, AI 코딩 에이전트에 검증된 작업 절차 제공
AMD 스킬(AMD Skills)은 AMD 기술 지식과 검증된 작업 절차를 클로드 코드와 커서, 코덱스 등 AI 코딩 에이전트에 제공한다. 개발자는 기존 개발 도구 안에서 AMD 하드웨어와 소프트웨어에 맞춘 안내를 받아 코드를 작성하고 문제를 진단한다.
스킬 목록은 로컬 AI와 애플리케이션 연동을 다루는 클라이언트 작업, 진단·라우팅·리플레이 분석·최적화를 포함한 교차 스택 작업, AMD 인스팅트 GPU와 AMD 에픽 프로세서용 서버 작업으로 나뉜다. 서버 작업에는 모델 서빙과 프로파일링, 성능 분석이 포함된다. 각 스킬은 출시 전 구성과 동작 검사를 거치며 클로드 코드와 코덱스, 커서 마켓플레이스와 깃허브 공개 목록에서 제공된다.
ROCm CLI로 설치부터 모델 서빙까지 처리
기술 프리뷰로 공개된 ROCm CLI는 AMD 하드웨어에서 AI 워크로드를 설정하고 관리하는 통합 명령줄 인터페이스다. 개발자는 시스템 상태 확인과 ROCm 환경 설치, 모델 서빙, 진단, 구성요소 업데이트, 런타임 제어를 하나의 인터페이스에서 수행한다. 같은 작업은 사용자가 직접 실행하거나 AI 코딩 에이전트와 지속적 통합(CI) 환경에서 처리할 수 있다.
ROCm CLI는 윈도와 리눅스용 실행 파일로 제공되며 기존 ROCm 설치를 요구하지 않는다. 여러 런타임을 나란히 설치한 뒤 활성화하거나 이전 버전으로 되돌릴 수 있다. 현재 어댑터는 일부 AMD 클라이언트 시스템의 레모네이드(Lemonade)와 AMD 인스팅트 GPU 모델 서빙용 vLLM을 지원한다. ROCm 콘솔에서는 런타임 상태와 모델 서빙, GPU 사용률, 고대역폭메모리(HBM) 사용량, 전력 소비, 와트당 토큰을 확인한다. ROCm 7.13부터 버전에 관계없이 사용할 수 있으며 ROCm CLI의 ROCm 10 공식 지원은 추후 제공될 예정이다.
#AMD #ROCm10 #ROCmAI #ROCmHyperloom #AMD스킬 #ROCmCLI #AMD인스팅트 #AI개발 #AI추론 #GPU컴퓨팅
