- 저전력 ‘그린코어’에 NPU 탑재해 모델 구동·호환성 검증…워크로드 분석부터 PoC까지 연계
HS효성인포메이션시스템이 저전력 Arm 서버 ‘그린코어(GreenCore)’와 신경망처리장치(NPU)를 결합해 기업의 AI 추론 서비스 도입과 운영을 지원한다. 고객이 사용하는 AI 모델과 서비스 유형, 동시 사용자 수, 응답속도, 데이터센터의 전력·공간 조건을 분석해 NPU를 선정하고 그린코어에 직접 탑재해 하드웨어·소프트웨어 호환성과 모델 구동 여부를 검증한다.
생성형 AI와 대규모 언어 모델(LLM)이 실제 업무와 서비스에 적용되면서 모델을 학습하는 것뿐 아니라 지속적으로 추론 요청을 처리하는 인프라의 중요성도 커지고 있다. 기업은 반복되는 추론 연산을 처리하면서 비용과 전력, 데이터센터 공간을 함께 관리해야 하며, 이에 따라 범용 GPU와 함께 추론 연산을 저전력·저비용으로 처리하도록 설계한 NPU가 AI 인프라의 선택지로 떠오르고 있다.
워크로드·모델 분석해 NPU 후보 선정
NPU는 AI 추론 연산을 처리하도록 설계한 가속기로, 제품마다 지원하는 AI 모델과 목표 워크로드가 다르다. 따라서 챗봇과 문서 검색, 영상 분석 등 서비스 유형과 데이터센터·엣지 등 운영 환경을 함께 고려해 NPU를 선정해야 한다.
HS효성인포메이션은 퀄컴과 퓨리오사 AI, 딥엑스, 모빌린트 등 국내외 NPU 기업과 협업하고 있다. 카탈로그 성능만을 기준으로 제품을 비교하지 않고, 고객이 사용할 AI 모델과 서비스 유형, 모델 크기, 동시 사용자 수, 목표 응답속도, 데이터센터 전력·공간 조건까지 분석해 NPU 후보군을 제시한다.
Arm 서버 ‘그린코어’에 NPU 직접 탑재
그린코어는 HS효성인포메이션과 국내 Arm 서버 제조기업 엑세스랩이 공동 개발한 서버 제품군으로, Arm 아키텍처 CPU와 매니코어 병렬처리를 적용했다. 저전력·저발열 특성을 갖춰 전력과 냉각, 랙 공간이 제한된 데이터센터뿐 아니라 보안과 데이터 주권을 고려해 온프레미스 온프레미스 AI 서비스를 준비하는 기업과 기관에도 활용할 수 있다.
HS효성인포메이션은 선정한 NPU를 그린코어에 직접 탑재해 하드웨어와 소프트웨어 호환성, AI 모델 구동 여부, 운영 안정성을 함께 검증한다. 필요한 경우 AI 솔루션 기업과 연계해 실제 서비스 환경을 반영한 개념검증(PoC)을 진행하며, 고객이 여러 NPU 제품과 제조사별 개발 도구를 직접 비교·검증해야 하는 부담을 줄인다.
NPU 선정부터 PoC·운영까지 연계
HS효성인포메이션은 고객 워크로드 분석과 NPU 선정, 그린코어 서버 구성, 통합 검증, AI 솔루션 연계, PoC, 도입과 운영까지 AI 추론 인프라 전 과정을 지원한다. 앞으로 Arm 서버와 GPU, NPU, 고성능 스토리지, 데이터 레이크, AIOps, AI 솔루션 파트너를 연계해 AI 도입부터 운영과 확장까지 지원하는 ‘HS효성 AI 플랫폼’ 포트폴리오를 강화할 계획이다.
HS효성인포메이션시스템 양정규 대표는 “AI 경쟁력의 중심이 모델 개발을 넘어 AI를 실제 비즈니스 환경에서 얼마나 안정적이고 효율적으로 운영하느냐로 이동하고 있다”며 “그린코어와 다양한 NPU를 결합한 추론 인프라를 통해 고객이 비용과 전력, 공간의 제약을 고려하면서도 각자의 워크로드에 적합한 AI 서비스를 신속하게 구현하도록 지원해 나갈 것”이라고 밝혔다.
#HS효성인포메이션시스템 #HS효성인포메이션 #GreenCore #그린코어 #NPU #Arm서버 #AI추론 #생성형AI #LLM #온프레미스AI #퓨리오사AI #딥엑스 #모빌린트 #퀄컴
