- 온프레미스 환경에서 RAG·LLM 실행…데이터 이동 없이 AI 처리

 

넷앱이 테라텍, SK네트웍스서비스, 인텔코리아와 협력해 인텔 제온 6 기반 ‘넷앱 AIPod Mini’를 국내에 출시하고 기업이 자체 데이터 기반 AI 추론을 실행하는 환경을 마련했다.

 

인텔 제온 6 기반 AI 추론 인프라 적용

넷앱 AIPod Mini는 인텔 제온 6 프로세서와 인텔 AMX를 기반으로 AI 추론 워크로드를 처리한다. 넷앱 올플래시 스토리지와 데이터 관리 기술을 결합해 대규모 데이터 환경에서 RAG와 LLM 기반 AI 워크플로우를 실행한다. 쿠버네티스 환경과 연동해 AI 모델 실행과 데이터 처리를 하나의 인프라에서 동시에 수행한다.

 

온프레미스 환경에서 데이터 기반 AI 추론 실행

넷앱 AIPod Mini는 온프레미스 환경에서 데이터를 처리하고 외부 이동 없이 AI 추론을 수행하며 ONTAP의 접근 제어와 버저닝, 추적 기능을 적용해 데이터 접근과 변경 이력을 관리한다. 기업은 내부 데이터를 기반으로 생성형 AI 결과를 생성하고 이를 업무 처리에 바로 반영한다.

 

모듈형 설계로 도입 부담 축소

넷앱 AIPod Mini는 기업 환경과 예산에 맞춰 단계적으로 도입할 수 있도록 모듈형으로 설계됐다. 사전 검증된 레퍼런스 아키텍처와 패키지형 워크플로우를 기반으로 기존 시스템과 연동하며, 별도 대규모 인프라 투자 없이 AI 추론 환경을 운영 단계로 옮긴다.

 

RAG 기반 AI 적용으로 업무 실행 확대

넷앱 AIPod Mini는 RAG 기반 워크플로우를 적용해 기업 데이터를 활용한 응답 생성과 분석을 수행한다. 법무 문서 초안 작성, 리테일 개인화 추천과 가격 조정, 제조 예측 유지보수 등 업무를 자동 처리하고 결과를 실제 의사결정에 반영한다.

 

국내 파트너 협력으로 구축·운영 수행

넷앱은 SK네트웍스서비스와 테라텍을 통해 넷앱 AIPod Mini를 공급하고 구축과 운영을 수행한다. 기업은 구축된 환경에서 AI 추론을 실행해 결과를 업무에 바로 반영한다.

 

넷앱 유재성 대표는 “기업이 보유한 데이터를 기반으로 AI를 실행하고 이를 실제 업무 성과로 연결한다”고 밝혔다. 인텔코리아 배태원 사장은 “AI 도입 과정에서 발생하는 비용과 인프라 부담을 줄이고 실행 환경을 마련한다”고 설명했다. 테라텍 강유진 수석 엔지니어는 “비용과 복잡도를 줄이고 RAG 기반 AI를 적용해 기업이 실제 업무에 활용하도록 했다”고 덧붙였다.

 

#넷앱 #AIPodMini #인텔제온6 #AI추론 #RAG #온프레미스AI #데이터인프라 #AI인프라