- 아프리엘 네모트론 15B 추론 모델, 지연 시간 단축 및 추론 비용 절감, 더 빠른 AI 에이전트 지원

- 서비스나우, 엔비디아 네모 마이크로서비스와 워크플로우 데이터 패브릭 통합해 데이터 처리 속도 높여… 모델 정확도와 사용자 경험 강화하는 폐쇄형 데이터 플라이휠 프로세스 구축

 

서비스나우와 엔비디아(NVIDIA)가 기업 전반에 새로운 차원의 지능형 AI 에이전트 구축을 위한 파트너십 확장을 발표하고, 엔비디아와 협력해 개발한 서비스나우의 고성능 추론 모델 아프리엘 네모트론 15B(Apriel Nemotron 15B)도 공개했다.

 

해당 모델은 관계를 평가하고 규칙을 적용하며, 목표를 고려해 결론을 도출하거나 의사 결정을 내릴 수 있다. 이 오픈소스 LLM은 서비스나우와 엔비디아가 제공하는 데이터로 사후 훈련되었으며, 이를 통해 지연 시간 감소, 추론 비용 절감 및 더 빠른 AI 에이전트를 구현할 수 있도록 지원한다.

 

또한, 양사는 서비스나우 워크플로우 데이터 패브릭(Workflow Data Fabric)에 일부 엔비디아 네모 마이크로서비스를 통합하여 데이터 처리 속도를 높이고, 모델 정확도와 개인화된 사용자 경험을 선순환하며 강화하는 ‘폐쇄형 루프 데이터 플라이휠 프로세스’ 구축 계획도 공개했다.

 

아프리엘 네모트론 15B 추론 모델은 실시간 워크플로우 실행에 최적화된 컴팩트한 엔터프라이즈급 LLM 개발에서 중요한 진전을 이룬 모델이다. 이 모델은 엔비디아 네모(NVIDIA NeMo), 엔비디아 라마 네모트론 사후 학습 데이터셋(NVIDIA Llama Nemotron Post-Training Dataset), 서비스나우의 도메인 특화 데이터를 활용해, 아마존웹서비스(AWS) 기반의 엔비디아 DGX 클라우드에서 학습됐다.

 

더 작은 크기의 언어 모델인 동시에 고급 추론 기능을 제공하며, 엔비디아 GPU 인프라에서 엔비디아 NIM 마이크로서비스로 더 빠르고 효율적으로 실행 가능하다. 벤치마크 결과, 이 모델은 같은 크기 범주에서 뛰어난 성능을 보여주었으며, AI 에이전트를 통해 대규모 워크플로우를 효과적으로 지원할 잠재력도 입증했다. 특히, 비즈니스 환경이 갈수록 복잡해지고 거시경제적 불확실성이 커지는 상황에서 엔터프라이즈 AI가 스마트하고 탄력적인 운영을 가능하게 하는 핵심 기술로 주목받고 있는 가운데, 해당 모델이 출시됐다.

 

또한, 서비스나우와 엔비디아는 AI 에이전트 성능을 높이고 모델 혁신을 지속하기 위해 공동 데이터 플라이휠 아키텍처를 새롭게 공개했다. 이 아키텍처는 서비스나우 워크플로우 데이터 패브릭과 엔비디아 네모 마이크로서비스 일부를 통합하는 방식으로, 기업의 워크플로우 데이터를 정제하고 맥락화하여 추론 모델을 최적화한다.

 

고객이 규정을 준수해 안전하게 자신의 데이터를 사용 및 처리할 수 있도록 보호 장치도 마련했다. 이를 통해 모델의 정확도와 적응력을 지속적으로 향상시키는 폐쇄형 루프 학습 프로세스가 가능해지며, 이를 기반으로 기업 생산성을 높이는 맞춤형 맥락 인지 AI 에이전트의 개발과 배포를 가속화할 수 있다.

 

서비스나우 플랫폼 및 AI 부문 수석 부사장 존 시글러(Jon Sigler)는 “아프리엘 네모트론 15B 추론 모델은 맥락을 이해하고 복잡한 워크플로우에 유연하게 대응하며, 대규모로 맞춤형 결과를 제공할 수 있는 지능형 AI 에이전트를 구현하는 데 중점을 두고 있다”고 설명하고, “혁신은 모델에만 국한되지 않는다. 워크플로우 데이터 패브릭과 엔비디아 네모를 기반으로 하는 데이터 플라이휠은 학습과 개선이 반복되며 선순환하는 구조를 만들어준다. 이를 통해 기업의 실시간 요구사항에 맞춰 맥락을 인식하고, 맞춤형으로 최적화된 AI 에이전트를 더욱 구축할 수 있다”고 밝혔다.

 

카리 브리스키(Kari Briski) 엔비디아 생성형 AI 소프트웨어 부문 부사장은 “AI 도구를 통해 직원 생산성을 높이겠다는 공통된 목표를 갖고 있다”고 밝히고, “함께 아프리엘 네모트론 15B 모델을 엔터프라이즈급 추론 엔진으로 개발한 데 이어, 향후 엔비디아 네모 마이크로서비스를 서비스나우 워크플로우 데이터 패브릭에 통합하여, 지능형 디지털 에이전트를 위한 강력한 기반을 제공할 계획”이라고 덧붙였다.

 

아프리엘 네모트론 15B 추론 모델과 데이터 플라이휠의 통합은 AI 에이전트가 지속적인 데이터와 프로세스 피드백을 통해 증가하는 고객의 요구에 더 효과적으로 대응할 수 있도록 돕는다. 예를 들어, AI 에이전트가 과거 고객과의 상호작용 데이터를 기반으로 청구 문제를 분석하고, 문제를 추론해 최적의 해결 방안을 제안한다면, 이런 과정을 반복할수록 AI 에이전트는 점점 더 빠르고 정확하게, 효율적으로 문제를 해결하게 된다. 서비스나우와 엔비디아는 이처럼 기업 데이터를 실시간으로 고객 맞춤형 행동으로 바꾸는 혁신을 함께 이끌고 있다.

 

이와 같은 성과는 AI 에이전트 평가 도구와 엔비디아 라마 네모트론 모델을 서비스나우 AI 플랫폼에 통합한다는 최근 발표에 이어, AI 에이전트 개발을 더욱 가속화하기 위한 조치다. 서비스나우와 엔비디아는 LLM과 이를 기반으로 한 사용자 경험이 단순히 지능적일 뿐만 아니라, 측정 가능하고 안전하며 실제 환경에 배포할 준비가 되어 있어야 한다는 공동의 비전을 공유하고 있다. 아프리엘 네모트론 15B 추론 모델과 데이터 플라이휠의 통합을 공동 개발한 것은 양사의 긴밀한 파트너십에서 비롯된 성과로, 더 빠르고 정밀하며 비용 효율적인 엔터프라이즈 워크플로우를 실현하기 위한 양사의 협력을 한층 더 강화하는 계기가 될 것이다.

 

아프리엘 네모트론 15B 모델은 2025년 2분기에 출시될 예정이다.

 

#서비스나우#엔비디아#LLM#아프리엘#네모트론#15B#AI에이전트#