- AI 요청 분석해 적합한 모델로 자동 연결…사용자별 접근·토큰 예산·보안 정책 중앙 관리

 

A10 네트웍스가 기업에서 사용하는 AI 에이전트와 애플리케이션, 대규모 언어 모델(LLM)을 중앙에서 관리하는 ‘A10 AI 게이트웨이’를 출시했다. AI 요청의 내용과 적용된 사용 정책을 바탕으로 적합한 모델을 선택하고, 사용자별 접근 권한부터 트래픽과 비용까지 하나의 제어 평면에서 관리한다. 온프레미스와 프라이빗 클라우드, 망분리 환경에서도 운영해 AI 모델과 데이터, 정책에 대한 기업의 통제권을 유지한다.

 

늘어나는 AI 모델과 에이전트, 하나의 제어 평면에서 관리

기업이 여러 AI 제공업체의 모델과 AI 에이전트를 업무에 연결하면서 관리 범위도 넓어지고 있다. 누가 어떤 모델을 사용하는지뿐 아니라 모델별 비용과 접근 권한, 보안 정책까지 파악해야 한다. AI 요청도 단순 처리부터 고도의 추론까지 복잡도가 달라 성능과 비용을 함께 고려한 모델 선택이 필요하다.

 

A10 AI 게이트웨이는 AI 요청을 하나의 지능형 제어 평면으로 모아 모델 선택과 접근 제어, 비용, 거버넌스를 관리한다. 요청 콘텐츠와 적용되는 사용 정책을 바탕으로 작업에 적합한 AI 모델을 선택하고, 발생한 사용량과 비용은 중앙에서 추적한다. 개발자와 사용자가 업무에 맞는 모델을 선택해 사용하는 동안 기업은 전체 AI 사용 현황을 한곳에서 파악한다.

 

요청 복잡도 따라 AI 모델 자동 선택

A10 AI 게이트웨이는 사용자와 그룹에 따라 접근할 수 있는 AI 모델과 사용 정책을 구분한다. 기존 로컬 디렉터리 시스템과 동기화해 사용자·조직별 접근 권한과 라우팅 정책을 적용하며, 엔지니어링팀과 재무팀처럼 업무가 다른 조직에는 서로 다른 모델을 배정할 수 있다. 접근 권한을 확인한 뒤에는 요청의 유형과 복잡도에 따라 사용할 모델을 결정한다. 지능형 라우팅(Smart Routing)은 단순 작업을 비용 효율적인 모델로 보내고, 고도의 추론이 필요한 요청은 성능이 높은 모델에 연결한다. 정적인 정책이나 단순 요청량에 의존하지 않고 실제 요청에 맞춰 모델을 선택하는 방식이다.

 

모델을 선택한 뒤 발생하는 사용량과 비용도 요청 단위로 추적한다. 실시간 비용을 달러 기준으로 확인하면서 모델·팀별 토큰 예산과 사용 한도를 설정하고, 한도에 도달하기 전에는 알림을 보낸다. 키 또는 팀별 분당 토큰 수(TPM)와 분당 요청 수(RPM)까지 제어해 AI 사용량을 관리한다.

 

AI 개발부터 런타임·API까지 보안 연결

A10 AI 게이트웨이는 기존 A10 보안 제품과 연계해 AI 개발부터 실제 운영까지 보호 범위를 넓힌다. TrojAI는 개발·운영 단계의 AI 보안을 맡고, A10 AI 방화벽은 AI·LLM 특화 위협을 차단하며, 쓰랫엑스(ThreatX)는 웹 애플리케이션과 API를 보호한다. AI 모델을 배포하기 전에는 보안 테스트를 수행하고, 서비스가 시작되면 런타임 보호와 네트워크·API 계층의 보안 제어로 이어진다. 모델 개발 단계에서 실제 AI 트래픽이 오가는 운영 환경까지 단계별로 보호하는 방식이다.

 

온프레미스·망분리 환경에서도 자체 운영

A10 AI 게이트웨이는 독립형 소프트웨어와 통합 하드웨어 형태로 제공하며, 온프레미스와 프라이빗 클라우드, 망분리 환경을 포함한 고객 자체 환경에서 운영한다. AI 모델과 데이터, 정책을 직접 통제하면서 데이터 주권을 유지할 수 있어 클라우드 호스팅이나 엣지 환경에 종속되지 않는다.

 

A10 네트웍스 드루파드 트리베디(Dhrupad Trivedi) CEO는 “AI 활용은 기업이 이를 파악하고 거버넌스와 보안을 적용하는 속도보다 빠르게 확산되고 있다”며 “A10 AI 게이트웨이는 AI 사용 현황과 모델 접근을 관리하고, 각각의 요청을 적절한 비용으로 가장 적합한 AI 모델에 연결하는 지능형 제어 평면을 제공한다”고 밝혔다.

 

#A10네트웍스 #A10AI게이트웨이 #AIGateway #AI게이트웨이 #AI에이전트 #LLM #생성형AI #AI보안 #AI거버넌스 #지능형라우팅 #망분리 #온프레미스AI