- 정책 분석·위험 평가·가드레일 적용·배포를 하나의 절차로 연결…감사 추적까지 지원

 

레드햇(Red Hat)이 AI 거버넌스 정책을 실제 운영 통제로 전환하는 오픈소스 커뮤니티 프로젝트 ‘아사고(asago)’를 출범했다. 기업이 정책 문서를 올리면 위험 항목을 분석하고, 안전성 테스트와 완화 방안을 만든 뒤 하이브리드 클라우드와 쿠버네티스 환경에 적용할 설정까지 생성한다.

 

아사고는 AI 안전 및 거버넌스 오케스트레이션(AI Safety And Governance Orchestration)의 약자다. 컴플라이언스팀과 엔지니어링팀에 나뉘어 있던 정책 해석, 테스트, 배포, 감사 절차를 하나로 연결해 수작업 중심의 AI 거버넌스 운영을 자동화하는 데 초점을 맞췄다.

 

정책 문서를 위험 프로파일로 변환

아사고는 업로드된 AI 거버넌스 정책을 분석한 뒤 조직의 요구사항을 검증된 위험 관리 기준과 연결한다. 미국 국립표준기술연구소 AI 위험관리 프레임워크(NIST AI RMF), OWASP LLM 톱10, IBM AI 리스크 아틀라스를 통한 유럽연합 AI법(EU AI Act) 등이 매핑 대상이다.정책 조항은 실제 시스템에 적용할 수 있는 위험 프로파일로 바뀐다. 컴플라이언스 담당자가 문서를 해석하고 엔지니어가 다시 코드와 설정으로 옮기던 작업을 자동화된 절차로 묶는 방식이다.

 

위험별 테스트 실행하고 가드레일 제안

위험 프로파일이 만들어지면 사용 사례에 맞춘 AI 안전성 테스트를 자동으로 생성해 실행한다. 범용 벤치마크 점수만 확인하지 않고, 실제 운영 환경에서 유해한 동작이 발생하는지를 중심으로 시스템을 평가한다. 테스트 결과에 따라 안전 가드레일과 위험 완화 방안도 제안한다. 각 권고안에는 판단 근거와 감사 기록을 함께 남겨 검토자가 어떤 위험을 줄이기 위해 해당 조치를 적용했는지 확인할 수 있다.

 

쿠버네티스 배포와 감사 추적 연결

검토를 마친 통제 방안은 하이브리드 클라우드와 쿠버네티스 등 여러 운영 환경에 배포할 수 있는 구성으로 변환된다. 테라폼(Terraform)과 앤서블(Ansible)용 선언형 설정도 출력해 인프라별 수동 코딩 작업을 줄인다. 정책 조항과 테스트 결과, 실제 운영 설정은 하나의 감사 기록으로 이어진다. 정책 담당자와 최고정보책임자(CIO), AI 개발자, 플랫폼 엔지니어, 외부 감사인은 같은 기록에서 적용 근거와 운영 상태를 확인한다.

 

컴플라이언스와 엔지니어링 작업 통합

AI 정책은 문서로 작성되지만 운영 단계에서는 테스트와 소프트웨어 설정, 배포 작업으로 구현해야 한다. 컴플라이언스팀은 검증할 수 있는 증거를 요구하고, 플랫폼 엔지니어는 데브옵스와 깃옵스 환경에서 관리할 수 있는 설정이 필요하다.

 

아사고는 두 조직 사이에서 반복되던 수작업 해석과 커스텀 스크립트를 자동화된 오케스트레이션 절차로 대체한다. 레드햇은 이를 통해 수개월이 걸리던 AI 안전 통제 적용 기간을 수일로 줄이는 것을 목표로 세웠다.

 

레드햇 AI 엔지니어링 부문 스티븐 훌스(Steven Huels) 부사장은 “기업이 AI 파일럿에서 장기간 운영되는 자율 에이전트로 전환하면서 명확한 운영 가드레일이 핵심 인프라 요건이 되고 있다”며 “아사고는 정책 정의와 실제 운영 중인 에이전트를 자동으로 연결한다”고 설명했다.

 

기업·대학·연구기관 공동 참여

아사고에는 레드햇과 알키미아 AI(Alquimia AI), 브레이브 소프트웨어(Brave Software), EvalEval 연합, IBM 리서치, 오스트리아 인터디시플리너리 트랜스포메이션 대학교, 마이크로소프트, MIT 링컨 연구소, 노스캐롤라이나 주립대학교, 엔비디아, 앨런 튜링 연구소가 참여한다.

 

참여 기관은 AI 안전 연구와 엔터프라이즈 소프트웨어 엔지니어링, 적대적 머신러닝, 규제·컴플라이언스 분야의 전문성을 공동 프로젝트에 반영한다. 아사고는 아파치 라이선스 2.0으로 공개되며 특정 클라우드나 인프라에 종속되지 않는 운영을 지향한다.

 

레드햇 AI 안전 및 모델 평가 부문 스튜어트 배터스비(Stuart Battersby) 아키텍트는 “아사고는 기술 산업과 학계, 정부 등 다양한 이해관계자가 참여하는 오픈소스 협업 프로젝트”라며 “여러 국가의 기관이 참여해 AI 안전에 대한 폭넓은 관점을 반영하기를 기대한다”고 밝혔다.

 

엔비디아 소프트웨어 보안 부문 대니얼 로러(Daniel Rohrer) 부사장은 “아사고는 AI 거버넌스 정책을 운영 수준의 통제와 감사 추적 기록으로 자동 전환한다”며 “오픈소스 도구로 에이전트 보안을 강화하는 협력 사례”라고 덧붙였다.

 

#레드햇 #아사고 #AI거버넌스 #AI안전 #오픈소스 #AI에이전트 #하이브리드클라우드 #쿠버네티스 #NISTAIRMF #EUAI법 #AI컴플라이언스