- 체감 신뢰 73.9→58.6점·관리 역량 45→57.1점…신뢰할 수 있는 AI 기업, 목표 ROI 달성 가능성 15배 높아

 

 

SAS가 한국 기업의 AI에 대한 체감 신뢰와 실제 관리 역량 사이의 격차가 1년 만에 28.9점에서 1.5점으로 줄었다는 조사 결과를 발표했다. AI에 대한 기대가 현실화되면서 체감 신뢰는 73.9점에서 58.6점으로 낮아진 반면, 실제 관리 역량은 45점에서 57.1점으로 올라 두 지표가 거의 같은 수준에 도달했다. 격차를 줄인 동력은 AI 관리·감독 체계였다. 한국 기업의 ‘모델 거버넌스 및 감독’ 점수는 전년보다 9.3점 오른 55.8점을 기록했다. 반면 ‘설명 가능성 및 공정성’은 54.6점, ‘데이터 품질 및 거버넌스’는 53.9점에 머물렀고, 모든 프로젝트에 데이터 품질 관리 절차를 의무 적용하는 기업은 1.9%에 그쳤다.

 

거버넌스 개선됐지만 데이터 품질은 제자리

SAS의 ‘데이터 및 AI 영향력 보고서: 새로운 신뢰의 경제학(The Data and AI Impact Report: The New Economics of Trust)’은 IDC의 리서치 인사이트를 바탕으로 전 세계 28개국 비즈니스·IT 의사결정권자 2699명을 조사했다. 은행과 보험, 생명과학, 공공 부문을 중심으로 기업의 AI 활용 현황과 신뢰 구축 수준을 분석했다.

 

한국에서는 모델 거버넌스와 감독이 가장 빠르게 개선됐다. 그러나 AI 판단 근거를 보여주는 ‘설명 가능성 및 공정성’과 AI의 기반이 되는 ‘데이터 품질 및 거버넌스’는 전년보다 소폭 상승하는 데 그쳤다. ‘책임 있는 AI 정책’은 59.5점으로 전년과 같은 수준을 유지했다.

 

관리·감독 체계가 빠르게 자리 잡은 것과 달리 이를 뒷받침하는 데이터 관리에는 격차가 남았다. 모든 프로젝트에 데이터 품질 관리 절차를 의무적으로 적용하는 한국 기업의 비율은 1.9%였다.

 

에이전틱 AI 도입 42.6%…설명 가능성 중요해져

한국 기업의 에이전틱 AI(Agentic AI) 도입 비율은 42.6%로 조사됐다. AI가 스스로 판단하고 행동하는 업무가 늘어나면서 보고서는 데이터 품질과 설명 가능성을 한국 기업의 다음 과제로 제시했다. 실제 사용자가 AI의 추천을 무시하거나 직접 수정하는 가장 큰 이유로는 AI가 판단 근거를 설명하지 못한다는 점이 꼽혔다. 데이터가 부정확하거나 판단 과정을 설명하지 못하면 에이전틱 AI가 처리하는 업무가 늘어날수록 기업이 관리해야 할 위험도 커질 수 있다는 분석이다.

 

IDC 전대일 AI 리서치 수석 연구원은 “AI가 점점 더 스스로 판단하고 움직이면서, 사람들이 완전히 이해하지 못하는 시스템을 어떻게 신뢰하고 사용할 것인가가 새로운 과제로 떠올랐다”며 “강력한 관리 및 감독과 설명 가능성, 책임성, 그리고 탄탄한 데이터 기반 확보가 AI를 성공적으로 확장할 수 있는 필수 조건”이라고 설명했다.

 

신뢰할 수 있는 AI, 목표 ROI 달성 가능성 15배

글로벌 조사에서는 신뢰할 수 있는 AI 체계를 갖춘 기업과 그렇지 않은 기업 사이에서 사업 성과 차이도 나타났다. 거버넌스와 데이터 품질, 감사 가능성을 갖춘 상위 기업군은 AI 도입으로 2배 이상의 ROI를 거뒀으며, 신뢰할 수 있는 AI 체계를 갖춘 기업은 목표 ROI를 달성할 가능성이 15배 높았다. 

 

최적화된 데이터 인프라를 갖춘 기업은 그렇지 않은 기업보다 높은 ROI를 달성할 확률이 4배 높았다. 데이터 품질과 설명 가능성 통제를 의무화할 가능성도 6배 높은 것으로 조사됐다.

 

SAS 코리아 이중혁 대표이사는 “한국 기업들의 AI 신뢰 격차가 1년 사이에 급격히 줄어든 것은 거버넌스 구축과 현실적인 리스크 인식이 빠르게 이루어졌다는 긍정적인 신호”라며 “다만 이제 한국이 AI 확장을 실질적인 비즈니스 성과로 이어가려면, 거버넌스 구축과 발맞춰 AI의 판단 근거를 설명하고, 정확성과 재현성을 갖춘 데이터 기반을 완성하는 것이 중요한 과제”라고 밝혔다.

 

#SAS #SAS코리아 #데이터및AI영향력보고서 #AI신뢰 #신뢰할수있는AI #AI거버넌스 #데이터품질 #설명가능성 #에이전틱AI #AIROI