- 윤리적·사회적 편향이 대형 언어 모델 탈옥 취약점에 미치는 영향 규명

 

사이버 보안 전문기업 티오리는 소속 연구원이 참여한 논문이 세계 최고 권위의 인공지능 학회 AAAI 2026 워크샵에 채택돼 연구 성과를 발표했다고 밝혔다. AAAI는 전 세계 연구기관과 기업 연구자들이 최신 인공지능 연구 결과를 공유하는 대표적 국제 학회다. AAAI 2026은 2026년 1월 20일부터 27일까지 싱가포르에서 열렸다.

 

윤리적 편향과 탈옥 취약점의 상관관계 분석

이번에 채택된 논문은 ‘BiasJailbreak: Analyzing Ethical Biases and Jailbreak Vulnerabilities in Large Language Models’로 대형 언어 모델(LLM)에 내재된 윤리적·사회적 편향이 탈옥(jailbreak) 공격 취약점에 미치는 영향을 실험적으로 분석했다.

 

연구팀은 LLM이 특정 편향 요소를 포함한 입력에 대해 서로 다른 안전 응답을 보인다는 점에 주목했다. 이를 바탕으로 윤리적 편향과 탈옥 공격 간 관계를 정량적으로 측정하는 분석 프레임워크 ‘BiasJailbreak’를 제안하고, 편향 기반 공격을 완화하기 위한 대응 방식으로 ‘BiasDefense’를 함께 제시했다.

 

LLM 보안 솔루션 설계에도 연구 성과 반영

해당 연구 결과는 티오리의 LLM 보안 솔루션 알파프리즘의 위험 탐지 기능 설계 과정에도 참고됐다. LLM의 윤리적 응답 특성이 공격에 악용되는 패턴을 분석하고, 편향 기반 입력에 대한 탐지·대응 모델을 설계하는 데 연구 내용을 적용했다.

 

논문 제1저자로 참여한 티오리 이이삭 연구원은 “LLM의 편향과 안전성 문제를 함께 살펴본 분석”이라며 “LLM 보안 연구와 논의 과정에서 하나의 참고 사례로 활용되길 기대한다”고 밝혔다.

 

오펜시브 보안 중심 기술력 확대

한편 티오리는 오펜시브 사이버보안 전문 기업으로, 구글, 마이크로소프트, 옥타, 삼성전자 등 국내외 주요 기업과 기관에 보안 컨설팅을 제공하고 있다.

 

또한 웹 애플리케이션 보안 자동화 솔루션 Xint(진트), 회원 7만 명 이상이 사용하는 사이버보안 교육 플랫폼 Dreamhack(드림핵)을 운영하며 실전 중심 보안 기술 생태계 확장에 주력하고 있다.

 

#티오리 #AAAI2026 #LLM보안 #AI윤리 #BiasJailbreak #알파프리즘 #사이버보안