- 생성형 AI 적대적 공격 기법 적용…딥페이크 ‘사후 탐지’ 한계 넘어

- 스마트폰·SNS·클라우드 등 전방위 적용 가능한 선제적 방어 기술

 

 

라바웨이브가 KAIST 사이버보안연구센터와 공동으로 딥페이크 생성 자체를 원천적으로 차단하는 사전예방 기술을 개발했다. 기존의 탐지·삭제 중심 대응 방식과 달리, 딥페이크 결과물이 생성되지 않도록 원본 이미지를 보호하는 선제적 방어 기술이 라는 점에서 주목된다.

 

AI 기술 발전과 함께 딥페이크 범죄가 급증하면서 일반인부터 연예인, 정치인에 이르기까지 피해가 확산되고 있다. 한 번 생성돼 유포된 딥페이크 콘텐츠는 완전한 삭제가 사실상 어렵고, 피해 회복에도 장기간이 소요되는 구조적 한계를 안고 있다. 이번 기술은 이러한 문제를 사후 대응이 아닌 사전 차단 방식으로 접근했다.

 

딥페이크 생성 자체를 무력화하는 선제적 방어

이번에 개발된 기술은 생성형 AI에 대한 적대적 공격 기법을 활용한다. 사람의 눈으로는 인지할 수 없는 수준의 미세한 노이즈를 원본 이미지에 적용해, 일반 사용자에게는 동일한 이미지로 보이지만 딥페이크 생성 AI 모델에는 치명적인 오류를 유발하도록 설계됐다. 보호 처리된 이미지를 생성형 AI가 학습하거나 처리할 경우, 결과물이 심각하게 왜곡되거나 콘텐츠로서의 기능을 상실하게 된다. 이를 통해 딥페이크 제작 과정 초기 단계에서부터 생성 자체를 차단하는 구조다.

 

탐지·워터마킹을 넘어서는 접근 방식

기존 딥페이크 대응 기술은 생성 이후 콘텐츠를 탐지하거나 워터마킹을 통해 추적하는 수동적 방어 방식이 주를 이뤘다. 반면 이번 기술은 딥페이크 생성 자체를 불가능하게 만드는 선제적 방어 방식으로, 피해 발생 가능성을 근본적으로 낮춘다는 점에서 차별화된다. 또한 특정 플랫폼이나 디바이스에 국한되지 않고 범용 적용이 가능하다. 스마트폰 카메라 앱, 클라우드 저장 서비스, 소셜미디어 플랫폼 등에 적용할 경우, 보호된 이미지가 무단으로 다운로드되더라도 딥페이크 생성 단계에서부터 차단 효과를 발휘한다.

 

라바웨이브 김준엽 대표는 딥페이크 범죄가 전 세계적인 사회 문제로 확산되고 있다며, 기술적 대응 없이는 근본적인 예방이 어렵다고 설명했다. 이어 글로벌 플랫폼 및 디바이스 제조사와의 협력을 통해 보다 안전한 디지털 환경 구축에 기여하겠다는 입장을 밝혔다.

 

#라바웨이브 #KAIST #딥페이크 #AI보안 #사전예방 #사이버보안 #디지털범죄 #생성형AI