- 개인 맥락 정보 입력 과정에서 신원 사칭·사회공학 공격 가능성 증가
- 이미지 생성 과정에서 텍스트·행동 데이터까지 수집될 수 있어 주의 필요
카스퍼스키가 AI 캐리커처 생성 트렌드에서 개인 맥락 정보를 입력하는 과정이 신원 사칭과 사회공학 공격에 활용될 수 있다고 경고했다. 개인 프로필과 생활 정보가 결합되면 개인화된 피싱과 사회공학 공격 설계에 활용될 수 있다.
AI 캐리커처 생성 과정에서 개인정보 축적 위험
최근 소셜 미디어에서는 개인 사진과 직업, 일상 정보를 기반으로 캐리커처 이미지를 생성하는 콘텐츠가 확산되고 있다. 직장과 직책, 취미, 가족 관계 등 개인 맥락 데이터가 결합되면 상세한 디지털 프로필이 형성될 수 있다.
사회공학 공격 정교화에 활용되는 개인정보
이미지와 텍스트, 행동 정보가 함께 축적되면 인간관계와 생활 패턴까지 파악될 수 있어 맞춤형 피싱 공격 설계에 활용될 수 있다. 공격자는 직무 정보와 가족 관계 등 개인화 요소를 기반으로 신뢰도를 높인 사회공학 공격을 설계할 수 있다.
APAC 지역 높은 AI 활용률 대비 보안 인식 격차
아시아태평양 지역은 AI 활용률이 높은 수준을 보이지만 기술 이해 수준 격차로 인해 피싱과 사회공학 공격에 노출될 위험이 높다. 개인화된 데이터 입력이 늘어나면서 디지털 신원 보호 필요성도 함께 커지고 있다.
이미지 생성 과정에서 추가 데이터 수집 가능
일부 서비스는 이미지 생성 과정에서 사진과 텍스트 입력 정보뿐 아니라 사용 기록, 기기 정보, 접속 환경 데이터 등을 함께 저장할 수 있다. 데이터 보관 기간과 활용 목적에 따라 개인 정보가 예상보다 오래 보관될 수 있다.
카스퍼스키 아드리안 히아(Adrian Hia) 아시아태평양 총괄 사장은 개인 맥락 정보를 기반으로 생성된 콘텐츠가 사회공학 공격 설계에 활용될 수 있어 사용자 주의가 필요하다고 밝혔다.
#카스퍼스키 #Kaspersky #AI보안 #개인정보보호 #사회공학 #피싱 #디지털보안 #사이버보안 #생성형AI #AI위험
