- 동료 사칭 딥페이크에 15분간 속은 경험 공개…금융·AI 에이전트·광고 시장에서 인간 증명 수요 설명

 

툴스 포 휴머니티(Tools for Humanity)의 알렉스 블라니아(Alex Blania) CEO는 앞으로 3개월, 길어도 6개월 안에 화상회의에서 대화 상대가 딥페이크인지 전혀 구별할 수 없게 될 것으로 전망했다. 최근 초당 60프레임으로 실시간 영상을 생성하는 모델이 등장한 가운데, 탐지 AI를 비롯한 소프트웨어만으로 딥페이크를 걸러내는 방식에도 한계가 올 것으로 예상했다.

 

블라니아 CEO는 지난 5일 공개된 블록체인·디지털자산 전문 투자사 판테라캐피털(Pantera Capital)의 팟캐스트 ‘스테이트풀(Stateful)’에서 이 같은 견해를 내놨다. 판테라캐피털은 2013년 미국 최초의 암호화폐 펀드를 출범시켰으며 월드에도 투자하고 있다.

 

동료 사칭 딥페이크에 15분간 속아

블라니아 CEO는 대담에서 동료를 사칭한 딥페이크와 약 15분간 대화를 나누면서 상대방을 실제 인물로 믿었던 경험을 공개했다. AI가 사람을 정교하게 모방하면서 영상이나 음성만으로 상대방의 신원을 판단하기 어려워지는 상황을 보여주는 사례다.

 

블라니아 CEO는 딥페이크를 탐지하는 것보다 대화나 거래에 참여하는 사람이 실제 인물인지 확인해야 하며, 사전에 인증된 사람임을 확인하는 ‘인간 증명(Proof of Human)’을 온라인 소통과 거래에서 활용해야 한다고 설명했다.

 

줌에서 실제 사람 확인…금융기관 문의 늘어

툴스 포 휴머니티는 줌(Zoom)과 함께 화상회의 상대방이 인증된 실제 사람인지 확인하는 기능을 개발했다. 실시간 영상과 오브(Orb) 인증 당시 확보한 이미지, 휴대전화 재인증 정보를 대조해 동일인 여부를 판별하며, 재인증 주기는 기업이 요구하는 보안 수준에 따라 달라진다.

 

금융권의 관심도 커지고 있다. 블라니아 CEO는 “최근 특히 금융기관들의 문의가 많고, 줌도 대형 은행들이 이 기술을 쓸 수 있도록 우리와 직접 협력하고 있다”며 “3개월 전만 해도 전혀 예상하지 못한 수준의 관심”이라고 밝혔다.

 

AI 에이전트와 실제 이용자 연결

블라니아 CEO는 AI 에이전트가 빠르게 확산되면서 많은 웹사이트가 에이전트의 접근을 막고 있다고 진단했다. 한 사람이 여러 에이전트를 보내 식당 예약이나 콘서트 티켓을 선점한 뒤 되파는 상황처럼 실제 이용자를 구분하지 못하면 서비스와 소비자 모두 피해를 볼 수 있다는 설명이다.

 

반대로 에이전트가 고유한 실제 사람을 대신한다는 사실이 확인되면 플랫폼은 이용자별 예약이나 구매 한도를 정하고 에이전트의 접근을 허용할 수 있다. 블라니아 CEO는 “에이전트가 실제 사람을 대신해 움직인다는 것을 알면 웹사이트는 완전히 다르게 대응할 수 있다”며 월드ID(World ID)를 에이전트와 실제 이용자를 연결하는 신뢰 기반으로 제시했다.

 

광고 시장도 ‘실제 사람’ 확인 수요

블라니아 CEO는 온라인에서 보는 것을 기본적으로 믿던 환경이 진짜임을 증명해야 신뢰할 수 있는 환경으로 바뀌고 있으며, 광고주가 이러한 변화를 앞당길 것으로 내다봤다.

 

블라니아 CEO는 “세계 최대 광고주 중 한 곳이 ‘광고 노출이 실제 사람에게 이뤄졌다는 것을 알 수 있다면 더 많은 비용을 지불하겠다’고 말했다”고 밝혔다.

 

#툴스포휴머니티 #월드 #월드ID #인간증명 #딥페이크 #AI에이전트 #줌 #오브 #생성형AI #디지털ID