[정보통신신문=박남수기자]

라바웨이브(대표이사 김준엽)는 KAIST 사이버보안연구센터(센터장 차상길 교수)와 공동으로 혁신적인 딥페이크 사전예방 기술을 개발했다고 OO일 공개했다. 

이 기술은 기존의 사후 탐지 방식을 넘어 딥페이크 생성 자체를 원천적으로 차단하는 선제적 방어 솔루션으로 글로벌 스마트폰 제조사, 소셜미디어 플랫폼 및 클라우드 서비스 기업 뿐만 아니라 디지털 안전을 책임지는 정부 및 공공기관에서도 큰 관심을 받을 것으로 예상된다.

최근 AI 기술의 급속한 발전과 함께 딥페이크 범죄가 전 세계적으로 급증하면서 일반인부터 연예인, 정치인 등 불특정 다수가 피해를 입고 있는데, 한 번 제작되어 유포된 딥페이크 콘텐츠는 완전히 삭제하기가 사실상 불가능하고 피해자의 고통 역시 회복하기 어렵거나 상당한 기간이 소요될 수 밖에 없는 것이 현실이다.

이러한 문제의 근본적 해결을 위해 이번에 개발된 기술은 생성형 AI 기술에 대한 적대적 공격(Adversarial Attack) 기법을 활용해 단순히 딥페이크를 찾아내는 것이 아니라 애초에 딥페이크 결과물이 생성되지 못하도록 원본 이미지를 보호하는 방식을 채택하고 있어 디지털 콘텐츠 보안 분야에서 새로운 전환점을 가져올 것으로 기대된다.

이번 딥페이크 차단 기술은 사람의 눈으로는 인지할 수 없는 수준의 미세한 노이즈를 원본 이미지에 추가해 일반 사용자가 사진을 볼 때는 전혀 차이를 느낄 수 없지만 딥페이크를 생성하는  AI 모델에게는 치명적인 혼란 요소로 작용하도록 설계되었다.

미세 노이즈로 보호된 이미지를 생성형 AI가 학습하거나 처리할 때 심각한 오류를 발생시켜 정상적인 결과물 대신 심각하게 왜곡되거나 콘텐츠로서의 기능을 완전히 상실한 결과물을 생성하기 때문에 딥페이크 범죄를 원천적으로 차단하게 된다는 것이다.

이번 기술은 기존 딥페이크 대응 방식과 근본적으로 다르다는 점에 주목한다. 

현재의 딥페이크 탐지 기술이나 디지털 워터마킹 삽입은 이미 생성된 콘텐츠를 찾아내거나 추적하는 수동적 방어(Passive Defense)인 반면 이번 기술은 딥페이크 생성 자체를 원천적으로 차단하는 선제적 방어(Proactive Defense)로서 피해자 보호 측면에서 훨씬 효과적일 수 밖에 없다.

또한 다양한 어플리케이션, 플랫폼 및 디바이스에 즉시 적용이 가능한 범용성을 갖추었다. 

사진촬영에 이용하는 스마트폰 카메라앱이나 그 이미지를 저장하는 클라우드 서비스 및 일상적으로 사진이나 이미지를 업로드하는 소셜미디어 등에 이번 기술을 적용해 보호 처리된 이미지를 누군가 무단으로 다운로드 받더라도 딥페이크 생성물 초기 단계부터 예방하거나 차단할 수 있기 때문이다.

김준엽 라바웨이브 대표는 "딥페이크 범죄는 전 세계적인 사회 문제로서 기술적 대응 없이 근본적인 예방과 문제해결이 불가능하다"며 "글로벌 플랫폼과 디바이스 제조사들과의 협력을 통해 더 안전한 디지털 환경을 만드는 데 기여할 것으로 기대한다"고 밝혔다.

KAIST 사이버보안연구센터(센터장 차상길 교수)는 디도스 사태를 계기로 2010년 설립되어 국가 사이버안보를 위한 전략적 R&D를 수행하는 연구기관으로, AI 기반 딥페이크 분석 및 대규모 사이버 범죄 탐지 기술을 개발하는 우리나라 보안 분야의 대표적 연구기관이다.

라바웨이브는 2015년부터 악성앱 분석과 C&C 서버 차단, 불법 영상물 등 유포방지 및 AI 기반 모니터링 시스템 등 관련 최다 특허를 보유하고 이를 기반으로 보이스피싱, 몸캠피싱, 불법 영상물 또는 이미지 모니터링 등 날로 진화하는 디지털 범죄 대응 전문기업이다.