내 SNS 사진도 위험? 딥페이크의 진실

내 SNS 사진도 위험? 딥페이크의 진실 양날의 검, 딥페이크 글 : 전신영

카카오채널 등록완료 ?

내역 확인

구글에서 ‘딥페이크’를 검색하면 수십 개의 딥페이크 생성 앱과 홈페이지가 나옵니다. 처음 딥페이크 영상이 나왔을 때는 부자연스러운 게 많아 식별하기 쉬웠지만 최근에는 AI 기술이 발달하면서 영상의 질적 수준이 급속도로 높아지게 되었습니다. 딥페이크 기술은 산업 발전에 있어서 긍정적인 기능도 하지만 현재는 악용하고 있는 사례가 많아 부정적인 시선이 많아졌는데요, 진화하는 딥페이크 기술을 제대로 활용하려면 어떻게 해야 할까요?

딥러닝에서 유래된 딥페이크

딥페이크는 ‘딥러닝’과 ‘페이크’의 합성어로 인공지능을 활용하여 인간의 이미지를 합성하는 기술입니다. 이는 AI의 기반 기술인 ‘딥러닝’에서 유래되었는데, 대량의 데이터를 주었을 때 문제를 해결하는 방법을 스스로 학습하는 딥러닝 알고리즘은 비디오와 디지털 콘텐츠의 얼굴을 지속해서 교체하여 진짜처럼 보이는 가짜 미디어를 만드는 데 사용됩니다.

딥페이크는 어떻게 만들어질까?

딥페이크는 ‘생성적 적대 신경(GAN)망’을 활용해 만들어지게 되는데 두 개의 신경망으로 구성되는 GAN은 이미지를 생성하는 생성자와 해당 이미지가 진짜인지 가짜인지를 판별하는 판별자가 존재합니다. 생성자는 판별자를 속이기 위해 더 정교하게 이미지를 생성하고 판별자는 정교한 이미지가 진짜인지 가짜인지를 판별하며 학습이 이루어집니다. 이 과정을 통해 점점 진짜와 가짜를 구분할 수 없는 경지에 이르게 되는데 이것이 바로 딥페이크 기술의 근본이 되는 것입니다.

원래는 나쁜 기술 아니야

사실 딥페이크는 나쁜 기술이 아닙니다. 영화계나 의료계, 방송계 등 다방면에서 딥페이크 기술을 활용하여 인간 삶의 가치를 높이고 있습니다. 다만 현재는 딥페이크가 많은 분야에서 악용되고 있고 전문가도 우려할 만한 수준에 도달했는데요, 이 때문에 딥페이크라고 하면 부정적인 이미지를 먼저 떠올리고 그로 인한 부작용이 먼저 부각되어 산업적 활용이 축소되고 있습니다.

딥리얼과의 차이점은?

딥리얼(Deep Real)은 실제 존재하는 사람이나 사물의 영상을 실제로 찍은 것처럼 자연스럽게 합성한 것을 의미합니다. 이를 위해서는 해당 사람이나 사물의 영상을 수집하고 그것을 학습시켜 인공지능이 합성하는 기술을 사용하는데요, 가상 걸그룹이나 버츄얼 유튜버들을 예로 들 수 있습니다. 반면 딥페이크는 다른 사람의 얼굴을 사용해 만든 가짜 영상으로 허위 정보나 성적인 수치스러운 내용 등을 유포하는 등 악용하기 위해 사용될 수 있어 반드시 진위 여부를 확인하는 것이 중요합니다.

주 대상은 여자 연예인이나 10대들

딥페이크 기술은 개인의 얼굴이나 목소리를 무단으로 사용하여 사생활을 침해할 수 있는데 주요 타깃은 여자 연예인이나 10대들이 대부분입니다. 이러한 영상들은 피해자에게 심리적, 사회적 고통을 안겨주며 법적 대응도 어려워 사회적으로 문제를 일으키고 있습니다.

어떻게 구분할 수 있을까?

딥페이크 영상과 진짜 영상을 어떻게 구분할 수 있을까요? 영상을 자세히 보면 디테일하게 머라카락, 피부 혹은 얼굴이 선명하게 보이는지, 흐릿하고 어색하지 않은지 살펴볼 수 있습니다. 또 초점이 부자연스러운 경우도 있습니다. 딥페이크 영상은 음성까지 인공적으로 생성할 수 있는데 영상의 음성과 실제 영상의 음성의 일치 여부로도 구분할 수 있습니다.

딥페이크의 순기능은?

현재는 딥페이크의 피해 규모가 더 커서 장점이 가려져 있지만, 딥페이크의 순기능을 보여주는 사례도 많습니다. 예를 들어 고인이 된 인물을 새로이 구현하거나 얼굴 혹은 신체나 음성을 합성함으로써 유족의 그리움을 해소하는 데 일조하기도 합니다. 또 실종된 아동 찾기에도 활용이 되며, 한때 과거 독립운동가들의 사진을 웃는 영상으로 만들어 SNS상에서 화제가 된 적도 있습니다. 그뿐만 아니라 기업의 경우 원하는 이미지의 모델을 딥페이크로 만들어 제품을 홍보할 수 있다는 장점도 있습니다.

딥페이크 사용은 어디까지 허용해야 할까?

현재 일부 국가에서는 딥페이크 기술에 대한 규제를 강화하고 있지만 적용 범위와 강도는 여전히 논쟁의 대상이 되고 있습니다. 딥페이크를 규제하는 법적 틀이 없다면 이 기술은 악의적인 목적에 사용되어 심각한 사회적 문제를 일으킬 수 있습니다. 이에 따라 개인의 권리를 보호하면서도 기술의 발전을 저해하지 않는 균형 잡힌 법적 규제의 필요성이 대두되고 있습니다.

진화하는 딥페이크 방지 기술

딥페이크로 인한 피해자가 급증하면서 딥페이크를 가려내는 탐지 기술도 진화하고 있습니다. 딥페이크 탐지 기술 역시 AI를 사용하는데, 대표적으로 인텔이 개발한 탐지 프로그램인 ‘페이크 캐처’가 있습니다. 이 프로그램은 얼굴의 혈류 변화를 추적해 예상되는 얼굴색과 실제 영상을 비교하며 픽셀 단위로 분석해 96%의 정확도로 영상의 진위 여부를 즉각적으로 판단해냅니다.

딥페이크 예방법은?

딥페이크를 예방하기 위해서는 근본적인 탐지를 위한 AI 기반 기술의 발전이 필요합니다. 비정상적인 움직임이나 화질의 미세한 차이 등을 분석해 해당 영상이 딥페이크인지 여부를 판별할 수 있습니다. 하지만 이는 진위 여부를 파악하는 수단일 뿐 근본적인 해결책이 될 수 없으며 법적 규제를 통해 딥페이크 불법 행위를 사전에 근절하는 방법이 유일합니다. 소셜 미디어 플랫폼 자체적으로도 정책을 강화하여 유포를 막는 것이 중요합니다.