주의해야 할 7가지 일반적인 딥 페이크 사기
가장 흔한 딥페이크 사기 유형
조 바이든 미국 대통령의 "특별" 연설을 예시로 들어 보겠습니다.
이것은 딥페이크 음성 사기의 한 모습과 매우 흡사합니다. 사실, 인공지능 음성 복제 도구를 이용하여 (ChatGPT로 작성한) 텍스트를 복사 및 붙여넣기하여 바이든 대통령의 연설로 변환하는 데 5분 정도밖에 걸리지 않았습니다.
하지만 실제 딥페이크 사기는 이보다 훨씬 더 정교합니다. 시작하려면 대상의 고화질 사진, 비디오 또는 오디오 자료와 강력한 그래픽 카드만 있으면 됩니다.
그러나 우리는 딥페이크 비디오 제작 방법에 대해 논의하려는 것이 아닙니다. 또한 딥페이크를 식별하는 방법이 주제도 아닙니다.
이 글에서는 딥페이크에 대한 간략한 소개와 함께 우리가 주의해야 할 몇 가지 사기 유형에 대해 자세히 알아보도록 하겠습니다.
딥페이크란 무엇인가?
딥페이크(Deepfake)는 '딥 러닝'을 의미하는 "Deep"과 '가짜'를 의미하는 "fake"의 합성어입니다.
즉, 고해상도의 원본 콘텐츠를 바탕으로 설득력 있는 이미지, 오디오 또는 비디오 콘텐츠를 생성하기 위해 딥 러닝 알고리즘을 활용하는 기술입니다.
위의 이미지는 딥페이크의 한 예시로, 꽤 그럴듯해 보입니다. 하지만 이 기술은 지난 5년 동안 매우 빠르게 발전해 왔습니다.
그리고 딥페이크는 단순히 재미를 위해서나 인공지능 능력을 과시하기 위해 만들어지는 것만은 아닙니다. 심각한 사례 중 하나로, 볼로디미르 젤렌스키 우크라이나 대통령이 자신의 군대에 항복을 요청하는 딥페이크 영상이 있습니다. 이것은 러시아-우크라이나 전쟁 중에 발생한 일입니다.
불행히도 이것은 유일한 사례가 아닙니다. Regula Forensics 2023 보고서에 따르면, 전 세계 조직의 37%가 딥페이크 음성 사기를 겪었고, 29%는 합성 비디오 사기를 경험했으며, 46%는 신원 도용 시도를 겪었다고 합니다.
결론적으로, 딥페이크는 단순한 오락 거리가 아니라 허위 정보를 퍼뜨리는 데 널리 사용되며, 피해자에게 위험하고 고통스러운 결과를 초래할 수 있습니다.
또한, 딥페이크 콘텐츠에 대응하는 것은 쉽지 않습니다. 이는 인공지능 기술의 상당한 발전과 이러한 도구들이 대중화되었기 때문입니다.
따라서, 우리가 가진 가장 크고 중요한 방어 수단은 바로 '인식'입니다.
이제 딥페이크 사기의 유형을 자세히 살펴보도록 하겠습니다.
딥페이크 사기의 다양한 유형
콘텐츠와 대상에 따라 딥페이크 사기는 다음과 같은 여러 가지 형태로 나타날 수 있습니다.
- 비디오 사칭
- 가짜 인터뷰
- 가짜 뉴스
- 음성 사기
- 허니트랩
- 고객 지원 사기
- 사용 후기 조작
다음 섹션에서 이러한 유형의 사기에 대해 더 자세히 살펴보겠습니다.
비디오 사칭
비디오 사칭은 유명 인사와 유사하게 꾸며진 딥페이크 비디오를 통해 이루어지는 잘 알려진 사기입니다. 전형적인 피해자는 국가 원수(예: 오바마 딥페이크), 유명 할리우드 스타, 대기업 CEO 등이 될 수 있습니다.
딥페이크 비디오를 만드는 도구는 다양한 감정, 얼굴 각도, 조명 조건, 배경 등을 묘사할 수 있습니다. 따라서, 사진, 연설 등이 공개적으로 노출된 사람들은 쉽게 표적이 될 수 있습니다.
이러한 사칭의 동기는 단순한 재미, 협박, 정치적 목적, 명예훼손 등 다양할 수 있습니다.
드물지만, 가족 구성원이 돈이나 귀중품을 요구하는 딥페이크 비디오를 목격할 수도 있습니다.
가짜 인터뷰
딥페이크 기술을 활용한 가짜 인터뷰는 주로 원격 근무를 목표로 합니다. 사기꾼은 Zoom과 같은 화상 회의 프로그램을 통해 실시간 딥페이크 비디오를 시도합니다.
이러한 사기는 기업에 부적합한 지원자를 채용하게 할 뿐만 아니라, 회사 자산을 사기꾼에게 노출시킬 위험을 초래합니다. 또한, 회사의 거래에 따라서는 회사 자원뿐만 아니라 국가 이익에도 해를 끼칠 수 있습니다.
딥페이크 인터뷰의 단순한 목적은 고액의 돈을 갈취하는 것일 수도 있습니다.
또 다른 예로, 사기꾼은 무고한 지원자에게 면접 비용을 청구하여 소위 "업계 거물" 앞에서 면접을 보게 해주겠다고 약속하기도 합니다.
가짜 뉴스
가짜 뉴스는 가장 흔한 딥페이크 사기 중 하나입니다. 이러한 허위 정보 캠페인은 폭동이나 전쟁과 같은 위급한 상황에서 치명적인 결과를 초래할 수 있습니다.
또한, 딥페이크로 복제된 인물이 실제로는 하지 않은 발언을 하면 유명인의 명예를 훼손할 수 있습니다.
소셜 미디어와 유튜브 같은 스트리밍 플랫폼은 이러한 가짜 뉴스가 급속도로 확산되는 것을 돕습니다. 결국, 일반 사용자들은 자신들이 보는 모든 정보의 진실성에 대해 혼란스러워하게 됩니다.
음성 사기
딥페이크 비디오와 이미지처럼, 합성된 음성 또한 기술을 이용한 사기의 한 형태입니다.
애리조나에 거주하는 제니퍼 데스테파노는 15세 딸이 전화로 흐느끼는 소리를 들었고, 남성의 목소리는 석방을 위해 100만 달러를 요구했습니다. 그녀는 딸이 위험에 처했다고 확신했습니다. 그러나 그녀가 돈을 지불하기도 전에, 친구가 남편에게 전화를 걸어 딸이 안전하다는 것을 확인했습니다.
데스테파노는 나중에 당시 상황을 설명하면서, 소리뿐만 아니라 딸이 평소에 말하는 방식과 정확히 일치하는 음색 전달 때문에 그 목소리를 완전히 믿었다고 말했습니다.
이것은 음성 복제이며, 소스 오디오 샘플을 사용하여 만들어집니다.
허니트랩
전통적인 허니트랩은 민감한 정보를 탈취하기 위해 누군가를 관계로 끌어들이는 수법입니다. 허니트랩은 주로 군대, 고위 정부 관료, 정치인 등과 같이 영향력 있는 조직을 대상으로 합니다.
딥페이크 기술을 이용한 허니트랩은 대부분 온라인에서 발생하며, 누구나 쉽게 시도할 수 있습니다. 피해자는 소셜 미디어에서 매력적인 이성으로부터 관계 요청을 받을 수 있으며, 이 관계는 금전적 또는 정보 탈취를 목적으로 빠르게 발전하기도 합니다.
이러한 딥페이크 사기는 계획적으로 실행되며, 최종 함정을 설치하기 전에 정당한 절차를 거치기도 합니다.
고객 지원 사기
기술 지원 사기는 매우 흔합니다. 일부 "Microsoft" 직원이 컴퓨터의 "심각한" 문제를 해결하기 위해 비용을 요구하는 사기에 대해 들어보셨을 것입니다.
과거에는 사기꾼들의 어설픈 억양이나 특이한 말투 때문에 사기임을 쉽게 알아차릴 수 있었지만, 이제 사기꾼들은 인공지능을 이용하여 피해자를 속여 마치 합법적인 회사 대표와 대화하는 것처럼 느끼게 할 수 있습니다.
사용 후기 조작
많은 사람들이 제품을 구매하기 전에 고객 리뷰를 읽습니다. 마찬가지로, 사용 후기 영상은 도움이 되는 쇼핑 습관 중 하나입니다.
이러한 유형의 딥페이크 사기는 여러 사람이 불량 제품을 보증하는 영상을 만들어 구매 결정을 조작하고, 고객의 돈과 시간을 낭비하게 만듭니다.
더 많은 사기 유형들
인터넷에서 텍스트 외에 무엇을 보고 계십니까?
비디오, 이미지, 오디오 등을 예로 들 수 있습니다. 이 모든 것은 인공지능 기술로 조작될 수 있으며, 가까운 미래에 인터넷은 사기꾼들의 온상이 될 가능성이 높습니다. 또한, 딥페이크 생성 기술이 점점 쉬워지고 있어 일반 사용자들이 '올바른' 정보를 유지하기가 점점 어려워지고 있습니다.
이러한 기술 오용을 막을 수 있는 방법이 거의 없는 상황에서, 우리는 적어도 최신 정보에 귀를 기울이려고 노력해야 합니다.
추신: 딥페이크 앱을 사용하면 소셜 미디어를 강타할 멋진 밈을 만들 수도 있습니다.