가장 인기 있는 Deepfake 사기를 나열합니다.
“POTUS” Joe Biden의 “특별” 연설부터 시작하겠습니다.
이는 딥페이크(음성) 사기의 모습과 희미하게 유사합니다. 사실 이건 무료였는데 AI 음성 복제 도구그리고 (ChatGPT를 사용하여) 글을 쓰고 붙여넣어 (Biden의) 연설로 변환하는 데 5분 남짓의 시간을 보냈습니다.
그러나 딥 페이크 사기는 이보다 더 정교합니다. 시작하려면 대상(피해자)에 대한 몇 장의 고품질 사진, 비디오 또는 오디오와 강력한 그래픽 카드만 있으면 됩니다.
하지만 우리는 딥페이크 비디오를 만드는 방법을 논의하기 위해 여기 있는 것이 아닙니다. 이는 딥페이크를 발견하는 것에 관한 것도 아닙니다.
대신, 이 기사에서는 딥페이크에 대한 간략한 소개를 공유하고 조심해야 할 몇 가지 사기에 대해 언급합니다.
목차
딥페이크란 무엇입니까?
Deepfake는 Deep(딥 러닝을 생성하는 데 사용됨)과 가짜(출력의 성격을 나타냄)라는 두 가지 용어를 결합합니다.
즉, 고해상도 원본 콘텐츠에서 설득력 있는 이미지, 오디오 또는 비디오 콘텐츠를 생성하기 위해 딥 러닝 알고리즘이 배포됩니다.
이는 고전적인 딥페이크의 예이며 어느 정도 효과적이라고 느껴집니다. 하지만 아직 5년이 지났고 이 기술은 빠른 속도로 발전하고 있습니다.
그리고 이것이 항상 재미를 위해 만들어지거나 누군가의 AI 능력을 보여주기 위해 만들어진 것은 아닙니다. 그러한 심각한 사례 중 하나는 “Mr. 볼로디미르 젤렌스키(Volodymyr Zelensky)’는 그의 군대로부터 현재 진행 중인 항복을 요청받는다. 러시아-우크라이나 전쟁.
불행히도 이것은 그러한 사례가 아닙니다. 에 따라 Regula Forensics 2023 보고서글로벌 조직의 37%가 Deepfake 음성 사기에 직면했고, 29%가 합성 비디오 사기를 경험했으며, 46%가 신원 도용 시도를 겪었습니다.
결과적으로, 이는 단지 오락에 관한 것이 아니며, 딥페이크는 잘못된 정보를 퍼뜨리는 데 널리 사용되며 다른 많은 방법으로 오용되어 피해자에게 위험하고 고통스러울 수 있습니다.
게다가 딥페이크 콘텐츠에 맞서 싸우는 것도 쉽지 않습니다. 이는 AI 기술의 상당한 발전과 이러한 도구가 이제 대중적으로 널리 사용된다는 사실의 부작용입니다.
그러므로 우리가 가지고 있는 가장 크고 가장 일반적인 방어 수단은 인식입니다.
이제 이러한 측면에 대해 연구하고 딥페이크 사기 유형을 살펴보겠습니다.
딥페이크 사기의 유형
콘텐츠와 대상에 따라 딥페이크 사기는 다음과 같은 몇 가지 형태로 나눌 수 있습니다.
- 비디오 명의 도용
- 가짜 인터뷰
- 가짜 뉴스
- 음성 사기
- 꿀 트래핑
- 고객 지원
- 사용후기
추가 섹션에서는 이러한 사항과 일부 수정 사항에 대해 자세히 설명합니다.
비디오 명의 도용
이는 일반적으로 세간의 이목을 끄는 대상과 유사한 메이크업 비디오를 보는 잘 알려진 딥페이크 사기입니다. 전형적인 피해자는 한 국가의 대통령(예: 오바마 딥페이크), 인기 할리우드 스타, 유명 기업의 CEO일 수 있습니다.
딥페이크 비디오를 만드는 도구는 다양한 범위의 감정, 얼굴 각도, 조명 조건, 배경 등을 묘사하는 서로 다른 입력에서도 잘 작동하기 때문에 사진, 연설 등이 공개되기 때문에 쉽게 표적이 될 수 있습니다.
이러한 명의 도용의 의도는 단순한 재미, 협박 시도, 정치적 동기, 명예 훼손 또는 기타 무엇이든 될 수 있습니다.
드문 경우지만 가족 구성원이 금전이나 귀중품 접근을 요구하는 딥페이크 동영상을 볼 수도 있습니다.
가짜 인터뷰
말할 필요도 없이 딥페이크 기술을 사용한 가짜 인터뷰는 완전히 원격으로 재택근무하는 위치를 목표로 합니다. 이러한 사기는 Zoom과 같은 회의 프로그램을 통해 실시간 딥페이크 비디오를 시도합니다.
수준 이하의 후보자를 얻는 것 외에도 대상 회사는 사기꾼에게 자산을 노출시킬 위험이 있습니다. 그리고 회사의 거래에 따르면 이는 회사의 자원에 피해를 줄 수 있을 뿐만 아니라 해당 국가의 이익도 위태롭게 할 수 있습니다.
딥페이크 인터뷰의 더 단순한 목적은 고가치 통화로 돈을 받는 것일 수 있습니다.
반면에, 사기꾼은 무고한 지원자에게 면접 비용을 청구하여 꿈의 직업에 대한 한 번의 큰 성공을 위해 “업계의 거물” 앞에 그들을 데려갈 수 있습니다.
가짜 뉴스
가장 흔한 딥페이크 사기는 가짜 뉴스입니다. 이러한 온라인 허위 정보 캠페인은 폭동이나 전쟁과 같은 까다로운 상황에서 치명적일 수 있는 위험을 초래합니다.
뿐만 아니라, 딥페이크 복제본이 실제로는 하지 않은 발언을 하면 공인을 비방할 수 있습니다.
선전을 돕는 것은 이러한 가짜 뉴스가 산불처럼 퍼지도록 돕는 소셜 미디어와 YouTube와 같은 스트리밍 플랫폼입니다. 마지막으로 일반 사용자가 자신이 보는 모든 것의 진위 여부에 대해 혼란스러워하는 분위기를 조성합니다.
음성 사기
딥페이크 비디오 및 이미지와 유사하게, 합성 음성은 이러한 기술 기반 속임수 목록에 추가되는 또 다른 것입니다.
그러한 사례 중 하나인 애리조나에 거주하는 제니퍼 데스테파노(Jennifer DeStefano)는 15세 딸이 전화로 흐느끼는 소리를 들었고, 남성 목소리는 석방을 위해 100만 달러를 요구했습니다. 어머니는 자신의 아이가 위험에 처해 있다고 확신했습니다. 그녀가 지불금에 대해 생각하기도 전에 친구는 남편에게 전화를 걸어 딸이 안전하다는 것을 확인했습니다.
DeStefano 씨는 나중에 그 시련을 설명하면서 그녀는 소리뿐만 아니라 딸이 평소 말하는 방식과 정확히 일치하는 전체적인 음색 전달을 통해 그 목소리를 완전히 믿었다고 말했습니다.
이것은 음성 복제이며 소스의 원시 오디오 샘플을 사용하여 수행됩니다.
허니트랩
전통적인 허니트랩 정의에 따르면, 민감한 정보를 강탈하기 위해 주체를 관계로 끌어들이는 곳입니다. 허니트랩은 일반적으로 군대에서 일하는 사람, 고위 정부 관료, 정치인에게 서비스를 제공하는 사람 등과 같이 세간의 이목을 끄는 조직을 목표로 합니다.
딥페이크 기술을 사용하면 이러한 허니트랩은 대부분 온라인에서 이루어지며 규모에 관계없이 누구나 수행할 수 있습니다. 이는 피해자가 소셜 미디어를 통해 매력적인 파트너로부터 관계 요청을 받을 수 있음을 의미하며, 이는 금전적 또는 정보 강탈이라는 최종 목표로 빠르게 친해지기도 합니다.
이러한 딥페이크 사기는 일반적으로 탐나는 작전으로, 최종 함정을 놓기 전에 정당한 절차를 실행합니다.
고객 지원
기술 지원 사기는 매우 흔합니다. 일부 “Microsoft” 직원이 컴퓨터의 “심각한” 문제를 해결하기 위해 비용을 요구하는 사기에 대해 들어보셨을 것입니다.
딥페이크 이전에는 악센트나 특이한 말투로 악의적인 시도를 했다는 것을 알 수 있었습니다. 그러나 이제 사기꾼들은 무고한 사용자를 쉽게 속여 실제로 합법적인 회사 대표와 대화하고 있다고 생각하게 만드는 AI 초능력을 갖게 되었습니다.
사용후기
우리 중 많은 사람들이 제품을 구매하기 전에 고객 리뷰를 읽습니다. 마찬가지로, 사용후기 영상을 확인하는 것도 지금까지 도움이 된 또 다른 쇼핑 습관입니다.
이러한 유형의 딥페이크 사기는 여러 사람이 불량 제품을 보증하고 구매 결정을 좌우하며 고객의 돈과 시간을 낭비하게 만듭니다.
더 많은 것이 있습니다!
글 말고 인터넷에서 뭘 봐요?
나는 비디오, 이미지, 오디오를 말하고 싶습니다. 이 모든 것은 이 AI 기술로 조작될 수 있으며, 머지않은 미래에 인터넷은 사기의 온상이 될 것입니다. 또한 딥페이크 생성이 점점 쉬워지고 있어 일반 인터넷 사용자가 “올바른” 정보를 유지하는 것이 어려워지고 있습니다.
광범위한 기술 오용을 막을 수 있는 방법이 거의 없는 이러한 상황에서 우리는 적어도 최신 정보를 얻으려고 노력해야 합니다.
추신: 재미있는 응용 프로그램에 관해서는 소셜 미디어를 폭풍으로 몰아갈 최고의 밈을 만들 수 있는 딥페이크 앱이 있습니다.