우리는 비디오 및 오디오 녹음의 내용을 신뢰하는 경향이 있습니다. 그러나 AI를 사용하면 모든 사람의 얼굴이나 목소리를 아주 정확하게 재현할 수 있습니다. 제품은 밈, 잘못된 정보 또는 포르노에 사용될 수 있는 사칭 딥페이크입니다.
한 번 보면 니콜라스 케이지 딥페이크 또는 조던 필 딥페이크 PSA 우리가 이상한 신기술을 다루고 있음을 분명히 합니다. 이러한 예는 상대적으로 무해하지만 미래에 대한 질문을 제기합니다. 비디오와 오디오를 믿을 수 있습니까? 사람들이 자신의 행동에 대해 책임을 지도록 할 수 있습니까? 우리는 딥페이크에 대한 준비가 되었습니까?
Deepfakes는 새롭고, 만들기 쉽고 빠르게 성장하고 있습니다.
Deepfake 기술은 불과 몇 년밖에 되지 않았지만 이미 매혹적이고 불안한 무언가로 폭발했습니다. 2017년 레딧 스레드에서 만들어낸 딥페이크(deepfake)라는 용어는 인공 지능을 통해 인간의 외모나 목소리를 재현하는 것을 설명하는 데 사용됩니다. 놀랍게도, 거의 모든 사람이 형편없는 PC, 약간의 소프트웨어, 몇 시간의 작업으로 딥페이크를 만들 수 있습니다.
믿거나 말거나 왼쪽 이미지는 딥페이크입니다.
모든 새로운 기술과 마찬가지로 딥페이크를 둘러싼 혼란이 있습니다. “술 취한 펠로시” 비디오는 이러한 혼란의 좋은 예입니다. Deepfakes는 AI에 의해 구성되며 사람을 가장하기 위해 만들어집니다. 딥페이크라고 불렸던 ‘덩크 펠로시’ 영상은 사실 낸시 펠로시의 영상일 뿐이다. 감속 및 피치 수정 흐릿한 음성 효과를 추가합니다.
이것은 또한 deepfakery를 Star Wars: Rogue One의 CGI Carrie Fisher와 다른 점으로 만듭니다. Disney가 Carrie Fisher의 얼굴을 연구하고 손으로 다시 만드는 데 많은 돈을 썼지만 일부 딥페이크 소프트웨어를 사용하는 얼간이는 같은 일을 무료로 하다 하루에. AI는 작업을 매우 간단하고 저렴하며 설득력 있게 만듭니다.
딥페이크 만드는 방법
교실에 있는 학생처럼 AI는 의도한 작업을 수행하는 방법을 “학습”해야 합니다. 일반적으로 머신 러닝 또는 딥 러닝이라고 하는 무차별 대입 시행착오 과정을 통해 이를 수행합니다. 예를 들어, Super Mario Bros의 첫 번째 레벨을 완료하도록 설계된 AI는 가장 좋은 승리 방법을 찾을 때까지 게임을 계속해서 플레이합니다. AI를 설계하는 사람은 작업을 시작하기 위해 몇 가지 데이터를 제공해야 하며, 진행 중에 문제가 발생할 경우 몇 가지 “규칙”을 제공해야 합니다. 그 외에는 AI가 모든 작업을 수행합니다.
딥페이크 안면 레크리에이션도 마찬가지입니다. 그러나 물론 얼굴을 다시 만드는 것은 비디오 게임을 이기는 것과 같지 않습니다. Wendy Williams 쇼를 주최하는 Nicholas Cage의 딥페이크를 만들려면 다음이 필요합니다.
목적지 비디오: 현재로서는 deepfakes가 선명하고 깨끗한 목적지 비디오에서 가장 잘 작동합니다. 그렇기 때문에 가장 설득력 있는 딥페이크 중 일부는 정치인에 대한 것입니다. 그들은 일관된 조명 아래에서 연단에 가만히 서 있는 경향이 있습니다. 그래서 우리는 웬디가 가만히 앉아서 이야기하는 영상만 있으면 됩니다.
두 개의 데이터 세트: 입과 머리 움직임이 정확해 보이려면 Wendy Williams 얼굴 데이터 세트와 Nicholas Cage 얼굴 데이터 세트가 필요합니다. Wendy가 오른쪽을 바라보면 오른쪽을 바라보는 Nicholas Cage의 사진이 필요합니다. Wendy가 입을 열면 Cage가 입을 벌리는 사진이 필요합니다.
그런 다음 AI가 작업을 수행하도록 합니다. 딥페이크를 계속해서 만들려고 시도하며, 그 과정에서 실수를 통해 학습합니다. 간단하죠? 글쎄, Wendy William’s에 Cage의 얼굴의 비디오