디지털 허구: 딥페이크 식별법
딥페이크를 감지하는 것은 결코 쉬운 일이 아니며, 그 정교함은 날이 갈수록 높아지고 있습니다.
기술은 항상 양면성을 지니고 있습니다. 유익한 측면과 더불어 악용될 가능성도 내포하고 있습니다.
이러한 점은 특히 인공지능(AI) 기술과 관련하여 더욱 현실적으로 다가옵니다.
딥페이크는 AI 기술을 활용하여 영상, 이미지, 음성을 놀랍도록 사실적으로 조작하는 기술로, 그 진위를 구별하기 위해서는 고도의 주의와 기술이 요구됩니다.
딥페이크란 무엇인가?
간단히 말해, 딥페이크는 컴퓨터나 스마트폰 앱을 사용하여 만들어진 조작된 미디어입니다. 이러한 애플리케이션은 특정한 알고리즘을 사용하여 원본의 일부를 다른 것으로 대체합니다.
이러한 조작의 목표는 실제처럼 보이게 만드는 것입니다.
주된 목적은 이러한 가짜 미디어를 통해 사람들을 속이거나 즐거움을 주는 데 있습니다.
과거에는 매우 설득력 있는 영상을 만드는 것이 매우 어려웠지만, 현재는 고성능 그래픽 카드와 약간의 노력만 있다면 가능해졌습니다.
하지만 음성 복제 및 표현 등의 요소를 모두 완벽하게 조작하려면 더 많은 노력이 필요합니다.
그럼에도 불구하고 알고리즘이 저사양 하드웨어에서도 효율적으로 작동하고 고성능 컴퓨팅이 도입됨에 따라 딥페이크 제작은 점차 쉬워지고 있습니다.
결론적으로, 딥페이크는 앞으로 더욱 흔하게 볼 수 있을 것입니다.
따라서 우리는 잠재적인 위험한 오용 가능성에 대비하여 딥페이크와 진실을 구별하기 위해 항상 경계해야 합니다.
딥페이크를 어떻게 식별할 수 있을까?
모든 딥페이크가 동일한 수준으로 제작되는 것은 아닙니다. 따라서 모든 기술이 모든 상황에서 유효한 것은 아닙니다. 일부는 기계로 제작되었음을 명확하게 보여주는 반면, 다른 일부는 주의 깊은 관찰이나 추가적인 AI 도구를 활용해야만 식별할 수 있습니다.
피부톤
가장 먼저 주목해야 할 부분은 피부톤입니다. 조작된 부분(주로 얼굴)은 다른 신체 부위와 색상 차이를 보이며 일치하지 않을 수 있습니다.
위 이미지의 왼쪽은 볼로디미르 젤렌스키 우크라이나 대통령이 군대와 국민에게 러시아에 항복할 것을 요구하는 가짜 영상에서 가져온 것입니다.
이처럼 조잡하게 복사 붙여넣기한 수준의 영상은 금방 딥페이크로 드러났습니다.
표정
특히 아마추어가 딥페이크 전문가 행세를 할 때 가장 눈에 띄는 부분입니다. 조악한 딥페이크는 입술의 부자연스러운 움직임과 끊김으로 인해 가짜임을 쉽게 식별할 수 있습니다.
일부 알고리즘은 호흡 일시 정지를 반영하기도 하지만, 여전히 유사한 패턴을 반복하여 부자연스럽게 보입니다. 머리 움직임 또한 마찬가지입니다.
눈 깜빡임 또한 딥페이크를 식별하는 중요한 단서가 될 수 있습니다. 딥페이크의 깜빡임은 주기를 가지고 있으며, 실제 사람의 영상과 비교했을 때 자연스럽지 않습니다.
안구 움직임 또한 딥페이크를 감지하는 데 사용될 수 있습니다. 감정이나 주의 산만함이 없는 AI는 실제 사람보다 훨씬 더 집중하는 것처럼 보입니다.
결론적으로, 딥페이크는 완벽하게 제작되지 않는 한 쉽게 발견할 수 있습니다.
픽셀 오류
그렇다면 어떻게 해당 영상이 실제 모건 프리먼이 아닌지 알 수 있을까요?
위 영상에서 가장 중요한 점은 고화질이라는 것입니다. 가능한 최고 해상도(4K)로 전환하여 픽셀 오류를 발견할 수 있는 기회를 잡으십시오.
화면이 클수록 좋습니다. 아니면 스크린샷을 찍고 확대하여 컴퓨터로 작업한 흔적이 있는지 확인할 수 있습니다.
조작된 피부가 보이십니까? 아무리 정교하더라도 알고리즘이 실패하는 부분이 있습니다.
피부 질감은 불균일하며, 얼굴 및 머리카락 복제 또한 부자연스럽고 붙어있는 것처럼 보입니다.
이러한 사항을 통해 다음을 더 잘 분석할 수 있습니다.
수염, 턱수염, 헤어라인 주변에서 주로 인공 피부를 명확하게 구별할 수 있습니다.
턱, 눈썹, 얼굴(실제는 더 가늘다), 코 등을 실제(오른쪽)와 비교하면 차이점이 명확하게 드러납니다.
즉, 진품과 나란히 놓고 보면 가짜를 쉽게 구별할 수 있습니다.
세부 사항
우리가 말할 때는 많은 요소가 동시에 작용합니다. 모든 사람은 입술, 혀, 턱, 뺨 등을 움직이는 고유한 패턴을 가지고 있습니다.
게다가 딥페이크 기술은 아직 말하는 동안 입 내부 시각 효과를 완벽하게 구현하지 못하고 있습니다. 예를 들어, 오바마 딥페이크에서 아래쪽(하악) 치아를 개별적으로 구분하기 어렵습니다.
우리가 보는 것은 하단의 흰색 줄이며, 혀 움직임의 흔적은 전혀 없습니다.
실제 오바마 영상을 보면 남자가 딥페이크보다 훨씬 더 표정이 풍부하고 얼굴 움직임이 훨씬 더 많다는 것을 알 수 있습니다.
또한, 영상 자체가 선명하지 않다는 것을 알 수 있습니다. 이는 품질이 매우 낮거나 현실을 숨기기 위해 압축되었거나, 컴퓨팅 능력의 제약으로 인해 압축되었을 가능성이 있습니다.
화면 전환
딥페이크 생성의 한 가지 제약은 프레임별로 생성된다는 점입니다. 조작을 완벽하게 유지하려면 각 프레임을 확인하여 완벽하게 마스킹해야 합니다.
이 때문에 대부분의 설득력 있는 딥페이크 영상은 얼굴 움직임이 극히 제한적입니다. 측면에서 전면으로 전환하는 과정에서 조작이 드러날 수 있기 때문에 주로 정면 모습만 보여줍니다.
톰 크루즈 딥페이크의 스틸컷을 확인해 보세요.
영상의 속도를 늦추고 35~40초부터 주의 깊게 관찰하면 측면에서 정면으로 전환되는 부분에서 흐릿한 부분이 나타납니다.
이는 틀림없이 숨기기 가장 어려운 부분이며, 딥페이크를 발견하는 데 가장 좋은 지점이기도 합니다.
다음은 딥페이크를 발견하고 잘못된 정보 확산을 방지하는 데 도움이 되는 몇 가지 방법입니다. 요약:
1. 피부톤의 변화를 확인하십시오. 2. 입술이 부자연스럽게 움직이는지, 로봇처럼 깜박거리지 않는지 확인하십시오. 3. 피부 질감, 머리카락 복제 등이 실제처럼 보이는지 확대하여 확인하십시오. 4. 실제 영상과 비교하여 표정과 말투를 확인하십시오. 5. 고화질 버전이 있는지 확인하십시오. 6. 가짜인지 빠르게 검색해 보십시오. 7. 전체적인 얼굴 크기를 실제와 비교해 보십시오. 8. 잘못된 전환을 포착하기 위해 영상 속도를 늦추십시오. 9. 입 내부가 사실적이고 자세하게 보이는지 확인하십시오. 10. 의심스러우면 친구나 가족과 공유하고 의견을 물어보십시오. 11. 딥페이크 식별 기본 원칙
딥페이크는 완벽하지 않다!
지금까지는 주로 딥페이크 영상에 대해 이야기했지만, AI가 만든 오디오 역시 비슷한 한계를 가지고 있습니다. 그리고 기술이 계속 발전하고 있지만, 기계는 항상 실제 사람을 따라잡을 수 없을 것입니다.
하지만 실질적인 경험 없이는 학습이 완성되지 않습니다. 이러한 이유로 우리는 딥페이크의 개념과 생성 방법에 대한 가이드를 만들었습니다.