İnternetin tüm korkunç güçleri arasında, şüphelenmeyi kandırma yeteneği en korkutucu olabilir. Clickbait, photoshopped resimler ve yanlış haberler, en kötü suçlulardan bazılarıdır, ancak son yıllarda, deepfake yapay zeka (AI) olarak bilinen potansiyel olarak tehlikeli yeni bir aracın yükselişini gördü.
Deepfake terimi, orijinal, değiştirilmemiş içerikten ayırt edilmesi zor olan sahte, bilgisayar tarafından oluşturulan video ve ses anlamına gelir. Photoshop'un görüntüler için ne olduğunu filme almaktır.
Deepfake AI nasıl çalışır?
Araç, 2014 yılında bir doktora olan Ian Goodfellow tarafından icat edilen bir teknik olan üretken düşman ağları (GAN'lar) olarak bilinir. Popular Mechanics, şimdi Apple'da çalışan bir öğrencinin
GAN algoritması iki ayrı yapay zeka içeriyor - biri içerik üreten - diyelim ki insanların fotoğrafları - ve Vox'a göre görüntülerin gerçek veya sahte olup olmadığını tahmin etmeye çalışan bir rakip. Üreten yapay zeka, insanların nasıl göründüğü hakkında neredeyse hiçbir fikir olmadan başlar, yani ortağı gerçek fotoğrafları sahte olanlardan kolayca ayırt edebilir. Ancak zamanla, her bir AI türü giderek daha iyi hale gelir ve sonuçta yapay zeka, mükemmel bir şekilde hayat gibi görünen içerik üretmeye başlar.
Deepfake örnekleri
GAN'lar etkileyici araçlardır ve her zaman kötü amaçlı amaçlar için kullanılmazlar. 2018'de, 17. yüzyıl Rembrandt van Rijn gibi Hollandalı "Eski Usta" tarzındaki sanatçıları taklit eden GAN tarafından oluşturulan bir tablo, Christie'nin müzayede evinde inanılmaz bir 432.500 dolar karşılığında satıldı.
Aynı yıl, deepfakes, özellikle 'deepfakes' adıyla giden bir Reddit kullanıcısı aracılığıyla yaygın bir öneme sahipti. GAN tekniği, Gal Gadot, Maisie Williams ve Taylor Swift de dahil olmak üzere ünlü ünlülerin yüzlerini pornografik film oyuncularının bedenlerine yerleştirmek için sıklıkla kullanılıyordu.
Diğer GAN'lar bir kişinin tek bir görüntüsünü almayı ve o kişinin oldukça gerçekçi alternatif fotoğraflarını veya videolarını oluşturmayı öğrendi. 2019'da bir derin ayna, Mona Lisa'nın farklı pozisyonlarda konuştuğu, hareket ettiği ve gülümsediği ürpertici ama gerçekçi filmleri üretebilir.
Deepfakes ses içeriğini de değiştirebilir. The Verge tarafından bu yılın başlarında bildirildiği gibi, teknik yeni sözcükleri konuşan bir kişinin videosuna ekleyebilir ve böylece hiç istemedikleri bir şey söylediklerini ortaya çıkarabilir.
Yeni aracın yerleştirilme kolaylığı potansiyel olarak korkutucu sonuçlara sahiptir. Herhangi biri, herhangi bir yer, bir ünlüyü veya politikacıyı hiç söylemedikleri sözleri konuşan, hareket ettiren ve söyleyen gerçekçi filmler yapabilirse, izleyiciler internette daha dikkatli olmak zorunda kalırlar. Örnek olarak, yapımcı Jordan Peele tarafından deepfake kullanılarak oluşturulan Buzzfeed'in bu videosunda Başkan Obama'nın "şımarık" bir distopik geleceğe karşı uyarısını dinlemeniz yeterli.
