Önemli Bilgiler
- Deepfaks yapmak daha kolay hale geldikçe, onları tespit etmenin yeni ve gelişmiş yolları bir öncelik haline geldi.
- Facebook'un derin sahte tespit teknolojisi, bir videonun derin sahte olup olmadığını ortaya çıkarmak için ters makine öğrenimini kullanır.
- Uzmanlar, yöntem bağlamsal verilere dayandığından, bir videonun gerçek olup olmadığını görmenin en iyi yolunun blockchain teknolojisi olduğunu söylüyor.
Facebook, derin sahtekarlıklarla mücadele etmek için makine öğrenimi modeline güveniyor ancak uzmanlar, makine öğreniminin tek başına bizi derin sahtekarlıklar tarafından kandırılmaktan kurtaramayacağını söylüyor.
Facebook, Microsoft ve Google gibi şirketlerin tümü, derin sahtekarlıkların web ve sosyal ağlara yayılmasını önlemek için çalışıyor. Yöntemler farklılık gösterse de, bu sahte videoları tespit etmek için potansiyel olarak kusursuz bir yöntem var: blok zincirler.
“[Blockchains], görebildiğim en iyi doğrulama şekliyle deepfake'i doğrulamanız için size çok fazla potansiyel sağlıyor,” Stephen Wolfram, Wolfram Research'ün kurucusu ve CEO'su ve A New Kind of Science, Lifewire'a telefonda anlattı.
Facebook'un Derin Sahte Tespit Teknolojisi
Deepfake teknolojisi son birkaç yılda hızla büyüdü. Yanıltıcı videolar, birinin yüzünü başka bir kişinin vücuduna yerleştirmek, arka plan koşullarını değiştirmek, sahte dudak senkronizasyonu ve daha fazlasını yapmak için makine öğrenimi yöntemlerini kullanır. Zararsız parodilerden ünlülere veya tanınmış kişilere söylemedikleri bir şeyi söylemeye veya yaptırmaya kadar uzanır.
Uzmanlar, teknolojinin hızla ilerlediğini ve derin sahtekarlıkların, teknoloji daha yaygın olarak kullanılabilir ve daha yenilikçi hale geldikçe daha inandırıcı (ve oluşturması daha kolay) hale geleceğini söylüyor.
Facebook kısa süre önce Michigan Eyalet Üniversitesi ile ortaklaşa derin sahte tespit teknolojisi hakkında daha fazla bilgi verdi. Sosyal ağ, yapay zeka tarafından oluşturulan tek bir görüntüden, onu üretmek için kullanılan üretken modele kadar tersine mühendisliğe dayandığını söylüyor.
Facebook ile çalışan araştırmacı bilim adamları, yöntemin derin sahtekarlık oluşturmak için kullanılan AI modelinin arkasındaki benzersiz kalıpları ortaya çıkarmaya dayandığını söyledi.
“Görüntü ilişkilendirmeyi açık küme tanımaya genelleştirerek, daha önce görülmemiş olduğunu fark etmenin ötesine geçen bir deepfake oluşturmak için kullanılan üretken model hakkında daha fazla bilgi çıkarabiliriz. Araştırma bilim adamları Xi Yin ve Tan Hassner, derin sahte tespit yöntemi hakkında Facebook'un blog yazısında, bir deepfake koleksiyonunun kalıpları arasındaki benzerlikleri izleyerek, bir dizi görüntünün tek bir kaynaktan gelip gelmediğini de söyleyebiliriz.
Wolfram, gelişmiş bir yapay zeka modelini (derin sahte) tespit etmek için makine öğrenimini kullanmanın mantıklı olduğunu söylüyor. Ancak, teknolojiyi kandırmak için her zaman yer vardır.
"Derin sahteleri tespit etmenin iyi bir makine öğrenimi yolu olmasına hiç şaşırmadım," dedi Wolfram. "Tek soru, yeterince çaba harcarsan, onu kandırabilir misin? Yapabileceğinden eminim.”
Deepfakes ile Farklı Bir Yolla Mücadele
Bunun yerine Wolfram, blockchain kullanmanın belirli derin sahtekarlık türlerini doğru bir şekilde tespit etmek için en iyi seçenek olacağına inandığını söyledi. Blockchain'i makine öğrenimi yerine kullanma fikri 2019'a kadar uzanıyor ve nihayetinde blockchain yaklaşımının derin sahte sorunumuza daha doğru bir çözüm sağlayabileceğini söyledi.
Wolfram Scientific American'da yayınlanan bir makalesinde, Resim ve video görüntüleyenlerin blok zincirlerini (ve 'veri üçgenleme hesaplamalarını') rutin olarak kontrol etmelerini beklerdim, tıpkı web tarayıcılarının şimdi güvenlik sertifikalarını nasıl kontrol ettiği gibi,”diye yazdı Wolfram.
Blok zincirleri verileri bloklarda sakladığından ve daha sonra kronolojik sırayla birbirine zincirlendiğinden ve merkezi olmayan blok zincirler değişmez olduğundan, girilen veriler geri döndürülemez.
Tek soru, eğer yeterince çaba harcarsan, onu kandırabilir misin? Yapabileceğinden eminim.
Wolfram, bir videoyu bir blok zincirine yerleştirerek, çekildiği zamanı, konumu ve herhangi bir şekilde değiştirilip değiştirilmediğini anlamanıza olanak sağlayacak diğer bağlamsal bilgileri görebileceğinizi açıkladı.
"Genel olarak, resmi veya videoyu bağlamsallaştıran ne kadar fazla meta veriye sahip olursanız, o kadar çok şey söyleyebilirsiniz" dedi. “Bir blok zincirinde sahte zaman yapamazsınız.”
Ancak Wolfram, kullanılan yöntemin -ister makine öğrenimi isterse blok zinciri kullansın- korunmaya çalıştığınız derin sahtekarlığın türüne (yani, Kim Kardashian'ın aptalca bir şey söylediği bir video veya bir bir açıklama veya öneride bulunan politikacı).
“Blockchain yaklaşımı, makine öğrenimi görüntü işlemenin belirli türde derin sahtekarlığa karşı koruma sağladığı gibi, belirli türdeki derin sahtekarlıklara karşı koruma sağlar” dedi.
Sonuç olarak, görünen o ki, iş yaklaşan derin sahte tufanla mücadeleye geldiğinde hepimiz için uyanık olmak.
