Önemli Bilgiler
- Derin Nostalji, eski fotoğrafları canlandırmanıza olanak tanıyan yeni bir programdır.
- Teknoloji, gerçek hayatta yapmadıkları şeyleri yapan insanların videolarını oluşturmanın ne kadar kolay olduğunu gösteriyor.
- Derin sahte teknoloji zaten o kadar karmaşık ki bir videonun gerçek mi yoksa bilgisayar tarafından oluşturulmuş mu olduğunu söylemek zor, diyor bir uzman.
Uzmanlar uyarıyor, gerçek insanların videolarının simüle edilebildiği "derin sahteler" olarak adlandırılanlar oluşturabilen yeni yazılımlara dikkat edin.
MyHeritage şirketi tarafından yayınlanan Deep Nostalgia, sosyal medyada trend oluyor ve kullanıcılar ünlü bestecilerden ölü akrabalara kadar herkesi yeniden canlandırıyor. Yazılım, bazı insanların yaratımlardan memnun olduğu, bazılarının ise onları ürkütücü bulduğu karışık tepkiler çekiyor. Teknoloji, gerçek hayatta yapmadıkları şeyleri yapan insanların videolarını oluşturmanın ne kadar kolay olduğunu gösteriyor.
SRI International'ın Konuşma Teknolojisi ve Araştırma (STAR) Laboratuvarı müdür yardımcısı Aaron Lawson bir e-posta röportajında "Deepfake teknolojisi giderek daha karmaşık ve daha tehlikeli hale geliyor" dedi. "Bu kısmen yapay zekanın doğasından kaynaklanıyor. 'Geleneksel' teknolojinin gelişmesi için insan zamanına ve enerjisine ihtiyaç duyduğu durumlarda, AI kendi kendine öğrenebilir.
"Ancak yapay zekanın kendini geliştirme yeteneği iki ucu keskin bir kılıçtır," diye devam etti Lawson. "Eğer bir yapay zeka, iyi niyetli bir şey yapmak için yaratılmışsa, harika. Ancak bir yapay zeka, derin sahtekarlıklar gibi kötü niyetli bir şey için tasarlandığında, tehlike eşi benzeri görülmemiştir."
Yazılım, Fotoğraflara Hayat Verir
Genealogy web sitesi MyHeritage, geçen ay animasyon motorunu tanıttı. Deep Nostalgia olarak bilinen teknoloji, kullanıcıların MyHeritage web sitesi aracılığıyla fotoğrafları canlandırmasına olanak tanır. D-ID adlı bir şirket, MyHeritage için insan yüzlerinin hareketini dijital olarak yeniden yaratan algoritmalar tasarladı. Yazılım, MyHeritage web sitesine göre, hareketleri fotoğraflara uygular ve yüz ifadelerini insan yüzlerinin genellikle yaptığı gibi hareket edecek şekilde değiştirir.
Kansas Eyalet Üniversitesi'nde bilgisayar bilimi profesörü olan Lior Shamir, bir e-posta röportajında Derin Nostalji, derin sahte teknolojinin daha erişilebilir hale geldiğini gösteriyor, dedi. Hızla ilerliyor ve sahte ve gerçek video ve ses arasındaki ince farkları bile ortadan kaldırıyor.
"Ayrıca gerçek zamanlı derin sahtekarlığa yönelik önemli ilerleme kaydedilmiştir, bu da video iletişimi sırasında ikna edici derin sahte videoların oluşturulduğu anlamına gelir," dedi Shamir."Örneğin, tamamen farklı bir kişinin sesini görüp sesini duyarken, belirli bir kişiyle Zoom toplantısı yapılabilir."
Ayrıca giderek artan sayıda dil tabanlı derin sahtekarlık var, diyor Stevens Teknoloji Enstitüsü Stevens Yapay Zeka Enstitüsü müdürü Jason Corso bir e-posta röportajında. "Belirli bir gündem için derin sahte metinlerin tüm paragraflarını oluşturmak oldukça zordur, ancak derin doğal dil işlemedeki modern gelişmeler bunu mümkün kılıyor" diye ekledi.
Derin Bir Sahtekarlık Nasıl Tespit Edilir
Derin-sahte algılama teknolojisi hala yeni bir aşamada olsa da, ağızdan başlayarak bir tanesini tespit etmenin birkaç yolu var, dedi Corso.
"Birisi konuşurken ağzın içinin görünümündeki değişkenlik çok yüksek, bu da ikna edici bir şekilde canlandırmayı zorlaştırıyor" diye açıkladı Corso. "Yapılabilir, ancak kafanın geri kalanından daha zordur. Derin Nostalji videolarının, derin sahte yaratım sırasında fotoğrafın 'Seni seviyorum' veya başka bir ifadeyi söyleme yeteneğini nasıl göstermediğine dikkat edin. Bunu yapmak, derin sahte nesil için çok zor olan ağzın açılıp kapanmasını gerektirir."
Ghosting başka bir hediye, diye ekledi Corso. Kafanın kenarlarında bulanıklık görüyorsanız, bu "kaynak görüntüde hızlı hareket veya sınırlı piksellerin bulunmasının bir sonucudur. Bir kulak bir an için kısmen kaybolabilir veya saçlar, beklemediğiniz bir yerde bulanıklaşabilir" dedi. dedi.
Ayrıca, bir tarafında daha koyu, diğer tarafında daha açık renklerin olduğu, yüz boyunca keskin bir çizgi gibi derin bir sahte videoyu tespit etmeye çalışırken renk çeşitliliğine dikkat edebilirsiniz.
"Bilgisayar algoritmaları genellikle bu bozulma modellerini algılayabilir," dedi Shamir. "Fakat derin sahtekarlık algoritmaları hızla ilerliyor. Derin sahtekarlıktan ve bunların kolayca yol açabileceği zararlardan korunmak için katı yasalara ihtiyaç duyulması kaçınılmazdır."
