Önemli Bilgiler
- Yeni araştırma, insanların yapay zeka tarafından oluşturulan görüntüleri gerçek olanlardan ayıramadığını ortaya koyuyor.
- Katılımcılar yapay zeka tarafından oluşturulan görüntüleri daha güvenilir olarak değerlendirdi.
- Uzmanlar, insanların internette gördükleri her şeye güvenmeyi bırakmaları gerektiğine inanıyor.
'Görmek inanmaktır' atasözü konu internet olduğunda artık geçerli değil ve uzmanlar bunun yakın zamanda daha iyi olmayacağını söylüyor.
Yakın zamanda yapılan bir araştırma, yapay zeka (AI) tarafından oluşturulan yüz görüntülerinin yalnızca son derece fotogerçekçi olmakla kalmayıp aynı zamanda gerçek yüzlerden daha erdemli göründüklerini buldu.
Araştırmacılar, "Yapay zeka ile sentezlenmiş yüzlerin fotogerçekçiliğine ilişkin değerlendirmemiz, sentez motorlarının esrarengiz vadiden geçtiğini ve ayırt edilemez ve gerçek yüzlerden daha güvenilir yüzler yaratma yeteneğine sahip olduğunu gösteriyor" diye gözlemlediler.
O Kişi Yok
Araştırmacılar, Lancaster Üniversitesi'nden Dr. Sophie Nightingale ve California Üniversitesi, Berkeley'den Profesör Hany Farid, her türlü çevrimiçi sahtekarlıktan canlandırıcı sahtekarlığa kadar geniş bir yelpazede kamuoyuna duyurulan derin sahtekarlık tehditlerini kabul ettikten sonra deneyleri gerçekleştirdi. dezenformasyon kampanyaları.
"Belki de en tehlikelisi, herhangi bir görüntünün veya videonun taklit edilebildiği dijital bir dünyada, uygunsuz veya istenmeyen herhangi bir kaydın gerçekliğinin sorgulanabilmesidir," dedi araştırmacılar.
Derin sahte içeriği tespit etmek için otomatik teknikler geliştirmede ilerleme olmasına rağmen, mevcut tekniklerin çevrimiçi olarak yüklenen sürekli yeni içerik akışına ayak uyduracak kadar verimli ve doğru olmadığını savundular. İkili, bu, gerçeği sahteden ayırmanın çevrimiçi içeriğin tüketicilerine bağlı olduğu anlamına geliyor.
KnowBe4'te güvenlik bilinci savunucusu olan Jelle Wieringa aynı fikirde. Lifewire'a e-posta yoluyla, gerçek derin sahtelerle mücadele etmenin özel teknoloji olmadan son derece zor olduğunu söyledi. "[Az altıcı teknolojiler] pahalı olabilir ve gerçek zamanlı süreçlere uygulanması zor olabilir, genellikle derin sahtekarlığı ancak olaydan sonra algılar."
Bu varsayımla araştırmacılar, insan katılımcıların son teknoloji sentezlenmiş yüzleri gerçek yüzlerden ayırt edip edemediğini belirlemek için bir dizi deney gerçekleştirdi. Testlerinde, sahteleri tanımaya yardımcı olacak eğitime rağmen doğruluk oranının eğitimsiz %48'den yalnızca %59'a yükseldiğini buldular.
Bu, araştırmacıları, güvenilirlik algılarının insanların yapay görüntüleri tanımlamasına yardımcı olup olamayacağını test etmeye yöneltti. Üçüncü bir çalışmada, katılımcılardan yüzlerin güvenilirliğini derecelendirmelerini istediler, ancak yalnızca sentetik yüzler için ortalama derecelendirmenin 7 olduğunu keşfettiler. Gerçek yüzler için ortalama puandan %7 daha güvenilir. Rakam kulağa pek hoş gelmeyebilir, ancak araştırmacılar bunun istatistiksel olarak anlamlı olduğunu iddia ediyor.
Daha Derin Sahteler
Derin sahtekarlık zaten büyük bir endişe kaynağıydı ve şimdi bu çalışma ile sular daha da çamurlandı. ikna edici çevrimiçi sahte profiller.
"Siber güvenliği yönlendiren tek şey, insanların teknolojilere, süreçlere ve onları güvende tutmaya çalışan insanlara duydukları güvendir" diye paylaştı Wieringa. "Derin sahteler, özellikle fotogerçekçi olduklarında, bu güveni ve dolayısıyla siber güvenliğin benimsenmesini ve kabul edilmesini zedeler. İnsanların algıladıkları her şeye karşı güvensiz olmalarına yol açabilir."
Pixel Privacy'de tüketici gizliliği şampiyonu Chris Hauk kabul etti. Kısa bir e-posta alışverişinde Lifewire'a, fotogerçekçi derin sahtekarlığın, özellikle fotoğraflı kimlik teknolojisi kullanılarak her türlü hesaba erişilebildiği bu günlerde, çevrimiçi "tahribata" neden olabileceğini söyledi.
Düzeltici Eylem
Neyse ki, Prosegur Security IoT Direktörü Greg Kuhn, bu tür sahte kimlik doğrulamasını önleyebilecek süreçler olduğunu söylüyor. Lifewire'a e-posta yoluyla AI tabanlı akreditasyon sistemlerinin doğrulanmış bir kişiyi bir listeyle eşleştirdiğini, ancak birçoğunun "canlılık" olup olmadığını kontrol etmek için yerleşik güvenlik önlemleri olduğunu söyledi.
"Bu tür sistemler, bir kullanıcının gülümsemek veya başını sola sonra sağa çevirmek gibi belirli görevleri gerçekleştirmesini gerektirebilir ve yönlendirebilir. Bunlar, statik olarak oluşturulan yüzlerin gerçekleştiremeyeceği şeylerdir," diye paylaştı Kuhn.
Araştırmacılar, halkı sentetik görüntülerden korumak için bunların oluşturulmasını ve dağıtımını düzenleyen yönergeler önerdiler. Başlangıç olarak, tüm sentetik medyanın güvenilir bir şekilde tanımlanabilmesini sağlamak için görüntü ve video sentez ağlarının kendilerine derinden kök salmış filigranlar eklemeyi öneriyorlar.
O zamana kadar, Comparitech'te gizlilik savunucusu ve infosec araştırması editörü Paul Bischoff, insanların kendi başlarına olduklarını söylüyor. Lifewire'a e-posta yoluyla konuşan Bischoff, "Tıpkı hepimizin (umarım) e-postalarımızda görünen adlara güvenmemeyi öğrendiğimiz gibi, insanlar da çevrimiçi yüzlere güvenmemeyi öğrenmek zorunda kalacak."
