Twitter, fotoğraf kırpma sisteminde önyargıları bulmak için düzenlediği açık rekabetin sonuçlarını açıkladı.
Ödül yarışması, Twitter kullanıcılarının sitenin otomatik kırpma aracının daha açık tenli insanların yüzlerini daha koyu tenli olanlara tercih ettiğini göstermesinin ardından Temmuz ayında başladı. Yazılımın ten rengine ve belirli faktörlere diğerlerine göre nasıl öncelik verdiğiyle ilgili bazı soruları gündeme getirdi.
Zorluk, sorunları düzeltmek için kırpma sisteminin sahip olabileceği diğer hataları ve önyargıları bulmaya çalıştı.
Birinciliği, güzellik filtrelerinin algoritmanın puanlama modelini nasıl oynayabileceğini gösteren ve dolayısıyla geleneksel güzellik standartlarını yükselten Bogdan Kulynych'e gitti. Gönderim, algoritmanın açık veya sıcak cilt tonuyla genç ve ince yüzleri tercih ettiğini gösterdi. Kulynych 3.500$ kazandı.
İkinci sıra, Toronto'daki bir teknoloji girişimi olan HALT AI'ya gitti ve fotoğraflardan yaşlıların ve engellilerin görüntülerinin kırpıldığını keşfetti. İkinci gelen takıma 2.000$ verildi.
Üçüncülük ve 500$, Algoritmanın dil çeşitliliğine zarar verebilecek Arapça alfabeler yerine Latin alfabelerini kırpmayı tercih ettiğini keşfeden Taraaz Research'ün kurucusu Roya Pakzad'a gitti.
Ayrıntılı sonuçlar DEF CON 29'da Twitter META ekibinin yöneticisi Rumman Chowdhury tarafından sunuldu. META ekibi, algoritmalardaki kasıtsız sorunları inceliyor ve bu tür sistemlerin sahip olabileceği her türlü cinsiyet ve ırksal önyargıyı ayıklıyor.
Bu yarışmadan elde edilen veriler, kırpma algoritmasındaki hataları ve önyargıları hafifletmek ve daha kapsayıcı bir ortam sağlamaya yardımcı olmak için kullanılacaktır.
