Önemli Bilgiler
- Twitter, kullanıcıların görüntü önizleme yazılımlarında ırksal önyargı dediği şeyi düzeltmeyi umuyor.
- Teknoloji devinin çağrısı, endüstrinin çeşitlilik konularını ele almak için ihtiyaç duyduğu kültürel hesap olabilir.
- Teknolojinin çeşitlilik eksikliği, teknolojik ilerlemelerinin etkinliğine zarar veriyor.
Twitter, teknoloji endüstrisinde çeşitlilik konularında daha fazla tartışmaya yol açan trend bir konu haline geldikten sonra resim kırpma algoritması hakkında bir araştırma başlatmaya hazırlanıyor.
Sosyal medya juggernaut, kullanıcılar görüntü önizleme algoritmasında bariz ırksal önyargıyı keşfettikten sonra manşetlere çıktı. Keşif, Twitter kullanıcısı Colin Madland'ın, Zoom'un yeşil ekran teknolojisini kullanan Siyah meslektaşlarını tanıyamadığını belirtmek için platformu kullanmasından sonra gerçekleşti, ancak büyük bir ironi gösterisinde, Twitter'ın görüntü kırpma algoritmasının benzer şekilde davrandığını ve Siyah yüzlerin önceliklerini düşürdüğünü buldu.
Elbette, herhangi bir azınlık için büyük bir sorun ama bence çok daha geniş bir sorun da var.
Diğer kullanıcılar, algoritmanın insanlardan çizgi film karakterlerine ve hatta köpeklere kadar değişen beyaz ve açık tenli yüzlere sürekli olarak öncelik verdiğini gösteren bir dizi viral tweet'i ateşleyerek trende girdi. Bu başarısızlık, teknoloji endüstrisinde sürekli olarak azınlık gruplarını hesaba katmayı başaramayan ve teknik tarafa da sıçrayan daha büyük bir kültürel hareketin göstergesidir.
"Azınlıkların kendilerini kötü hissetmelerine neden oluyor, sanki önemli değillermiş gibi ve ileride daha ciddi zararlara yol açabilecek başka şeyler için kullanılabilir," Erik Learned-Miller, Üniversitede bilgisayar bilimi profesörü Massachusetts, bir telefon görüşmesinde söyledi."Bir yazılım parçasının ne için kullanılabileceğine ve oluşabilecek tüm zararlara karar verdikten sonra, bunların olma olasılığını en aza indirmenin yolları hakkında konuşmaya başlıyoruz."
Zaman Tünelindeki Kanarya
Twitter, tweet'lere gömülü görüntüleri otomatik olarak kırpmak için sinir ağlarını kullanır. Algoritmanın ön izleme için yüzleri algılaması gerekiyor, ancak gözle görülür bir beyaz yanlılığa sahip görünüyor. Şirket sözcüsü Liz Kelley, tüm endişelere yanıt olarak tweet attı.
Kelley tweetledi, "Bunu gündeme getiren herkese teşekkürler. Modeli göndermeden önce önyargı için test ettik ve testlerimizde ırk veya cinsiyet yanlılığı kanıtı bulamadık, ancak daha fazla analiz yapmamız gerektiği açık. yap. başkalarının gözden geçirip kopyalayabilmesi için çalışmalarımızı açık kaynak yapacağız."
"Vahşi Doğada Yüz Tanıma Teknolojileri: Federal Büroya Çağrı" adlı teknik incelemenin ortak yazarı Learned-Miller, yüz tabanlı yapay zeka öğrenme yazılımının aşırılıkları konusunda önde gelen bir araştırmacıdır. Yıllardır görüntü öğrenme yazılımının potansiyel olumsuz etkisini tartışıyor ve bu önyargıların mümkün olan en iyi şekilde az altıldığı bir gerçeklik yaratmanın öneminden bahsetti.
Yüz tanıma teknolojisine yönelik birçok algoritma, görüntü öğrenme yazılımının davranışına ince ayar yapmak için kullanılan bir görüntü koleksiyonu olan, genellikle eğitim kümeleri olarak bilinen veriler için referans kümelerini kullanır. Sonuç olarak, AI'nın çok çeşitli yüzleri kolayca tanımasını sağlar. Ancak, bu referans kümelerinde çeşitlilik içeren bir havuz bulunmayabilir ve bu da Twitter ekibinin yaşadığı gibi sorunlara yol açabilir.
"Kesinlikle, herhangi bir azınlık için büyük bir sorun, ancak bence çok daha geniş bir sorun da var," dedi Learned-Miller. "Teknoloji sektöründe çeşitlilik eksikliği ve bu tür güçlü yazılımların yanlış ve kötüye kullanıma açık doğru kullanımlarını göstermek için merkezi, düzenleyici bir güce duyulan ihtiyaçla ilgilidir."
Çeşitlilikten Yoksun Teknoloji
Twitter en son teknoloji şirketi olabilir, ancak bu yeni bir sorun olmaktan çok uzak. Teknoloji alanı, ağırlıklı olarak beyaz, sürekli olarak erkeklerin egemen olduğu bir alan olmaya devam ediyor ve araştırmacılar, çeşitlilik eksikliğinin, geliştirilen yazılımda sistemik, tarihsel dengesizliklerin kopyalanmasına neden olduğunu buldular.
New York Üniversitesi Yapay Zeka Şimdi Enstitüsü tarafından 2019 yılında yayınlanan bir raporda, araştırmacılar Siyah insanların ülkedeki en iyi teknoloji şirketlerindeki işgücünün yüzde 6'sından daha azını oluşturduğunu buldu. Benzer şekilde, kadınlar bu alanda çalışanların yalnızca yüzde 26'sını oluşturuyor - 1960'taki paylarından daha düşük bir istatistik.
Azınlıkların kendilerini kötü hissetmelerine neden oluyor, sanki önemli değillermiş gibi ve ileride daha ciddi zararlara neden olabilecek başka şeyler için kullanılabilir.
Yüzeyde, bu temsili meseleler sıradan görünebilir, ancak pratikte verilen zarar çok büyük olabilir. AI Now Institute raporundaki araştırmacılar, bunun nedensel olarak, beyaz olmayan ve erkek olmayan popülasyonları hesaba katamayan yazılımlarla ilgili sorunlarla ilgili olduğunu öne sürüyor. Kızılötesi sabunlukların koyu teni algılayamaması veya Amazon'un yapay zeka yazılımının kadın yüzlerini erkek yüzlerinden ayırt edememesi fark etmeksizin, teknoloji endüstrisindeki çeşitliliğin ele alınmaması, teknolojinin çeşitlilik içeren bir dünyayla başa çıkamamasına yol açar.
"Sorunları derinlemesine düşünmemiş ve bunların nasıl zarar verebileceğini ve bu zararların ne kadar önemli olduğunu gerçekten anlamayan birçok insan var," diye belirtti Learned-Miller, AI görüntü öğrenimi hakkında. "Umarım bu insan sayısı azalmaktadır!"
