Önemli Bilgiler
- Uzmanlar, Algoritmik önyargının internette çok zaman harcayan gençler için zararlı olduğunu söylüyor.
- Twitter kullanıcıları kısa süre önce Siyah yüzlerin beyaz yüzlere tercih edildiği bir sorunla karşılaştı.
- Araştırmacılar, Gençlerin gelişen beyinlerinin algoritmik önyargının zararlı etkilerine karşı özellikle hassas olabileceğini söylüyor.
Algoritmik önyargı olarak bilinen bazı teknolojilerin içine yerleştirilen önyargı, birçok grup için zararlı olabilir, ancak uzmanlar bunun özellikle gençler için zararlı olduğunu söylüyor.
Algoritmik önyargı, bilgisayar sistemleri önyargılı sonuçlar gösterdiğinde büyüyen bir sorundur. Twitter kullanıcıları kısa süre önce, fotoğrafları kırpan bir görüntü algılama algoritması Siyah yüzleri beyaz olanlar lehine keserken platformda bir önyargı örneği buldu. Şirket sorun için özür diledi, ancak henüz bir düzeltme yayınlamadı. Uzmanlara göre bu, gençlerin internete girdiklerinde diğer tüm yaş gruplarından daha fazla karşılaştıkları önyargıya bir örnek.
"Gençlerin çoğu, sosyal medya şirketlerinin, kullanıcıların platformda mümkün olduğunca uzun süre kalmalarını sağlamak için beğeneceklerini düşündükleri belirli içerikleri tanıtmak için bunları uygulamaya koyduğunun farkında değil, " Dr. Mai- Duquesne Üniversitesi Hemşirelik Okulu'nda ergenler/üniversite öğrencileri arasında sosyal medya kullanımını inceleyen yardımcı doçent Ly Nguyen Steers, bir e-posta röportajında şunları söyledi:
"Algoritma hakkında belli bir bilinç düzeyi olsa bile, yeterli beğeni ve yorum almamanın etkisi hala güçlü ve gençlerin özgüvenini etkileyebilir," diye ekledi Steers.
Beyin Geliştirme
Algoritmik önyargı, prefrontal korteksleri hala gelişmekte olduğu için gençleri beklenmedik şekillerde etkileyebilir, diyor Rootstrap'in Baş Veri Bilimcisi Mikaela Pisani bir e-posta röportajında.
Yeterli beğeni ve yorum almamanın etkisi hala güçlü ve gençlerin özgüvenini etkileyebilir.
"Gençler, algoritmaların çevrimiçi platformlarda toplumsal kümeler oluşturduğu ve gencin sosyal onay ihtiyaçlarının karşılanmaması durumunda endişe ve depresyona yol açtığı 'Sosyal Fabrika' olgusuna karşı özellikle savunmasızdır," dedi. "Algoritmalar, kimlik oluşumuna yönelik daha incelikli yaklaşımlar pahasına stereotiplerin aşırı temsil edilmesine yol açan önceki kusurlu verilere dayanarak basitleşir.
"Daha geniş bir bakış açısıyla, toplum olarak, gençlerimizin yetişkinliğe yolculuklarını şekillendiren algoritmalar isteyip istemediğimizi de sorgulamamız gerekiyor ve bu sistem bireysel kişisel gelişimi boğmak yerine destekliyor mu?"
Bu sorunlardan dolayı, uzmanlar algoritma tasarlarken gençleri akılda tutmaya artan bir ihtiyaç olduğunu söylüyor.
"Gelişim uzmanlarından, veri bilimcilerinden ve gençlik savunucularından alınan girdilere dayanarak, veri gizliliği ve algoritmik tasarımla ilgili 21. yüzyıl politikaları da ergenlerin özel ihtiyaçları göz önünde bulundurularak oluşturulabilir," Avriel Epps-Darling, bir doktora Harvard'da öğrenci, geçenlerde yazdı. "Bunun yerine gençlerin algoritmik ırkçılığa karşı savunmasız olma biçimlerini küçümsemeye veya görmezden gelmeye devam edersek, zararların gelecek nesiller boyunca yankılanması muhtemeldir."
Önyargılarla Mücadele
Çözüm bulunana kadar, bazı araştırmacılar önyargılı algoritmaların gençlere verdiği zararı az altmanın yollarını bulmaya çalışıyor.
"Müdahaleler, gençlerin sosyal medya kalıplarının zihinsel sağlıklarını olumsuz etkilediğini fark etmelerini sağlamaya ve bunu hafifletmek için stratejiler bulmaya (örneğin, sosyal medya kullanımını az altmaya) odaklandı, " dedi Steers.
"Görüştüğümüz üniversite öğrencilerinden bazıları, dışarı çıkmak veya gönderi paylaşmak istemeseler bile "ilgili" kalmak için içerik üretmeye mecbur hissettiklerini belirttiler," diye devam etti. "Ancak, takipçileri veya arkadaşlarıyla bağlantılarını sürdürmek için içerik üretmeleri gerektiğini düşünüyorlar."
Nihai yanıt, bilgisayarlardan insan önyargısını kaldırmak olabilir. Ancak uzmanlar, programcılar yalnızca insan olduğu için bunun zorlu bir görev olduğunu söylüyor.
Olası bir çözüm, merkezi olmayan ve öğrendiklerini unutmak üzere programlanmış bilgisayarlar geliştirmek, diyor robotik firması KODA'nın Teknolojiden Sorumlu Başkanı John Suit.
Suit bir e-posta röportajında, "Merkezi olmayan bir ağ aracılığıyla, veriler ve bu verilerin analitiği birden fazla noktadan derleniyor ve analiz ediliyor" dedi. "Veriler, algoritmasının sınırları dahilinde tek bir AI zihin işlemesinden değil, yüzlerce hatta binlerce toplanıyor ve işleniyor.
"Veriler toplanıp analiz edildikçe, eski "sonuçlar" veya gereksiz veriler unutulur. Bu sistem sayesinde, önyargı ile başlamış olabilecek bir algoritma sonunda düzeltecek ve yanlış olduğu kanıtlanırsa bu önyargının yerini alacaktır."
Önyargı çok eski bir sorun olsa da, en azından çevrimiçi olarak bununla mücadele etmenin yolları olabilir. Önyargılarımızı ortadan kaldıran bilgisayarlar tasarlamak ilk adımdır.
