Önemli Bilgiler
- YouTube'un otomatik yaş kısıtlamalı yazılımı, platformdaki LGBTQ+ içeriği için endişe kaynağı oluyor.
- Şirket, LGBTQ+ içerik oluşturucularıyla ilgili şüphe uyandıran tartışmalarla gölgelendi.
- Makine öğrenimindeki önyargılar, kusurlu filtre uygulamasının erişimi haksız yere kısıtlayacağı fikrine güven verir.
Moderasyon sürecinde LGBTQ+ içerik oluşturucularını haksız yere hedef alan YouTube'un yeni yapay zeka tabanlı teknolojisi, teknoloji devi için rahatsız edici bir sonraki adım olarak görülüyor.
Geçen hafta resmi YouTube blogunda, video paylaşım platformu, genç izleyiciler için uygunsuz olduğu düşünülen videolara "daha tutarlı bir şekilde yaş kısıtlamaları uygulamak" için yeni bir otomatik yazılım yayınlama planlarını açıkladı.
Uygulamadaki çocuklarla ilgili son zamanlardaki endişelerle motive edilen yeni sistem, daha otomatik bir süreç için insan moderatörlerinden vazgeçme yeteneğine sahip makine öğrenimi yapay zeka yazılımına dayanıyor. Sorun? YouTube'un otomatik sistemleri, LGBTQ+ içeriklerini ve içerik oluşturucuları yalnızca var olanlardan ayırmakla suçlanıyor.
Kötü niyetli olmasa bile, ki öyle olduğunu düşünmüyorum, farklı seslerden gelen girdi eksikliği veya en azından saygı eksikliği.
YouTuber Rowan Ellis, Lifewire ile yaptığı bir telefon röportajında, "Makine öğrenimi, insanlar tarafından bilgilendirilir ve insanlar tarafından oluşturulur ve bu önyargıların doğasında var olması veya makinenin kendisi tarafından öğrenilmesi mümkündür." Dedi. "[LGBTQ+] içeriğine ilişkin önyargısı, [LGBTQ+] YouTuber'ların önceki deneyimlerinde belirgindi ve bunun olmasını durdurmak için herhangi bir şey yapıldığına dair kanıt görmedim."
Bebeğim, Şimdi Kötü Kanımız Var
Ellis, feminist ve queer eğilimli eğitici içerikler oluşturan bir YouTuber ve 2017'de şirketin kısıtlı modu hakkında bir video yayınladı. Otomatik içerik denetimine ilk adım olarak bu mod, kullanıcıların isteğe bağlı olarak arama önerileri ve tavsiyelerinden "potansiyel olarak olgun içeriği" önceden görüntülemesine olanak tanıdı.
100.000'den fazla görüntüleme elde ederek, YouTube'un ılımlılık yönündeki yeni adımının aşırılıklarına karşı vokal muhalefeti nedeniyle kanalının kısıtlamayı engellemek için bilinçli bir çaba olduğuna inanıyor. Platformdaki diğer kullanıcılar o kadar şanslı değildi ve YouTube'un bunu bilmesini sağladılar.
Silikon Vadisi şirketini queer ve trans video yapımcılarını ve içeriğini kısıtlamakla suçlayan sekiz LGBTQ+ içerik oluşturucudan oluşan bir grup Ağustos 2019'da YouTube'a karşı toplu dava açtı. Dava, sitenin "LGBT Davacıları ve daha büyük LGBT Topluluğunu damgalayan, kısıtlayan, engelleyen, şeytanlaştıran ve finansal olarak zarar veren yasa dışı içerik düzenleme, dağıtım ve para kazanma uygulamaları kullandığını" iddia ediyor." Hâlâ California mahkemelerinde yoluna devam ediyor.
Makine öğrenimi, insanlar tarafından bilgilendirilir ve yaratılır ve bu önyargıların kendisinde var olması veya makinenin kendisi tarafından öğrenilmesi mümkündür.
Aynı yılın Haziran ayında platform, popüler muhafazakar yorumcu Steven Crowder'ı Vox gazetecisi ve sunucu Carlos Maza'ya karşı aylarca süren homofobik taciz kampanyası nedeniyle hemen azarlamayı reddettikten sonra medyanın ilgisini çekti. Bu, Ellis'in çevrimiçi platformda queer yaratıcılarının karşılaştığı benzersiz zorlukları görmezden gelme kalıbı olduğunu söylediği şeyi pekiştirdi. LGBTQ+ içerik oluşturucularının, YouTube'un kendilerini gösterme becerisine olan inançlarının eksikliği de cabası.
"Sosyal meselelerde ve eşitliğin sağlanmasında şeffaflığın gerekliliğini anladıklarını sanmıyorum" dedi. "Dünyanın her yerinde hala eşcinsel olmanın yanlış olduğu fikriyle büyüyen çocuklar var ve bu inancı sorgulamaya başladıklarında, ancak güvenli bir arama veya kısıtlama ile kapatıldığını gördüklerinde, bu fikri güçlendirecek. yanlış, uygunsuz, yetişkin, sapık ve kirli."
Otomatik Öğrenme Başarısız
Platformundaki LGBTQ+ içerik oluşturucularıyla ilgili sefil geçmişiyle, makine öğrenimi yazılımının daha büyük normları ayırt etme yeteneğinin uygulanmasıyla ilgili endişeler hâlâ ortada duruyor. Markkula Uygulamalı Etik Merkezi İcra Direktörü Don Heider, aptallık potansiyelinin kumar oynamak için çok büyük bir risk olduğunu öne sürüyor.
Bir e-posta röportajında "Yapay zekanın farklı kültürel normlara ve standartlara sahip birden fazla ülkeden gelen içeriği etkili bir şekilde yönetebileceğine inanmak zor" diye yazdı. "AI genellikle karmaşık soruların yanıtı olarak görülüyor. Bu noktada, AI ve oluşturulma şekli, herhangi bir karmaşıklık düzeyine sahip herhangi bir içerik denetimi bir yana, basit görevlerle bile başa çıkmakta zorlanıyor."
YouTube, bloguna göre, insan moderatörler tarafından tutarlı bir denetleme eksikliği nedeniyle AI teknolojisinin kullanımına karar verdi. Uygun olmayan videoları kaldırmak için bilgisayarlı filtrelerin kullanımını artırmak bir norm haline geldi ve aynı prosedürleri yaş kısıtlaması politikaları için uygulamak mantıklı bir sonraki adım olarak görülüyor.
Çocuk tüketicilerle olan ilişkisine ilişkin uzun süredir devam eden eleştirilerin ardından süreçlerini kademeli olarak iyileştirmeye çalışan bir şirket olarak, bu karar sürpriz değil.
Sosyal meselelerde ve eşitliğin sağlanmasında şeffaflığın gerekliliğini anladıklarını sanmıyorum.
Çocuklar, video paylaşım sitesi için önemli bir demografi haline geldi. Ağustos ayında, dijital video analiz şirketi Tubular, müzik videolarının yanı sıra çocuklara yönelik içeriğin YouTube'da en çok görüntülenen videolar için ay sonu listesinin başında geldiğini tespit etti.
Şirketin platformdaki bu kazançlı, yükselen güç merkezini koruma konusundaki ilgisi mantıklı. Ancak, bu korumayı uygulamak için kullanılan araçlar, kendilerini şirketin denetleme prosedürlerinin aşağısında bulanlar için rahatsız edici olmaya devam ediyor.
"Endişem şu ki, birçok [LGBTQ+] YouTuber'ın sağlayabileceği, ancak sisteminde işaretlenen bilgilendirici, açık sözlü ve dürüst içeriğe ihtiyaç duyan [LGBTQ+] gençleri korumayacak ve çok fazla zarar verecek uygunsuz," dedi Ellis."Kötü niyetli olmasa bile, ki öyle olduğunu düşünmüyorum, farklı seslerden gelen girdi eksikliği ya da en azından saygı eksikliği.
"Bunu teknolojide her zaman görüyoruz. Yüz tanımaya baktığınızda farklı Siyah yüzleri ayırt etmekte başarısız oluyorsunuz veya ilaca baktığımızda ve ilacın yalnızca belirli bir cinsiyet üzerinde test edildiğini görüyoruz. Bunlar daha büyük konuşmalardır ve YouTube bundan muaf değildir."