Önemli Bilgiler
- Yeni bir rapora göre, teslimat kamyonlarını izleyen yapay zeka sistemleri Amazon sürücülerini haksız yere cezalandırıyor.
- Amazon sistemi, işverenlerini uzaktan izlemek için teknolojiyi kullanan şirketlerin giderek artan trendinin bir parçası.
-
Bazı yapay zeka yazılımları, işverenlerin arka planda çalışan davranışlarını sürekli olarak izlemesine ve iş akışlarında desenler çizmesine olanak tanır.
İşverenler, çalışanlarını uzaktan izlemek için yazılımlara giderek daha fazla yöneliyor ve bu da bazı gizlilik savunucuları arasında endişelere yol açıyor.
Yeni bir rapor, Amazon'un teslimat minibüslerindeki yapay zeka destekli kameraların sürücüleri haksız yere cezalandırdığını iddia ediyor. Makale, sürücülerin hatalı uyarılardan, yanlış sürücü puan kartlarından, pratik olmayan trafik durumu varsayımlarından ve teknolojiyi atlatmak için sürücüleri benimseyen uygulamalardan muzdarip olduğunu buldu.
Case Western Reserve Üniversitesi Siber Uzay Hukuku ve Politikası Merkezi direktörü Raymond Ku, Lifewire'a bir e-posta röportajında \"Yapay zeka gelişirken, hatalar yapılmaya devam edecek\" dedi. "Adalet meselesi olarak, bence hepimiz AI karar verme yoluyla herhangi bir şekilde cezalandırılan birinin gerçeğin farkına varması ve karara itiraz etmesi için bir fırsat verilmesi gerektiğine inanıyoruz."
Amazon'un Yapay Zeka Kameraları
Amazon, güvenlik önlemi olarak teslimat araçlarına yapay zeka destekli kameralar yerleştirdiğini söyledi. Kameralar, teslimat yapan sürücülerin dur işaretleri yapmak veya yasa dışı U dönüşleri yapmak gibi tehlikeli manevralar yaptıklarında izleme amaçlıdır.
Kameralar olası güvenli olmayan sürüş "olaylarını" tespit ettiğinde, bu durumlar çalışanların performans puanlarını etkiler. Daha düşük puanlar, sürücülerin ikramiye, ekstra ödeme ve ödül alma şansını az altır.
Ancak Amazon sürücüleri, Anakart'a, güvenli veya kontrollerinin ötesinde olduğu düşünülen bazı sürüş alışkanlıkları için cezalandırıldıklarını söyledi. Amazon, Lifewire'ın yorum isteğine yanıt vermedi.
Ku, sürücülerin kayıt altına alınmayı kabul ettiği için, yasalara göre mahremiyet ihlali yaşamadıklarını belirtti.
"Ancak bu, ortalama bir işçinin gözetimden memnun olacağı veya yapabilseydi itiraz etmeyeceği anlamına gelmez" diye ekledi. "Bu, özellikle gözetim daha geleneksel kişisel alanları ihlal etmeye başladığında geçerlidir."
Veri gizliliği avukatı Bethany A. Corbin bir e-posta röportajında Lifewire'a verdiği demeçte, raporun verilere davalarda mı yoksa polis ve federal yetkililer tarafından mı erişilip kullanılamayacağına dair daha geniş soruları gündeme getiriyor. Sorumluluğu da etkileyebileceğini belirtti.
"Örneğin, AI teknolojisi çalışana yan aynalara bakmamasını söylerse ve çalışan bu tavsiyenin doğrudan bir sonucu olarak bir kaza geçirirse, suçlu kimdir?" Corbin eklendi.
Büyüyen Gözetim
Gözetleme Amazon ile bitmiyor. Gizlilik uzmanı Chris Hauk, Lifewire'a bir e-posta röportajında, giderek artan sayıda şirketin çalışanlarını uzaktan izlemek için teknolojiyi kullandığını söyledi.
Örneğin, AI pazarlama şirketi Blackbelt, şirketin çalışanlarının bilgisayar etkinliğini bağımsız olarak izlemesine ve izlemesine olanak tanıyan bir Allocate zaman izleme sistemi kullanıyor. Microsoft'un İşyeri Analizi, işverenlerin bir çalışanın bir iş günü boyunca web sitelerinde, e-posta yazarken ve daha fazlasında geçirdiği süreyi izlemesine olanak tanır.
Walmart ayrıca, çalışan ölçümlerini izlemek ve çalışanların görevlerini doğru ve verimli bir şekilde yerine getirmelerini sağlamak için kasa tarayıcılarından gelen çanta hışırtılarını veya bip seslerini dinleyen bir sistem üzerinde çalışıyor. Sensörler, hatta sohbet ederken müşterileri dinleyebilir ve çalışanların müşterileri doğru şekilde selamlayıp karşılamadığını tespit edebilir.
Gizlilik uzmanı Pankaj Srivastava bir e-posta röportajında Lifewire'a verdiği demeçte, İş yeri gözetimi pandeminin başlangıcından bu yana daha yaygın hale geliyor.
"Bu teknolojinin çoğu 'verimliliği artırma' olarak konumlandırılıyor, ancak bu araçların bazılarının çalışma şekli, işverenlerin işgücünün her etkinliğini izleme konusunda daha fazla tolerans gösterdiğini gösteriyor" diye ekledi. "Örneğin, çalışanların her bir görev için ne kadar zaman harcadıklarını izlemek, çalışanların masalarında olduklarından emin olmak için uzaktan fotoğraf çekmek ve hatta ziyaret edilen web sitelerini izlemek ve bir çalışanın klavye vuruşlarını ve fare hareketlerini kaydetmek."
Yapay zeka gelişirken hatalar yapılmaya devam edecek.
Bazı yapay zeka yazılımları, işverenlerin arka planda çalışan davranışlarını sürekli olarak izlemelerine ve iş akışlarında desenler çizmelerine olanak tanıyor. dedi.
Srivastava, "Bir çalışan, bir görevi tamamlamak için normalden birkaç dakika daha uzun sürdüğünü öne sürerek kişiselleştirilmiş performans raporuna göre kovulabilir," dedi.
"Güle güle, banyo molası."
