Önemli Bilgiler
- Şirketler, çalışanlarını denetlemek için yapay zeka kullanıyor.
- Amazon, bu yılın başlarında teslimat araçlarına makine öğrenimi destekli kameralar kurdu.
- Yapay zeka gözetimi, vicdansız şirketler tarafından kullanılırsa gizlilik ve güvenlik sorunlarına yol açabilir.
İşverenler, yapay zeka kullanarak çalışanlarını giderek daha fazla takip ediyor ve gözlemciler, uygulamanın gizlilik endişelerini artırdığını söylüyor.
Amazon, bu yılın başlarında teslimat araçlarına makine öğrenimi destekli kameralar kurdu. Şirket geçtiğimiz günlerde sürücülerine bunları kullanmayı kabul etmeleri gerektiğini söyledi. İş başında gözetim uygulaması yasal olabilir, ancak herkes bunun etik olduğu konusunda hemfikir değil.
Teknoloji karşılaştırma web sitesi Comparitech'te güvenlik araştırmacısı olan Aimee O'Driscoll bir e-posta röportajında, "Şirketler onlarca yıldır çalışan izleme araçlarını kullanıyor, ancak gelişen teknolojiyle birlikte daha istilacı hale geliyorlar" dedi.
"Çoğu çalışan izleme, mahremiyet ihlali olarak kabul edilebilir ve Amazon'un yaptığının bir ofiste CCTV kamera bulundurmaktan çok da farklı olmadığı iddia edilebilir."
İzleyin veya Kovulun
Amazon'un ABD'deki yaklaşık 75.000 teslimat sürücüsünün artık bir "biyometrik onay" formu imzalaması gerekiyor. İzin formu, AI destekli kameraların sürücülerin konumunu, hareketini ve biyometrik verilerini izlemesini sağlar. Belgeyi imzalamayan çalışanlar kovulabilir.
Gizlilik web sitesi Pixel Privacy'de gizlilik araştırmacısı Chris Hauk, bir e-posta röportajında, AI gözetimi, Amazon sürücülerinin yaptığı her şeyi takip ederek deneğin varsayılan gizliliğini ihlal ediyor, dedi.
"Bu, denek her esnediğinde veya hassas bir alanı çizdiğinde kayıt yapmayı içerir" diye ekledi. "Bir sürücünün araçlarının içindeyken en azından bir miktar mahremiyet hakkı vardır."
Yapay zeka tarafından çalışan gözetimi büyüyen bir sorundur. O'Driscoll, Walmart'ın kasalarda müşterilerle çalışan etkileşimlerini dinlemeyi sağlayan bir yapay zeka teknolojisinin patentini aldığını belirtti.
Yazılım geliştiricisi Enaible, yapay zeka yazılımına dayalı üretkenlik araçları sağlar. Macy's dahil olmak üzere çeşitli şirketler, Microsoft'un çalışan davranışlarını izleyebilen analitik sistemini kullanır. Domino's, pizzaların doğru yapılıp yapılmadığını kontrol etmek için AI teknolojisini kullandı.
"Temel sorunlardan biri, yanlış şekilde kullanıldığında mahremiyet eksikliğinin güvenlik sorunlarına yol açabilmesidir," dedi O'Driscoll.
"Gözetleme verileri suçluların eline geçebilir veya kötü aktörlerin kendileri kurbanları hedeflemek için AI gözetimini kullanabilir."
ProPrivacy web sitesinde bir gizlilik uzmanı olan Ray Walsh, Biyometrik yüz taramaları, veri sahibinin yüzünün, hayatlarının geri kalanında onları her yerde tanımlamak ve izlemek için kullanılabilecek matematiksel bir temsiliyle sonuçlanır, dedi. e-posta röportajı.
"Bu, verileri ihlal edilebilecek, sızdırılabilecek ve hatta bir arama emri kullanarak hükümet gözetmenleri tarafından potansiyel olarak yararlanılabilecek Amazon sürücüleri için ciddi gizlilik ve güvenlik riskleri oluşturuyor" diye ekledi.
Yapay zeka teknolojisi nispeten yeni olduğu için, mahremiyetle ilgili kullanımına ilişkin somut yönergeler yok, dedi O'Driscoll. "Bununla birlikte, güvenlik muhtemelen her zaman gizlilik istilası için meşru bir bahane olacaktır, bu nedenle Amazon mevcut niyetleri kapsamındadır" diye ekledi.
Çalışanların önerilen AI izlemeyi bırakma veya buna izin verme hakları olsa da, bunu muazzam bir güç dengesizliği karşısında yapıyorlar, O'Driscoll, yapay zeka gözetiminin düzenlenmesi gerektiğini söyledi. "Şirketlerin ideal olarak AI gözetimi için meşru nedenleri (güvenlik gibi) olması gerekir" diye ekledi.
Walsh, Bazı eyaletlerin işyerinde gözetim kullanımını sınırlayan ve düzenleyen yasaları kabul ettiğini, ancak federal mevzuatın eksik olduğunu belirtti.
2019'da Algoritmik Hesap Verebilirlik Yasası Meclis ve Senato'ya sunuldu, ancak sonunda reddedildi. Walsh, bu yıl benzer bir yasanın uygulamaya konulabileceğini ve "Demokratların önderliğindeki bir Kongre ve Beyaz Saray'ın geçme şansını artırabileceği umulduğunu" söyledi.
İşte Gizlilik Beklemeyin
Herkes Amazon'un sürücülerini izlemesinin bir mahremiyet ihlali olduğunu düşünmez.
AI şirketi Hypergiant'ın etik sorumlusu Will Griffin bir e-posta röportajında "Bir çalışanın şirkete ait bir araçta makul bir mahremiyet beklentisi olduğunu iddia etmenin zor olduğunu düşünüyorum" dedi.
"En büyük endişe, birkaç yıl içinde tüm bu sürücülerin otonom araçlarla değiştirilecek olması. Bu nedenle, filo tamamen otonom hale geldikçe sürücü politikasıyla ilgili herhangi bir tartışma tartışma konusu haline gelecek."
Amazon davası, Amazon çalışanları ile şirket arasındaki güç dengesini yeniden kurmanın bir yolu olarak bir sendikaya veya hedefli federal müdahaleye duyulan ihtiyacı vurguluyor, dedi Griffin.
"Çalışanların önerilen AI izlemeyi bırakma veya kabul etme hakları olsa da, bunu muazzam bir güç dengesizliği karşısında yapıyorlar" diye ekledi.
