Önemli Bilgiler
- İnsanların profilini çıkarmak için yapay zeka kullanan yazılımlar, gizlilik endişelerini artırıyor.
- Cryfe, davranışsal analiz tekniklerini yapay zeka ile birleştirir.
- Çinli Alibaba şirketi, yazılımının Uygurları ve diğer etnik azınlıkları tespit edebileceğini söyledikten sonra kısa süre önce eleştirilerle karşı karşıya kaldı.
İşverenlerin çalışanlarının profilini çıkarmasını amaçlayan yapay zeka destekli yeni yazılım, gizlilik endişelerini artırıyor.
Cryfe adlı yeni bir yazılım platformu, davranışsal analiz tekniklerini yapay zeka ile birleştiriyor. Geliştirici, yazılımın küçük ipuçlarını analiz ederek görüşmeler sırasında insanların niyetlerini ortaya çıkarabileceğini iddia ediyor. Ancak bazı gözlemciler, Cryfe ve davranışı analiz eden diğer yazılım türlerinin gizliliği istila edebileceğini söylüyor.
Yapay zeka uzmanı Vaclav Vincale bir e-posta röportajında "Şirketler, profil oluşturmak için yapay zekaya giderek daha fazla güveniyor" dedi. "Ancak bu algoritmaları kodlayan insanlar, telefonda ulaştığınız bir müşteri destek görevlisi bir yana, size neden herhangi bir öneride bulunduklarını söyleyemediler."
Kelimelerden Daha Fazlası
Cryfe, çalışanları FBI tarafından profil oluşturma teknikleri konusunda eğitilmiş bir İsviçre şirketi tarafından geliştirildi. Cryfe'ın kurucusu Caroline Matteucci, bir e-posta röportajında "Cryfe, tüm kişiler arası iletişimde yalnızca sözcükleri dinlemekle kalmaz, aynı zamanda duygular, mikro ifadeler ve tüm jestler gibi insan tarafından yayılan diğer sinyalleri de tanımlar." Dedi.
"Örneğin, işe alım sırasında bu, muhatapımızın gerçek kişiliğini aramamıza olanak tanır."
Matteucci, şirketin yazılımının nasıl çalıştığı konusunda şeffaf olması nedeniyle kullanıcıların gizliliğinin korunduğunu söyledi. "Kullanıcı, platformu kullanabilmek için önce genel koşulları kabul etmelidir" dedi.
"Kullanıcının, muhatabın yazılı onayını almadan hiçbir durumda analiz için bir röportaj gönderemeyeceği burada belirtilmiştir."
Cryfe, insan davranışını analiz etme iddiasında olan tek yapay zeka destekli yazılım değil. Tüketici davranışını analiz ettiğini iddia eden Humantic de var. Şirketin web sitesine göre, "Humantic'in çığır açan teknolojisi, bir kişilik testi yapmaya gerek kalmadan herkesin davranışını tahmin ediyor".
Şirket, özgeçmişlerinde, kapak mektuplarında, LinkedIn profillerinde ve gönderdikleri diğer metinlerde kullandıkları kelimelere dayalı olarak başvuranların psikolojik profillerini oluşturmak için yapay zekayı kullandığını iddia ediyor.
Davranışsal yazılımlar geçmişte yasal zorluklarla karşılaştı. 2019'da Bloomberg Yasası, Eşit İstihdam Fırsatı Komisyonu'nun (EEOC), algoritma destekli, İK ile ilgili kararlar nedeniyle yasa dışı ayrımcılık iddiasıyla ilgili davaları incelediğini bildirdi.
Avukat Bradford Newman Bloomberg'e verdiği demeçte, "İşe alımların geleceği yapay zeka olduğu için bunların hepsinin çözülmesi gerekecek" dedi.
Bazı gözlemciler, yeterince doğru olmadığı için davranışsal izleme yazılımı kullanan şirketlerle sorun yaşıyor. Profesyonel hizmetler firması EY'nin küresel yapay zeka lideri Nigel Duffy bir röportajda, InformationWeek'e sosyal medya testlerini kullanan ve algılamayı etkileyen yazılımlardan rahatsız olduğunu söyledi.
"Etki algılama potansiyeli hakkında gerçekten zorlayıcı literatür olduğunu düşünüyorum, ancak benim anladığım kadarıyla uygulanan yol çoğu zaman oldukça naif," dedi.
"İnsanlar, birinin çok güldüğü için potansiyel olarak iyi bir çalışan olduğuna karar vermek veya çok güldüğü için birisinin ürünlerinizi beğendiğine karar vermek gibi bilimin gerçekten desteklemediği çıkarımlar yapıyor"
Çin Şirketleri Bildirildiğine Göre Azınlıkların Profili
Davranışsal izlemenin daha uğursuz amaçları da olabilir, diyor bazı insan hakları grupları. Çin'de, çevrimiçi pazar yeri devi Alibaba, yazılımının Uygurları ve diğer etnik azınlıkları tespit edebileceğini iddia etmesinin ardından kısa süre önce ortalığı karıştırdı.
New York Times, şirketin bulut bilişim işinde, görüntüleri ve videoları tarayan bir yazılıma sahip olduğunu bildirdi.
Fakat bu algoritmaları kodlayan insanlar bile…neden herhangi bir öneride bulunduklarını size söyleyemezler.
Washington Post ayrıca kısa süre önce, başka bir Çinli teknoloji şirketi olan Huawei'nin, güvenlik kameraları Uygur yüzlerini tespit ettiğinde kolluk kuvvetlerini uyarabilecek bir yazılımı test ettiğini bildirdi.
Huawei'nin 2018 patent başvurusunda, yüz tanıma teknolojisinde "yaya özelliklerinin tanımlanmasının çok önemli" olduğu iddia edildi. Uygulama, "Hedef nesnenin nitelikleri cinsiyet (erkek, kadın), yaş (gençler, orta yaşlı, yaşlı gibi) [veya] ırk (Han, Uygur) olabilir" dedi.
Bir Huawei sözcüsü CNN Business'a etnik kimlik belirleme özelliğinin "asla uygulamanın bir parçası olmaması gerektiğini" söyledi.
Büyük miktarda veriyi sıralamak için yapay zekanın gelişen kullanımı, mahremiyet endişelerini artıracaktır. Bir dahaki sefere bir iş görüşmesine gittiğinizde sizi kimin veya neyin analiz ettiğini asla bilemeyebilirsiniz.
