Önemli Bilgiler
- Bir yazılım şirketinin, güvenlik riski oluşturan kişileri belirlemek için kullanılabilecek profiller oluşturmak için sosyal medya bilgilerini topladığı bildiriliyor.
- Voyager Labs, bir Japon devlet kurumuyla önemli bir anlaşma imzaladı.
- Ancak uzmanlar, yapay zeka tahmin yazılımının kandırılabileceği konusunda uyarıyor.
Çevrimiçi bilgileriniz suç işleyip işlemeyeceğinizi tahmin etmek için kullanılabilir.
Voyager Labs'ın, güvenlik riski oluşturan kişileri belirlemek için kullanılabilecek profiller oluşturmak için sosyal medya bilgilerini topladığı bildiriliyor. Potansiyel suçluları araştırmak için yapay zekayı (AI) kullanma çabasının bir parçası. Ancak bazı uzmanlar hareketin potansiyel sorunlarla dolu olduğunu söylüyor.
Atumcell Group'ta bir güvenlik araştırmacısı olan Matthew Carr, bir e-posta röportajında Lifewire'a "İnsan davranışını tahmin etmek çok zor" dedi. "Başkasının değil, kendi davranışlarımızı bile tahmin edemiyoruz. Yapay zekanın gelecekte bu amaç için kullanılmasının mümkün olduğunu düşünüyorum, ancak şu anda bunu yapabilmekten çok uzağız."
Profil Oluşturma
The Guardian'ın yakın zamanda bildirdiği gibi, Los Angeles polis departmanı Voyager Lab'ın suç tahmin yazılımını kullanmayı araştırdı. Şirket ayrıca bir Japon devlet kurumuyla önemli bir anlaşma imzaladığını duyurdu.
Japon anlaşması, devlet kurumuna, açık ve derin veriler de dahil olmak üzere herhangi bir kaynaktan gelen büyük miktarda bilgiyi analiz eden yapay zeka tabanlı bir araştırma platformu sağlar.
Voyager Labs APAC Genel Müdürü Divya Khangarot, haber bülteninde "Terör ve suçla mücadelede işbirliği yapmaktan memnunum" dedi. "Voyager Lab'ın son teknoloji istihbarat çözümlerini kullanarak müşterilerimiz potansiyel tehditleri proaktif olarak belirlemek ve bozmak için benzersiz yetenekler kazanıyor. Gizli izleri, ihlal edilmiş bilgileri ortaya çıkarmak için Yapay Zeka, Makine Öğrenimi ve OSINT'in bir kombinasyonunu kullanarak ek derin araştırma içgörü katmanları getiriyoruz. ve kötü oyuncular."
Çok Akıllı Değil misiniz?
Fakat bir e-posta röportajında, suçluları tahmin etmek için yapay zekayı da kullanan Ferret.ai'nin kurucu ortağı Matt Heisie, Voyager Labs'ın bazı iddiaları hakkında şüphe uyandırdı.
"Örneğin, bir tutuklama kaydı ile gelecekteki suç davranışı arasında, bir testte siyah bir nokta olması ve bir tümörün gelişmesi kadar açık bir bağlantı var mı?" dedi. "Bu tutuklamaya yol açan tüm olası karışıklıkları düşünün - kişinin hangi mahallede yaşadığı, o bölgedeki polisin niceliği ve kalitesi, hatta önyargıları. Kişinin yaşı, cinsiyeti, fiziksel görünümü, bunların hepsinin, o kişinin bir tutuklama kaydına sahip olma olasılığı üzerinde kesişen etkileri vardır ve tahmin etmeye çalıştığımız suçu işlemeye yönelik gerçek eğilimlerinden tamamen ayrıdır."
Heisie, Daha iyi avukatlara sahip sanıkların kayıtların kamuya açıklanmasını engelleme olasılığının daha yüksek olduğunu söyledi. Bazı yargı bölgeleri, sanığı korumak için kamera görüntüleri veya tutuklama kayıtlarının yayınlanmasını sınırlandırır.
"Bilgisayar, verdiğiniz verilere dayanarak öğrenecek ve bu veri toplama işlemine giren tüm önyargıları birleştirecektir…"
"Bütün bunlar algoritmalara daha fazla yanlılık katıyor" diye ekledi. "Bilgisayar, verdiğiniz verilere dayanarak öğrenecek ve bu veri toplamaya giren tüm önyargıları öğrenme ve yorumlamaya dahil edecektir."
Heisie, Yapay zekaları öngören ve genellikle skandal sonuçlarla suç yaratmaya yönelik birkaç girişimde bulunulduğunu söyledi.
Kolluk kuvvetlerinin yeniden suç işlemeyi tahmin etmek için kullandığı bir algoritma olan COMPAS, genellikle ceza ve kefalet belirlemede kullanılır. Siyah sanıkların gerçekte olduğundan daha yüksek bir tekrar suç işleme riski oluşturduğunu ve beyaz sanıklar için bunun tam tersi olduğunu tahmin ederek, ırksal önyargı nedeniyle 2016 yılına kadar giden bir skandalla karşı karşıya kaldı.
Harvard, MIT, Google ve Microsoft'tan akademisyenler ve yapay zeka uzmanları da dahil olmak üzere 1000'den fazla teknoloji uzmanı ve bilim insanı, 2020'de araştırmacıların yalnızca bir Heisie, bu tür çalışmaların yayınlanmasının ceza adalet sisteminde önceden var olan ırksal önyargıyı güçlendirdiğini söyleyerek, kişinin yüzüne dikkat çekti.
Heisie, 200 milyondan fazla gözetleme kamerası ve uzun yıllardır bu konuya odaklanan gelişmiş yapay zeka araştırmalarıyla, öncelikle özel verilere yaygın erişim nedeniyle Çin'in bu tür teknolojiler için en büyük ve en hızlı büyüyen pazar olduğunu söyledi.. CloudWalk's Police Cloud gibi sistemler artık suçluları tahmin etmek ve takip etmek ve kanun yaptırımlarını saptamak için kullanılıyor.
"Ancak, orada da önemli önyargılar bildiriliyor," dedi Heisie.
Heisie, şirketinin, içeri giren ve sabıka kaydı veya tutuklama kayıtları kullanmayan verileri dikkatli bir şekilde küratörlüğünü yaptığını ve "bunun yerine daha nesnel kriterlere odaklandığını" ekledi.
"Yapay zekamız derlenmiş verilerden öğrendi, ancak daha da önemlisi, kayıtları kendileri analiz eden, derleyen ve değerlendiren ve bize başkalarıyla etkileşimlerini anlatan insanlardan da öğrenir" diye ekledi. "Ayrıca, uygulamamıza tam şeffaflık ve ücretsiz ve herkese açık erişim sağlıyoruz (beta sürümüne izin verebileceğimiz kadar hızlı bir şekilde) ve süreçlerimize ve prosedürlerimize ilişkin içgörüleri memnuniyetle karşılıyoruz."
