Önemli Bilgiler
- Uzmanlar, AI ve makine öğrenimi algoritmalarının insan davranışını izlediğini ve onu manipüle etmeyi öğrenebileceğini söylüyor.
- Araştırmacılar yakın zamanda insanların yapay zeka kullanarak seçim yapma yollarındaki güvenlik açıklarını bulmanın ve bunlardan yararlanmanın bir yolunu yarattı.
- Şu anda en gelişmiş sosyal medya algoritması TikTok, diyor bir gözlemci.
Yapay zeka (AI) ve makine öğrenimi algoritmaları, kullanıcıların davranışlarını nasıl etkileyeceğini giderek daha fazla öğreniyor, diyor uzmanlar.
Avustralya'nın ulusal bilim ajansındaki araştırmacılar, kısa bir süre önce insanların yapay zeka kullanarak seçim yapma biçimlerindeki güvenlik açıklarını bulmanın ve bunlardan yararlanmanın bir yolunu yarattı. En son araştırma, insanların karar verme sürecini manipüle etmek için tasarlanmış yapay zekaya dayalı sistemlerden yalnızca biri.
Michigan Üniversitesi Bilgi Okulu'nda profesör ve Geek Heresy: Rescuing Social Change from the Cult of Technology kitabının yazarı Kentaro Toyama, "Yapay zekanın davranışları etkilediği birçok yolun sonu yok", bir e-posta röportajında söyledi.
"Aslında, bir Google araması yaptıysanız ve bir bağlantıyı takip ettiyseniz, ilgi alanlarınızı tahmin eden ve sizinle en alakalı olduğunu düşündüğü sonuçları veren bir yapay zeka sisteminden etkilenmişsinizdir."
AI ve İnsanlar
Yakın tarihli bir makalede yayınlanan Avustralya araştırmasında, insan katılımcılar çeşitli deneylerde bilgisayara karşı oyun oynadılar. İlk deneyde katılımcılar para kazanmak için kırmızı veya mavi renkli kutuları tıklattı.
Yapay zeka, katılımcının seçim modellerini öğrenerek ve onları belirli bir seçime yönlendirerek zamanın yaklaşık %70'inde başarılı oldu.
Başka bir deneyde, katılımcılar bir ekran izlediler ve kendilerine belirli bir sembol gösterildiğinde bir düğmeye bastılar veya başka bir sembol sunulduğunda ona basmadılar. AI, sembolleri yeniden düzenlemeyi öğrendi, böylece katılımcılar daha fazla hata yaptı.
Deneylerin sonucuna göre araştırmacılar, yapay zekanın katılımcıların yanıtlarından öğrendiğini ortaya koydu. Makine daha sonra insanların karar verme sürecindeki güvenlik açıklarını belirledi ve hedefledi. Aslında yapay zeka, katılımcıları belirli eylemlerde bulunmaları için manipüle edebilir.
Gözlemciler, yapay zekanın veya makine öğreniminin insanları manipüle edebilmesinin sürpriz olmaması gerektiğini söylüyor.
York College of Pennsylvania'da siber güvenlik ve işletme yönetimi bölümünde yardımcı doçent olan Tamara Schwartz bir e-posta röportajında "AI her gün davranışlarımızı etkiliyor" dedi.
"Facebook veya Twitter gibi sosyal medya uygulamalarında algoritmaları her zaman duyuyoruz. Bu algoritmalar dikkatimizi ilgili içeriğe yönlendiriyor ve 'yankı odası' etkisi yaratıyor ve bu da davranışlarımızı etkiliyor."
TikTok İzliyor
Şu anda en gelişmiş sosyal medya algoritması TikTok, dedi Schwartz. Uygulama, ilgilendiğiniz şeyleri, bir şeyi ne kadar süre izlediğinizi ve bir şeyi ne kadar çabuk atladığınızı analiz eder ve ardından sizi izlemeye devam etmek için tekliflerini iyileştirir.
"TikTok, neyi sevdiğinizi, nasıl öğrendiğinizi ve bilgiyi nasıl seçtiğinizi anlayan bu AI algoritması nedeniyle diğer platformlardan çok daha fazla bağımlılık yapıyor" diye ekledi. "Bunu biliyoruz çünkü kullanıcıların TikTok'ta geçirdikleri ortalama süre 52 dakika."
Yapay zeka şirketi Pathmind CEO'su Chris Nicholson bir e-posta röportajında İnsan davranışının yapay zeka tarafından manipüle edilmesinin olumlu kullanımları olabileceğini savundu. Örneğin halk sağlığı kurumları, insanları daha iyi kararlar almaya teşvik etmek için yapay zekayı kullanabilir.
"Ancak sosyal medya, video oyunu yapımcıları, reklamcılar ve otoriter rejimler, insanları kendi çıkarlarına uygun olmayan kararlar almaya teşvik etmenin yollarını arıyor ve bu onlara bunu yapmak için yeni araçlar sağlayacak, " ekledi.
Yapay zekayı etkileyen davranışla ilgili etik meseleler genellikle derece meselesidir, dedi Toyama. AI, bireysel tercihlerin ve zayıflıkların istismar edilebileceği odaklanmış reklamlara izin verir.
"Örneğin, bir yapay zeka sisteminin sigarayı bırakmaya çalışan insanları tespit etmesi ve onları cazip sigara reklamlarıyla doldurması mümkün," diye ekledi.
İnsan davranışının yapay zeka tarafından manipüle edilmesinin sorunlu olduğu konusunda herkes hemfikir değil. Stevens Yapay Zeka Enstitüsü müdürü Jason J. Corso bir e-posta röportajında, klasik psikoloji ve yapay zekanın her ikisinin de verileri gözlemlediğini belirtti.
Corso, "İnsan bilim adamları, gözlemleri genelleştirmede ve daha geniş çapta uygulanabilecek insan davranışı teorilerini damıtmakta muhtemelen daha iyidir, oysa AI modelleri soruna özgü nüansları belirlemeye daha uygun olacaktır," dedi.
"Etik açıdan, bunlar arasında bir fark görmüyorum."
