Önemli Bilgiler
- Yeni araştırmalar, süper akıllı yapay zekayı kontrol etmenin bir yolu olmayabileceğini öne sürüyor.
- Bir dergi makalesi, AI'yı kontrol etmenin şu anda sahip olduğumuzdan çok daha ileri teknoloji gerektireceğini savunuyor.
- Bazı uzmanlar, gerçekten zeki yapay zekanın düşündüğümüzden daha erken burada olabileceğini söylüyor.
İnsanlar süper akıllı yapay zeka geliştirirse, onu kontrol etmenin bir yolu olmayabilir, diyor bilim adamları.
AI uzun zamandır ya tüm insanlığın sorunları için bir tedavi ya da Terminatör tarzı bir kıyamet olarak lanse ediliyor. Şimdiye kadar, AI, insan seviyesindeki zekaya bile yaklaşmadı. Ancak Yapay Zeka Araştırmaları Dergisi'nde yayınlanan yakın tarihli bir makaleye göre, gelişmiş AI üzerinde bir tasma tutmak insanlar için çok karmaşık bir sorun olabilir.
Gazetenin ortak yazarlarından Manuel Cebrian bir haber bülteninde "Dünyayı kontrol eden süper akıllı bir makine kulağa bilimkurgu gibi geliyor" dedi.
"Ancak, programcılar bunu nasıl öğrendiklerini tam olarak anlamadan belirli önemli görevleri bağımsız olarak gerçekleştiren makineler zaten var. Bu nedenle, bunun bir noktada kontrol edilemez ve insanlık için tehlikeli hale gelip gelemeyeceği sorusu ortaya çıkıyor."
Yakında Yakınınızdaki Süper Bilgisayarda
Günlük makalesi, AI'yı kontrol etmenin şu anda sahip olduğumuzdan çok daha ileri teknoloji gerektireceğini savunuyor.
Çalışmalarında, ekip, önce yapay zekanın davranışını simüle ederek ve zararlı olduğu düşünülürse onu durdurarak süper akıllı bir yapay zekanın hiçbir koşulda insanlara zarar vermemesini sağlayan teorik bir sınırlama algoritması tasarladı. Ancak yazarlar, böyle bir algoritmanın inşa edilemeyeceğini buldular.
"Sorunu teorik bilgisayar biliminin temel kurallarına indirgerseniz, yapay zekaya dünyayı yok etmemesini emreden bir algoritmanın istemeden kendi operasyonlarını durdurabileceği ortaya çıkıyor." Almanya'daki Max Planck İnsani Gelişme Enstitüsü'ndeki İnsan ve Makineler Merkezi direktörü Iyad Rahwan, haber bülteninde söyledi.
"Bu olursa, sınırlama algoritmasının hala tehdidi analiz edip etmediğini veya zararlı AI'yı içermeyi bırakıp bırakmadığını bilemezsiniz. Aslında bu, sınırlama algoritmasını kullanılamaz hale getirir."
Fransa'daki École Polytechnique'de bilgisayar bilimi profesörü olan Michalis Vazirgiannis, Gerçekten akıllı yapay zekanın düşündüğümüzden daha erken burada olabileceğini söylüyor. Lifewire'a gönderdiği bir e-postada, "AI bir insan eseridir, ancak hızla özerk bir varlık haline geliyor" dedi.
"Kritik nokta, tekillik meydana gelip gelmediği/ne zaman olacağı (yani, AI ajanlarının bir varlık olarak bilince sahip olacağı) ve bu nedenle bağımsızlık, öz kontrol ve nihai hakimiyet talep edecekleri olacaktır."
Tekillik Geliyor
Vazirgiannis, süper yapay zekanın yakında geleceğini tahmin etmede yalnız değil. Yapay zeka tehdidine gerçek inananlar, Vazirgiannis'in açıkladığı gibi, yapay zekanın insan zekasının yerini alacağı ve "AI algoritmalarının potansiyel olarak varlıklarının farkına varacak ve bencil ve işbirliği içinde davranmaya başlayacakları" noktayı açıkladığı "tekillik" hakkında konuşmayı severler.
Google'ın mühendislik direktörü Ray Kurzweil'e göre, tekillik 21. yüzyılın ortalarından önce gelecek. Kurzweil, Fütürizm'e "2029, bir yapay zekanın geçerli bir Turing testini ne zaman geçeceğini ve dolayısıyla insan zeka düzeylerine ulaşacağını tahmin ettiğim tutarlı tarihtir" dedi.
Kendi evimizi temizleyemiyorsak, AI'dan hangi kodu izlemesini istememiz gerekir?
"Etkili zekamızı, yarattığımız zeka ile birleşerek milyar katına çıkaracağımız 'Tekillik' için 2045 tarihini belirledim."
Ancak tüm AI uzmanları akıllı makinelerin bir tehdit olduğunu düşünmüyor. Yapay zeka danışmanı Emmanuel Maggiori bir e-posta röportajında, geliştirilmekte olan yapay zekanın ilaç geliştirme için faydalı olma olasılığının daha yüksek olduğunu ve herhangi bir gerçek zeka göstermediğini söyledi. "Yapay zeka etrafında büyük bir heyecan var, bu da onu gerçekten devrim niteliğindeymiş gibi gösteriyor" diye ekledi. "Mevcut AI sistemleri, duyurulan kadar doğru değil ve bir insanın asla yapmayacağı hatalar yapıyor."
Şimdi Yapay Zekanın Kontrolünü Elinize Alın
Vazirgiannis, Yapay zekayı kontrolümüzden kaçmayacak şekilde düzenlemek zor olabilir, diyor. Yapay zekaya güç veren kaynakları hükümetler yerine şirketler kontrol ediyor. "Algoritmaların kendileri bile genellikle bu büyük ve güçlü, genellikle çok uluslu varlıkların araştırma laboratuvarlarında üretilir ve dağıtılır" dedi.
"Bu nedenle, eyalet hükümetlerinin yapay zekayı kontrol etmek için gerekli kaynaklar üzerinde giderek daha az kontrole sahip olduğu açıktır."
Bazı uzmanlar, süper akıllı yapay zekayı kontrol etmek için insanların bilgi işlem kaynaklarını ve elektrik gücünü yönetmesi gerektiğini söylüyor. Vazirgiannis, "The Matrix gibi bilim kurgu filmleri, insanların yapay zeka tarafından biyo-güç kaynağı olarak kullanıldığı distopik bir gelecek hakkında kehanetler yapıyor" dedi.
"Uzaktan imkansızlıklar olsa da, insanlık bilgi işlem kaynakları (yani bilgisayar kümeleri, GPU'lar, süper bilgisayarlar, ağlar/iletişim) ve elbette kesinlikle elektrik sağlayan elektrik santralleri üzerinde yeterli kontrol olduğundan emin olmalıdır. AI işlevine zararlı."
Veri bilimi yazılımı firması KNIME'nin kurucu ortağı ve CEO'su Michael Berthold, bir e-posta röportajında, AI'yı kontrol etmenin sorunu, araştırmacıların bu tür sistemlerin kararlarını nasıl aldıklarını her zaman anlamamasıdır. "Bunu yapmazsak, onu nasıl kontrol edebiliriz?"
Bize göre alakasız girdilere dayanarak tamamen farklı bir karar verildiğinde anlamıyoruz."
Yapay zeka kullanma riskini kontrol etmenin tek yolu, yalnızca bu risk yönetilebilir olduğunda kullanıldığından emin olmaktır, dedi Berthold. "Başka bir deyişle, iki uç örnek: Küçük bir hatanın feci yan etkileri olabileceği nükleer santralinizin başına yapay zekayı koymayın" diye ekledi.
"Öte yandan, yapay zeka, oda sıcaklığınızın biraz yukarı veya aşağı ayarlanması gerekip gerekmediğini tahmin ediyor, yaşam konforu için küçük bir riske değebilir."
Yapay zekayı kontrol edemiyorsak, ona görgü kurallarını öğretsek iyi olur, dedi eski NASA bilgisayar mühendisi Peter Scott bir e-posta röportajında. "Sonuçta, AI'nın kontrol edilebilirliğini çocuklarımızın kontrol edilebilirliğinden daha fazla garanti edemeyiz" dedi.
"Onları doğru yetiştiriyoruz ve en iyisini umuyoruz; şimdiye kadar dünyayı mahvetmediler. Onları iyi yetiştirmek için daha iyi bir ahlak anlayışına ihtiyacımız var; eğer kendi evimizi temizleyemezsek ne olur? AI'dan takip etmesini istememiz mi gerekiyor?"
Ancak insan ırkı için tüm umutlar kaybolmadı, diyor OrCam'de Ar-Ge başkan yardımcısı olan yapay zeka araştırmacısı Yonatan Wexler. Bir e-posta röportajında, "İlerlemeler gerçekten etkileyici olsa da, benim kişisel inancım, insan zekasının hafife alınmaması gerektiğidir" dedi. "Bir tür olarak, yapay zekanın kendisi de dahil olmak üzere oldukça şaşırtıcı şeyler yarattık."
Daha akıllı yapay zeka arayışı devam ediyor. Ama çok geç olmadan yarattıklarımızı nasıl kontrol ettiğimizi düşünmek daha iyi olabilir.
