Önemli Bilgiler
- DALL-E2 adlı yapay zeka sistemi, kendi yazılı iletişim sistemini oluşturmuş gibi görünüyor.
- Bazı uzmanlar, görünen dilin anlamsız olabileceğini söylüyor.
- Gelişmiş yapay zeka sistemlerinin sonuçlarını yorumlamanın ne kadar zor olduğunun bir örneği.
Yapay Zeka (AI) kendi dilini geliştirmiş gibi görünüyor, ancak bazı uzmanlar iddiaya şüpheyle bakıyor.
OpenAI'nin DALL-E2 adlı metinden görüntüye yapay zeka sistemi, kendi yazılı iletişim sistemini oluşturmuş gibi görünüyor. Gelişmiş yapay zeka sistemlerinin sonuçlarını yorumlamanın ne kadar zor olduğunun bir örneği.
iMerit'te doğal dil anlayışı için çözümler mimarisi direktörü Teresa O'Neill, Lifewire'a bir e-posta röportajında \"Büyük modellerin boyutu ve derinliği nedeniyle model davranışını açıklamak çok zordur\" dedi. "Bu, temel zorluklardan biri ve bazı durumlarda, giderek daha güçlü modellerle ilgili etik sorunlar. Neden böyle davrandıklarını açıklayamazsak, davranışlarını tahmin edebilir veya norm ve beklentilerimize uygun tutabilir miyiz?"
AI Sohbetleri
Bilgisayar Bilimi öğrencisi Giannis Daras, kısa süre önce, metin girişine dayalı görüntüler oluşturan DALLE-2 sisteminin belirli koşullar altında anlamsız kelimeleri metin olarak döndüreceğini kaydetti.
Arxiv önbaskı sunucusunda yayınlanan bir makalede "DALLE-2'nin bilinen bir sınırlaması, metinle mücadele etmesidir" diye yazdı. "Örneğin, 'Uçak kelimesinin bir görüntüsü' gibi metin istemleri genellikle anlamsız metinleri betimleyen oluşturulmuş görüntülere yol açar."
Ama, diye yazdı Daras, görünen anlamsızlığın arkasında bir yöntem olabilir. "Bu üretilen metnin rastgele olmadığını, daha ziyade modelin dahili olarak geliştirdiği görünen gizli bir kelime dağarcığını ortaya çıkardığını keşfettik" diye devam etti. "Örneğin, bu anlamsız metinle beslendiğinde, model sıklıkla uçak üretiyor."
Tweet'inde Daras, DALLE-2'den iki çiftçi arasındaki bir konuşmayı altyazı yapması istendiğinde, bu onların konuştuklarını gösterdiğini, ancak konuşma balonlarının anlamsız görünen kelimelerle dolu olduğunu belirtti. Ancak Daras, kelimelerin yapay zeka için kendi anlamlarını taşıdığını keşfetti: çiftçiler sebzeler ve kuşlar hakkında konuşuyorlardı.
AI ile çalışan teknoloji şirketi Hupry'nin CEO'su Nicola Davolio, Lifewire'a bir e-posta röportajında, dilin DALL-E2 sisteminin belirli kavramlarla ilişkilendirmeyi öğrendiği sembollere dayandığını açıkladı. Örneğin, "köpek" sembolü bir köpeğin resmiyle ilgili olabilirken "kedi" sembolü bir kedi resmiyle ilişkilendirilebilir. DALL-E2, diğer AI sistemleriyle daha etkili iletişim kurmasını sağladığı için kendi dilini yarattı.
DALL-E2'nin görünüşte gizli kelime dağarcığı gibi bulmacalarla boğuşmak eğlencelidir, ancak aynı zamanda daha ağır soruları da vurgularlar…
"Dil, Mısır hiyerogliflerine benzeyen ve belirli bir anlamı yokmuş gibi görünen sembollerden oluşuyor" diye ekledi. "Simgeler muhtemelen insanlar için anlamsızdır, ancak milyonlarca görüntü üzerinde eğitildiği için AI sistemi için mükemmel bir anlam ifade ediyor."
Davolio, Araştırmacılar, AI sisteminin, görseller ve kelimeler arasındaki ilişkileri daha iyi anlamasına yardımcı olmak için dili yarattığına inanıyor.
"Yapay zeka sisteminin dilini neden geliştirdiğinden emin değiller, ancak görüntü oluşturmayı nasıl öğrendiğiyle ilgili olabileceğinden şüpheleniyorlar," diye ekledi Davolio. "AI sisteminin, farklı ağ parçaları arasındaki iletişimi daha verimli hale getirmek için dilini geliştirmesi mümkündür."
AI Gizemleri
Davolio, DALL-E2'nin kendi iç dilini geliştiren tek yapay zeka sistemi olmadığını belirtti. 2017'de Google'ın AutoML sistemi, belirli bir görevi en iyi nasıl tamamlayacağına karar vermek için bırakıldıktan sonra " alt ağ" adı verilen yeni bir sinir mimarisi biçimi oluşturdu. Bu alt ağ, insan yaratıcıları tarafından yorumlanamadı.
"Bu örnekler, yapay zeka sistemlerinin açıklayamadığımız şeyleri yapmanın yollarını geliştirdiği sadece birkaç örnek," dedi Davolio. "Eşit ölçülerde büyüleyici ve endişe verici olan yeni ortaya çıkan bir fenomen. Yapay zeka sistemleri daha karmaşık ve özerk hale geldikçe, kendimizi giderek nasıl çalıştıklarını anlamama konumunda bulabiliriz."
O'Neill, DALL-E2'nin kendi dilini oluşturduğunu düşünmediğini söyledi. Bunun yerine, görünürdeki dilsel buluşun nedeninin muhtemelen biraz daha sıradan olduğunu söyledi.
"Makul bir açıklama rastgele bir şanstır - bu kadar büyük bir modelde biraz Murphy Yasası geçerli olabilir: Garip bir şey olabilirse, muhtemelen olacaktır," diye ekledi O'Neill. Araştırma analisti Benjamin Hilton tarafından Daras'ın bulgularını tartışan bir Twitter dizisinde öne sürülen bir başka olasılık, "apoploe vesrreaitais" ifadesinin biçiminin bir hayvan için Latince bir isim biçimini taklit etmesidir. Böylece sistem yeni bir Aves düzeni oluşturdu, diye ekledi O'Neill.
"DALL-E2'nin görünüşte gizli kelime dağarcığı gibi bulmacalarla boğuşmak eğlencelidir, ancak aynı zamanda büyük modellerin genellikle esrarengiz davranışlarındaki risk, önyargı ve etikle ilgili daha ağır soruları vurgularlar," dedi O'Neill.
