Devrim Beyaz
Yapay zekâ, şimdi de kendine has bir dil yaratmayı başardı. Open AI’ın DALL-E2 adlı sistemi henüz çözülememiş özgün bir dil geliştirdi. Yapay zekânın kullandığı kelimelerin hiçbir dilde karşılığı olmadığı belirtildi.
Ünlü yapay zekâ firması Open AI tarafından hazırlanan Dall-E2 adlı yapay zekâ sistemi kendi dilini yarattı.
Yazılı ifadeleri son derece gerçekçi görsellere dönüştürebilen sistemin kullandığı bazı kelimelerin başka hiçbir dilde karşılığı olmadığı fark edildi.
Geçen günlerde Google, metinleri gerçekçi fotoğraf karelerine dönüştüren Imagen teknolojisini duyurmuştu. OpenAI ise aynı alanda daha önce Dall-E ile dikkat çekici çalışmalara imza atmıştı.
2015 yılında kurulan OpenAl, Dall-E’yi geliştirmeye devam ediyor. Şirket, şimdi de bu sistemin daha gelişmiş bir versiyonu olan Dall-E2 üzerinde çalışıyor.
Kendisiyle paylaşılan tanımlamaları kanyak alarak benzersiz görseller ve sanat eserleri oluşturan sistemin, gizemli bir dil oluşturduğu fark edildi. Bu durum, kimi yapay zekâ meraklılarını korkutmuş durumda.
Sistemin saklı dili ABD’deki Texas Üniversitesi’nde bilgisayar bilimi alanında doktora yapan Giannis Daras tarafından fark edildi.
Daras, Twitter’da çokça paylaşılan bir zincirde inceleme sonuçlarını kamuoyu ile paylaştı.
Yapay Zekâ, Bilinmeyen ve Kendine Has Bir Dil Konuşuyor
Zincirde aktarılana göre, Daras sistemden “sebzeler hakkında konuşan çiftçiler” görüntüsünü oluşturmasını istedi.
Ortaya çıkan görüntüde gerçekten de iki çiftçinin bir şeyler hakkında konuştuğu görülüyordu. Çiftçilerden birinin elinde yeşil yapraklı sebzeler vardı.
Bununla birlikte fotoğrafın üst kısmında yer alan “vicootess” kelimesi Daras ve bir meslektaşının dikkatini çekti. Çünkü bu kelimenin hiçbir dilde karşılığı olmadığı biliniyordu.
Daha sonra kelimeyi algoritmaya geri yükleyen Daras, bunun yapay zeka sisteminin kendi dilinde “sebze” anlamına geldiğini fark etti. Sisteme bu sözcük girildiğinde yapay zekâ da sebze görüntüleri oluşturuyordu.
Ardından ilk görselde çiftçilerin konuşma balonlarında yazan sözcükler fark edildi: “Poploe vesrreaitars”.
Daras bu kelimeleri sisteme yüklediğinde de birçok kuş görüntüsü elde ettiğini aktardı:
“Görünüşe bakılırsa çiftçiler sebzeleriyle uğraşıyor ve kuşlardan bahsediyor!”
Daras, yapay zekânın sahip olduğunu düşündüğü “gizli kelime dağarcığı” hakkında bir de makale kaleme aldı. Ancak bu yayın, henüz hakemli bir bilimsel dergide yer bulmadı.
Güvenlik Sorunu Yaratabilir
Sistemin birincil işlevinin altında yatan ya da onunla paralel olarak çalışan bir “gizli kelime dağarcığı” oluşturduğunu belirten araştırmacı endişesini ise şu sözle ifade etti:
“DALLE-2’nun gizli bir dili var. Bu keşif, güvenlik ve yorumlamayla ilgili birçok sorun yaratıyor.”
Korku filmlerine senaryo yazan, rap müzik besteleyen, makale yazan, arkeolojik keşiflerde kullanılan yapay zekâ, şimdi de kendine has gizli bir dille gündeme geldi.
Bu gizemli dile dair sizin görüşleriniz neler? Fikirlerinizi Kayıp Rıhtım Forum’da bizlerle paylaşabilirsiniz.
Kaynak: The Independent
Açılın hocamlar yapay zeka ıslak battaniyeniz geldi.
Üzülerek belirtmeliyim ki yapay sinir ağlarında sık gözlenen bir durumu fazlaca sansasyonel bir şekilde ele almış arkadaşlar. Rastgele pikselleri “5”, “panda”, vesaire olarak tanıyabiliyor bu sistemler. Bu tarz durumlardan kaçınmak için modelleri yapay gürültüyle beraber falan eğitiriz. Ki eminim onlar da bu duruma karşı bolca önlem almışlardır. Atıyorum “ksbrfhjrdbgtrh” yazarsanız bir şey cıkarmayacak kadar anlıyordur söz gelimi, ama her durumu da anlayamaz. (İlgileniyorsanız daha fazla bilgi için “adversarial attacks in neural networks”, “noise-robust recognition” gibi konuları araştırabilirsiniz.)
Ha buna “sadece kendi anlayacağı bir dil geliştirmek” denir mi orasını sizin takdirinize bırakıyorum
Ama makale fazlaca sansasyonelize yazılsa da keyifli bir makale.