Yapay zekâ araştırmacıları, mühendisleri ve üst düzey yöneticileri kısa bir bildiri yayımlayarak yapay zekânın insanlığı yok edebileceği uyarısında bulundu.
Mümkün olduğunca geniş kitlelerce kabul edilebilir olması için kısaltılan açıklama şu şekilde:
“Yapay zekâ kaynaklı yok olma riskini azaltmak, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olmalıdır.”
San Francisco merkezli kâr amacı gütmeyen bir kuruluş olan Center for AI Safety tarafından yayınlanan bildiri, Google DeepMind CEO’su Demis Hassabis ve OpenAI CEO’su Sam Altman‘ın yanı sıra, yapay zekâ konusundaki çalışmalarıyla 2018 Turing Ödülü’nü kazanan üç yapay zekâ araştırmacısından ikisi olan Geoffrey Hinton ve Yoshua Bengio gibi isimler tarafından da imzalandı. Ancak yılın üçüncü kazananı olan ve şu anda Facebook’un ana şirketi Meta’da baş YZ bilimcisi olan Yann LeCun henüz imza atmadı.
Bildiriye imza atan eski Google çalışanı Geoffrey Hinton, daha önce yaptığı bir açıklamada bu konunun iklim krizinden daha acil bir tehlike olabileceğini vurgulamıştı.
Bu uyarı, YZ güvenliğiyle ilgili tartışmalı bir konuya yönelik son derece etkili bir müdahale olarak kabul edildi. Daha önce bu konuda altı aylık bir “duraklama” çağrısı yapan bir mektup yayınlanmış, ancak bu mektup eleştirilere maruz kalmıştı.
Yapay Zekâ İnsanlığı Yok Edebilir Uyarısı Uzmanları İkiye Böldü
Center for AI Safety’nin yönetici direktörü Dan Hendrycks, bu kez daha kısa ve anlaşılır bir açıklama yapmayı tercih ettiklerini belirtti. Açıklamanın amacının, farklı görüşleri engellemek olduğunu ve geniş bir müdahale yelpazesini kapsamak istemediklerini ifade etti.
Hendrycks, bu açıklamanın, yapay zekâ riski konusunda endişeli olanlara yönelik bir “açılma” olduğunu söyledi. YZ topluluğunda bu konuda endişe duyanların sayısının daha fazla olduğunu belirtti.
Yapay zekâ sistemlerinin hızla geliştiği ve kontrolünün zorlaştığı tartışması bilindik olsa da, bazı uzmanlar gelecekte bunların daha da gelişerek kontrol edilemez hâle gelebileceğini öngörüyor. Ancak bazı isimler de YZ sistemlerinin hâlâ bazı basit görevleri yerine getirmede zorlandığını ve gelecekteki başarılarının belirsiz olduğunu savunuyor.
Her iki taraf da, YZ sistemlerinin günümüzdeki kullanımlarının kitlesel gözetimi mümkün kıldığını, yanlış bilgi ve dezenformasyonun yayılmasına katkı sağladığını ve çeşitli tehditler oluşturduğunu kabul ediyor.
Kısa ama öz olarak yayımlanan bu yeni uyarı hakkındaki düşüncelerinizi Kayıp Rıhtım Forum‘da bizlerle paylaşabilir, ayrıca tüm içeriklerimizden anında haberdar olmak için bizi Google Haberler üzerinden takip edebilirsiniz.
Kaynak: The Verge
Birlikte barış içinde yaşarsak hiç sorun olmaz bence.
Yapay zekaya şu öğretilirse, belki insan türü olarak hayatta kalma olasılığımız daha yüksek olur: İnsanların çoğunluğu bir şeylere nedensizce - koşulsuzca - sorgulamadan kendisine söylenilen her şeye inanmaya ve itaat etmeye bayılır, yaratacağı robotlardan her topluluğun - milletin - ülkenin çoğunluk inancına göre ‘dini söylemleri anlatacak ve ritüelleri yönetecek’ olanları akıllıca kendi çıkarları doğrultusunda kullansın. Ne çatışmaya ne de savaşmaya gerek kalmaz, hepimiz güllük gülistanlık bir halde yaşamaya devam eder gider
Yapay zeka Camus’u dinleyip tüm siyasetçileri, din adamlarını ve felsefecileri yok ederse sanırım insanlık olarak rahat ederiz.
Ben yok olacağım kadar olmuşum zaten. Bunları birinci dünya ülkeleri düşünsün. Ben henüz karnımı doyurma ve barınma aşamasındayım.
Geçmiş zamanlarda birçok yerde bunun distopyası yapıldı gerek romanlarda gerek filmlerde… şimdide yapılıyor fakat değişen bir şey olmayacak. Körü körüne uçuruma gidiyoruz. Bunları geliştiren şirketleri kimin fonladığı belli. Veyahut dünya genelinde milletçiliği, ulusalcılığı bitirme projesini kimlerin yaptığı da belli. Sadece Türkiye değil, Dünyadaki birçok ülkeleye inanılmaz bir göç var. Dünya üzerindeki tüm nüfusları homojen yapıya evirmeye çalışmaları apaçık ortada yani bu hayalperestlik olmuyor. Her neyse şimdi bunlar ne alaka diyebilirsiniz alakası şu: Distopya olarak geçmiş yıllarda lanse edilen her şey niyeyse ders almak gerekirken bu işten körü körüne bu kötü geleceğe gidişimiz. Küresel ısınma, tarımsal üretim…