Eda Aydın
Google’ın çatı şirketi Alphabet’te 10 yıllık tecrübenin ardından şirketten ayrılan Geoffrey Hinton, Reuters’a konuştu.
Yapay zekâ girişimleri adına öncü isimler arasında yer alan Geoffrey Hinton, YZ’nin getireceği olası riskler hakkında konuşurken Google’ın süreçten etkilenmemesi için mevcut işinden ayrılmıştı.
“Yapay zekânın vaftiz babalarından biri” olarak anılan Hinton, işverenini etkilemeden yapay zekâ teknolojileri hakkında konuşmak istediğini söyleyerek Alphabet’ten istifa etmişti.
Hinton bugüne dek çağdaş yapay zekâ sistemlerinin geliştirilmesinde büyük rol oynamıştı. 1986 yılında yapay zekâ teknolojisinin altında yatan sinir ağlarının geliştirilmesinde kilometre taşı olarak kabul edilen “geriye yönelik hataların öğrenilmesi” konusunda ufuk açıcı makalenin ortak yazarı olarak da tanınıyor. Hinton 2018 yılında bu araştırması sebebiyle Turing Ödülü’ne de layık görülmüştü.
Yapay Zekâ Endişesi Artıyor
Hinton her ne kadar YZ’nin bugünlere gelmesinde büyük emekler harcamış olsa da yapay zekânın gelecekteki olası tehditleri konusunda endişelere sahip.
Hinton şöyle konuşuyor:
“İklim Değişikliği sorununu gölgelemek istemem. İklim Krizi hakkında endişelenmene gerek yok, demek de istemem. Ancak bu da büyük bir risk. Yapay zek3anın daha acil bir tehlike olabileceğini düşünüyorum.”
“İklim Değişikliği ile ilgili ne yapmanız gerektiği hakkında tavsiye vermek çok kolay: Sadece karbon yakmayı bırakıyorsunuz. Bunu yaparsanız, önünde sonunda her şey yoluna girecek. YZ için ne yapmanız gerektiği hiç belli değil.”
Microsoft destekli OpenAI, YZ destekli sohbet robotu ChatGPT’yi halka açık hâle getirdiği kasım ayında teknolojik bir silahlanma yarışında başlangıç düdüğünü çalmıştı. Kısa sürede tarihin en hızlı büyüyen uygulaması hâline gelen ChatGPT, iki ayda aylık 100 milyon kullanıcıya ulaştı.
Nisan ayında Twitter CEO’su Elon Musk, OpenAI’ın yakın zamanda piyasaya sürdüğü GPT-4’dan daha güçlü sistemlerin geliştirilmesinde altı aylık bir duraklama çağrısında bulunan ve binlerce kişinin imzasının yer aldığı bir açık mektup yayınlamıştı.
İmzacılar arasında Stability AI’ın CEO’su Emad Mostaque, Alphabet’e ait Deepmind’daki araştırmacılar ve YZ öncüleri Yoshua Bengio ve Stuart Russell da yer almıştı.
Hinton, imzacıların yapay zekanın insanlık için varoluşsal bir tehdit olabileceğine dair endişelerini paylaşırken, araştırmayı duraklatma fikri için aynı görüşte değil.
“Duraklatma fikri tamamıyla gerçekçi değil. Bunun varoluşsal bir risk olduğunu düşünen taraftayım ve şu anda çok sıkı çalışmamız ve bu konuda ne yapabileceğimizi bulmak için çok fazla kaynak harcamamız gerekiyor.”
Beyaz Sarayda Yapay Zekâ Gündemi
Bu arada ABD Başkanı Joe Biden, Beyaz Saray’da Alphabet CEO’su Sundar Pichai ve OpenAI CEO’su Sam Altman da dahil olmak üzere bir dizi yapay zekâ şirketinin lideriyle görüşerek firmaların sistemleri konusunda daha şeffaf olmaları gerektiği konusunda uyarılarda bulunmuştu.
Hinton sözlerini şu şekilde noktaladı:
”Teknoloji liderleri bunu en iyi şekilde anlıyor ve politikacıların da süreçlere dahil olması gerekiyor. Tüm bunlar hepimizi etkiliyor, bu yüzden hepimiz bunu birlikte düşünmek zorundayız.”
Siz yapay zekânın geldiği son nokta hakkında ne düşünüyorsunuz? Yorumlarınızı Kayıp Rıhtım Forum’da paylaşabilir, daha fazlası için bizleri Google News’ten takip edebilirsiniz.
Kaynak: Reuters
Crichton okumuş rıhtım üyeleri iklim haberi görünce güzel bir kahkaha atıyordur herhalde.
Bence de çok büyük bir sorun, bu yönden katılıyorum söylediklerine. Pe çok yönden yaşamımızı tehlikeye sokacağını düşünüyorum, bakalım bu işin sonu nereye varacak
Bence bir çok alet gibi iyiye veya kötüye kullanmak mümkün. Bıçak ile salata da yapabilirsiniz insanlara zarar da verebilirsiniz. Aynı mantığın yapay zeka için de geçerli olduğunu düşünüyorum.
Bence iki temel sorun bulunuyor bunlar; işsizliğin artması ve Cambridge Analytica benzeri insanları sınıflandırılması ve manipülasyon edilmesi amaçlı kullanılması.
Bana ikincisi daha büyük problemmiş gibi geliyor. Diktatörlük ve otokrasi kurmak isteyenler için büyük bir nimet bu.
Ayrıca yine aynı şekilde manipülasyon yöntemlerinin reklam amaçlı kullanılması da çok kötü.
Bence yapay zekanın ve kompleks algoritmik sınıflandırma araçlarının insanların manipülasyonu için kullanımının yasaklanması gerekiyor.
Bence buradaki asıl problem “orantısız fayda” saÄlaması. Ä°Åinde gücünde normal bir insansan sana faydası bazı amaçlar için google’dan daha iyi bir arama motoru; ne bileyim kiÅisel projelerinde boilerplate dediÄimiz sıradan basmakalıp kod parçalarını yazmaktan kurtarması falan olur. O sırada bir kapital sahibi için faydası, yaptıÄı iÅe baÄlı olarak çıktıyı küçültmeden çalıÅanların yarısını iÅten çıkarma, kalan yarısıyla da çok daha avantajlı bir pozisyondan pazarlık etme fırsatı olabilir. Önümüzdeki yıllarda iÅgücünün ekonomiden aldıÄı payın çok daha aÅaÄılara düÅmesini bekliyorum ben.
Bence ikincisi küçük bir problem. Yani daha doÄrusu Åöyle, bence ikincisi de çok büyük bir problem ama bu zaten halihazırda çok büyük bir problemdi, bu teknolojiyle problemin marjinal büyümesi bence o kadar mühim olmaz.
Ama asıl birincisi bizi bitirir gibi geliyor. Bence biz yine bir Åekilde kurtarırız da, bizden bir sonraki nesilden itibaren ortaçaÄın topraÄa baÄlı köleleri gibi yaÅamaya döneriz gibi geliyor. Zaten Åimdiden gelirimin üçte birini kralıma (vergi), üçte birini lorduma (kira) verip kalanıyla yaÅıyorum ben hahah.
Bugün buna denk geldim. 1960’lı çocuklar 2000’leri hayal ediyor.