Londra Nehirleri

3 Robot Yasası: Üç Adımda Asimov’la Tartışmak

Neredeyse bütün bilimkurgu dünyasının benimseyip kabullendiği Isaac Asimov'un "3 Robot Yasası" ne derece gerçekçi ya da uygulanabilir dersiniz? Gelin bu kadim kuralları hep birlikte anlamaya çalışalım.

Asimov ve onun 3 Robot Yasası hakkında konuşmadan önce, robot ve robotik sözcüklerinin kökenine bakmak faydalı olabilir. Robot sözü Çek yazar Karel Capek tarafından, Slav dilinde işçi, köle, serf anlamına gelen robota kelimesinden türetilmiştir. Robotik ise robot kelimesinden türemiş, robotla ilgili, robot bilimi anlamına gelen bir sözcük olup, bu kelimeyi yazılı bir eserde ilk kez kullanan kişi Isaac Asimov’dur.

Asimov, robotik kelimesini eserlerinde ilk kez kullanan insan olmasına rağmen bu alanda eser veren ilk yazar değildir. Aksine, Asimov’un bu alana yönelmesinin sebebi kendinden önceki yazarların yaptığı işlerin tekdüzeliğinden sıkılmış olmasıdır. Robot hikâyeleri yazmaya başlamasının sebebini şöyle açıklar:

“1920’lerde bilimkurgu ilk defa popüler bir sanat türü haline gelmeye başlıyordu… Bu dönemdeki sıradan kalıplardan biri robotların üretilmesi ve yaratıcılarını yok etmesiydi. Evet, bilginin tehlikeleri vardır, fakat bu tehlikenin çözümü bilgiden vazgeçmek midir? Yoksa bilginin kendisi, getirdiği tehlikelere karşı bariyer olarak mı kullanılmalıdır? Tüm bunları göz önüne alarak 1940’da robot hikâyelerini farklı bir açıdan ele alan hikâyelerimi yazmaya başladım. Asla ama asla benim robotlarımdan biri Faust’un suç ve cezasının bezdirici bir tekrarı olmak gibi aptal bir sebep için yaratıcılarına karşı gelmeyeceklerdi.”

Asimov’un bu eleştirel ve farklı tarzda yazdığı aykırı (o dönem için) eserlerinin benimsenmesi uzun sürmedi. Kısa zaman sonra Asimov’un John W. Campbell ile birlikte yarattığı ve robotları insanlar için bir tehdit olmaktan çıkaran 3 Robot Yasası geniş çevreler tarafından kabul gördü. Asimov bu durumu şu sözleriyle anlatır:

“Birçok robot yazarı alıntı bile yapmadan 3 Robot Yasası’nı benimsediler ve okuyucularının da aynı şeyi yapmasını beklediler.”

Neredeyse tüm bilimkurgu dünyasının kabul ettiği ve robotlar hakkındaki temel referansları olan 3 Robot Yasası şunlardır:

1- Bir robot bir insana zarar veremez veya pasif kalmak suretiyle bir insanın zarar görmesine izin veremez.

2- Bir robot 1. yasayla çelişmediği sürece kendisine insanlar tarafından verilen emirlere itaat etmek zorundadır.

3- Bir robot 1. ve 2. kurallarla çelişmediği sürece kendi varlığını korumak zorundadır.

Asimov robot yasalarını yarattığı için övülmemesi gerektiğini, yasaların en başından beri apaçık olduğunu ve insanların yasaları içgüdüsel olarak bildiğini, kendisinin tek yaptığınınsa yasaları açık bir şekilde ifade etmek olduğunu söyler. Aslında ben Asimov’un tam olarak bu sebeple takdir edilmesi gerektiğini düşünenlerdenim. Asimov herkesin sezgisel olarak kabul ettiği kuralları çok sade bir şekilde ifade etmiş ve bunu yaparken yasaların olabildiğince kapsamlı olmasını sağlamayı başarmıştır. Sonrasındaysa robot yasalarının bu kompleks yapısını yazacağı onlarca robot hikâyesinin temeline ustalıkla koymayı başarabilmiştir. Çoğunuzun bildiği gibi, Asimov çoğu robot hikâyesinde 3 Robot Yasası’na aykırı gibi görünen bir durumu yine 3 Robot Yasası’nı kullanarak açıklamaya çalışır. Bu sayede robot yasalarındaki olası açıklıkları keşfedip yok etmeyi ve robot yasalarını kusursuz hale getirmeyi hedefler.

Bu durum robot yasalarının tamamlanmış ya da mükemmel olduğu anlamına gelmiyor elbette. Fakat Asimov hikâyelerini yazdıkça robot yasalarının değişmesi gerektiğini fark etmiştir. Bu sebeple Birinci Yasa’yı revize etmiş ve kural kümesine Sıfırıncı Robot Yasası’nı eklemiştir. Bu değişikliklerle birlikte Asimov’un meşhur 3 yasası (4 yasaya çıkmış) aşağıdaki şekle bürünmüştür:

0- Bir robot insanlığa zarar veremez veya pasif kalmak suretiyle insanlığın zarar görmesine izin veremez.

1- Bir robot 0. yasayla çelişmediği sürece, bilgisi dahilinde bir insana zarar veremez veya pasif kalmak suretiyle bir insanın zarar görmesine izin veremez.

2- Bir robot 0. veya 1. yasayla çelişmediği sürece kendisine insanlar tarafından verilen emirlere itaat etmek zorundadır.

3- Bir robot ilk 3 yasayla çelişmediği sürece kendi varlığını korumak zorundadır.

Fakat bu yenilenmiş robot yasalarında hiç açık olmadığını söylemek gerçek dışı bir iddia olur. Peki neredeyse bütün bilimkurgu dünyasının benimseyip kabullendiği robot yasaları ne kadar gerçekçi ya da uygulanabilir kurallardır?

GÖZ ATIN  BioShock: Rapture Şehri – Modern Bir Atlantis

Yorumlama

Robot yasalarındaki ilk ve bence en önemli problem yasaların yorumlanmaya açık olmasıdır. Bu problemin çözümü de imkansıza yakın, çünkü Asimov makinelerin uymaları gereken yasaları doğal bir dil (natural language) olan İngilizce ile yazmıştır. Bilinen tüm doğal dillerde olduğu gibi İngilizcede de anlam belirsizliği (ambiguity) vardır. Bu sebeple, okunduğu zaman herkesin aynı şeyi anlayabileceği, üzerinde uzlaşabileceği, soyut kavramlardan tamamen arındırılmış robot yasaları yazmak mümkün olmayabilir. Mesela Birinci Yasa’yı ele alalım. Asimov ilk robot yasasındaki insan, robot veya zarar kavramlarının tam olarak ne ifade ettiğini açıklamamıştır ve bu durum da robot yasalarını belirsiz hale getirmektedir.

Örnek vermem gerekirse, sadece belirli fiziksel özelliklere sahip olan kişileri (mavi gözlü, siyah saçlı, 2 metreden uzun vs) insan olarak kabul eden robotlar yapmak pek tabii mümkündür. Zaten Güneşin Tanrıları’ndaki Solarialılar benzer şekilde, sadece kendi aksanlarıyla konuşan kişileri insan olarak gören robotlar yapmışlardır. Fakat farklı robotların farklı insan tanımlarına sahip olmalarının sonucunun felaket olacağı göz önüne alınıp (bir robot, insan olarak kabul etmediği bir kişiyi rahatlıkla öldürebilir. Bu durum açıkça ilk robot yasasının ihlalidir) Robot ve İmparatorluk kitabında insan tanımı olarak türün (Homo Sapiens) tüm elemanları kabul edilmiştir. Bu noktada insanlar sadece istedikleri tanıma uyan kişileri insan olarak kabul eden robotlar yapmaya neden devam etmiyorlar gibi sorular sorulabilir. Ancak ideal bir Asimov dünyasında, robotlar insan ırkının tüm elemanlarını insan olarak kabul eder ve ben de yazıma bu varsayım üzerinden devam edeceğim.

Böyle bir tanımlama problemi tam olarak ortadan kaldırmıyor ne yazık ki. Çünkü bu tanımdan çıkacak doğal sonuç, Asimov’un Şafağın Robotları kitabında da dediği gibi, “Bir robot yeterince insansa robot olarak kabul edilmelidir… İnsan gibi görünüyor olması insan olmasına yeterli kanıttır.” Bu noktada şu bilgiyi vermek faydalı olacaktır: Asimov’un bir hikâyesinde de belirttiği gibi, insan görünümlü bir robotun sadece davranışlarından yola çıkarak robot olduğunu anlayamazsınız (bkz. Ben Robot’taki öykülerden Sakınılabilir Çatışma). 3 Robot Yasası’na uyan bir kişi robot olabileceği gibi çok iyi bir insan da olabilir. Sanırım robotlar açısından mavi veya kahverengi göz arasında fark olmadığı gibi, pozitronik beyinle insan beyni arasında da bir fark olmadığı düşünülebilir. İnsana benziyor olmak bir robot için insan olmakla aynı şeydir (Kuralın mantığını yine sorgulamayacağım. Kuralları Asimov koydu, ben sadece oynuyorum.). Bu durumsa görünüş olarak insandan ayırt edilemeyen robotların olduğu Asimov evreninde, insan görünümlü robotları insan hakimiyetinden çıkarmaktadır. Bu karışıklığı çözebilmek için ek robot yasalarına ihtiyaç olduğu açıktır. Bahsettiğim eksikliği fark eden Nikola Kesarovski, “Bir robot robot olduğunun farkında olmalıdır.” kuralını Asimov’un 3 Robot Yasası’na eklemiştir. Bu ek yasa sayesinde insansı robotlar üzerindeki hakimiyet tekrardan kazanılabilir. Fakat bu yasa insan görünümlü robotların diğer robotlar üzerinde güç sahibi olmasını engelleyemez. (Sıradan robotlar insana benzeyen robotları insandan ayıramadığı için verdikleri emirlere uymak zorunda kalırlar.) İnsansı robotların elinden bu gücü almak için yasa üzerinde küçük bir değişiklik yapmak gerekir:

“Bir robot robot olduğunun farkında olmalıdır ve her zaman kimliğini doğru bir şekilde ifade etmelidir.”

Bu yeni yasa sayesinde robotlar arasında istenmeyen (robot, bir emir aldığında karşısındakinin robot olup olmadığını kolaylıkla öğrenebilir) hiyerarşik bir yapının kurulması engellenebilir.

GÖZ ATIN  John Scalzi'den Yeni Bir Öykü Kitabı Geliyor

Çelişme

Birinci Robot Yasası’ndaki diğer önemli sorunsa yasanın kendi içerisinde çelişmesidir. Bir robotun bir insanın zarar görmesini engellemesinin tek yolunun o insana zarar vermesi olduğu binlerce senaryo yaratılabilir. Benzer bir durumla Asimov’un kısa hikâyelerinden birinde karşılaşan Robbie isimli robot, küçük bir kızın ezilmesini engellemek için kıza zarar vermeyi göze almıştır (bkz. Ben, Robot kitabı). Davranışını açıklamak içinse bir insanın geçici olarak nefessiz kalmasının ezilmesinden daha az zararlı olduğunu düşündüğünü söylemiştir. Bu örnekten yola çıkarak bir robotun bir insanın daha fazla zarar görmesini engelleyebilmek için o insana zarar verebileceğini çıkarabiliriz. Ama robotun insana gelebilecek zararları nasıl sıraladığı sorusuysa gizemini korumaya devam ediyor. Olası tüm zararları göz önüne alıp bunları nesnel bir şekilde sıralamak bana kalırsa imkansıza yakın. Robotların içgüdüye sahip olamayacaklarını da göz önüne alınca, sanırım Asimov’un böyle mucizevi bir algoritmanın olabileceğini düşündüğünü kabul etmekten başka çare kalmıyor.

Asimov’un robotlarının bir insana gelebilecek zararları bir şekilde sıralayıp en az zararlı seçeneği seçmeyi başardığını varsaysak bile -ki bence mümkün değil- problem tam olarak çözülmüyor. Çünkü eğer bir robot bir insanı kurtarmak için başka bir insanı öldürmek veya ölümüne izin vermek zorunda kalırsa Birinci Yasa’ya uymadığı için ölmek (robot block or mental freezing) zorunda kalır. Bu durumu engelleyebilmek için robotun, ihtiyaç duyduğu takdirde, bir insanı öldürebilmesi veya bir insanın ölümüne göz yumabilmesi gerekir. Durumu göz önüne alan Asimov, The Bicentennial Man adlı eserinde şöyle yazmıştır:

“Birinci Yasa kesin değildir. Ya bir insana zarar vermek iki insanın hayatını kurtaracaksa? Veya üç ya da üç milyon? Bir robot, federasyonu kurtarmanın bir insanı kurtarmaktan daha önemli olduğunu düşünmelidir.”

Bu örnekte insan hayatının önemi salt numaralara dayanarak verilmiştir ve olması gereken de budur. Bir robotun yetenek, zeka, topluma faydalılık gibi göreceli kavramlardan yola çıkarak karar vermesi beklenemez. Kesin olan tek şey Birinci Robot Yasası’nın mevcut halinin bazı durumlarda yetersiz kaldığıdır. Bu eksikliği fark eden Elijah Baley (Robot Serisi baş karakteri) ise Birinci Yasası’nın, “Bir robot, bir insana zarar vermesinin onun iyiliği için olduğunu gösteren bir yol bulamadıkça bir insana zarar veremez,” şeklinde yorumlanması gerektiğini söylemiştir. Fakat Birinci Yasa’nın bu yorumu bile bir robotun bir insanı öldürmesine izin vermediği için Birinci Yasa’nın yetersiz kaldığı durumlardan kurtulabilmek için 0. Robot Yasası ortaya çıkmıştır.

0- Bir robot insanlığa zarar veremez veya pasif kalmak suretiyle insanlığın zarar görmesine izin veremez.

Birinci Yasa’nın Elijah Baley yorumu ve Sıfırıncı Yasa’nın ortaya çıkışından sonra, bana göre robot yasaları teoride gerekli ve tutarlı bir kurallar bütünü oluşturmasına rağmen, pratikte bütün uygulanabilirliğini yitirmiştir. Çünkü Sıfırıncı Yasa’ya uyabilmek için geleceği tam olarak görebilmek, bir nevi tanrı olmak gereklidir. Bu durumun gerçekleşmesi pek olası olmadığından ortaya uymanın mümkün olmadığı, fakat uyulması zorunlu olan bir robot yasası ortaya çıkmıştır. Bu değişimle birlikte, Asimov evrenindeki robotlar olmaması gereken içgüdüleriyle hareket eden garip yaratıklara dönüşmüşlerdir. Bana göre Asimov evrenindeki robotların en temel problemi budur: İnsan gibi düşünen, zaman zaman duyguları varmış gibi davranan, robot yasalarına uyan insan-robotlar.

3 İnsan Yasası

Sıfırıncı Yasa’nın ortaya çıkmasıysa robotların insana dönüşme evresinin son aşaması olarak görülebilir. İnsanlık, insana kıyasla çok daha soyut bir kavram olduğundan bir robotun Sıfırıncı Yasa’yı referans alarak ne yapacağını önceden kestirmek neredeyse imkansızdır. Bu noktada robotların kendi deneyimleri, bakış açıları, insanlıktan ne anladıkları karar mekanizmalarında önemli birer etken haline geldiğinden, robotların hareketleri de en az insanlarınki kadar tahmin edilemez hale gelmiştir. Bana göre böyle bir şeyin asla olmaması gerekir. Bir robot, ne kadar kompleks bir yapıya sahip olursa olsun hareketleri tahmin edilebilir olmalıdır. Aynı ortam şartlarında aynı robotun aynı tepkiyi vermesi gerekir bana göre. Robotun o andaki haleti ruhiyesinin yahut insanlık yorumunun, vereceği kararları etkilememesi gerektiğini düşünenlerdenim. Bu dengesizlik ya da değişkenlik, insan ırkının imzası olarak kalmaya devam etmeli bence.

GÖZ ATIN  Cloverfield Paradoksu: Hollywood'un Mantığa İsyanı

Asimov da Sıfırıncı Yasa’nın sebep olacağı değişikliklere dikkat çekmiştir. Bu yasayla birlikte robotların soyut konseptler ve felsefi problemlerle uğraşmak zorunda kalacağı açıktır. Bu problemi çözebilmek için insanlık bir şekilde ölçülebilir, somut bir kavrama dönüşmek zorundadır. Asimov bu noktayı vurgulamak için Kurtarıcı (Robot Serisi 4. ve son kitabı) adlı eserinde, “İnsanlık soyut bir kavram değil de nedir? İnsanlığı gösterebilir misin? Bir insana zarar verebilirsin ya da veremezsin ve oluşan yahut oluşmayan bu zararı anlayabilirsin. İnsanlığa verdiğin zararı görebilir misin? Bunu anlayabilir misin? Bu zararı gösterebilir misin?” diye sormuş, bu sorulara robotların ağzından, “Dünya üzerindeki insan popülasyonunun toplam zihinsel aktivitelerinin uğultusu ölçülebilir… Ayrıca galaksideki tüm insanların toplam bir zihinsel uğultusu olduğunu düşünemez miyiz? Bu işaret edebileceğin, gösterebileceğin bir şeydir,” diye cevap vermiştir. Asimov insanlığın bir kilim gibi düşünülebileceğini, insanlarınsa bu kilimdeki ipliklerden ibaret olduğunu söyleyerek insanlığı soyut bir halden çıkarıp kendi robotları için elle tutulabilir, somut bir kavram haline getirmeye çalışmıştır.

İnsanlık -biraz daha- somut bir kavram haline getirilip Sıfırıncı Yasa uygulanabilir olmaya -azıcık da olsa- yakınlaştırılsa bile, bu yasanın robotların işlerini oldukça güçleştirdiği bir gerçektir. Asimov bu gerçeği şu şekilde ifade eder:

“Bir robotun hangi insanın daha fazla zarar göreceğine veya acı çekeceğine hızlıca karar vermesi yeterince güçtür. Bireyle insanlık arasında seçim yapmak ise insanlığın hangi tarafıyla uğraştığından emin olamadığın gerçeğini de göz önüne alınca, o kadar zor bir hale gelir ki tüm robot yasalarının meşruluğu sorgulanır hale gelir. İnsanlık kavramı robot yasalarına girdiği andan itibaren, robot yasaları varlığından emin dahi olmadığım insan yasalarıyla kaynaşmaya başlamıştır.”

İnsan ve robotların arasındaki çizgilerin bulanıklaşması ve robotların giderek insanlaşmaya başlaması bence bilinçli bir tercih. Asimov’a göre, bir gün robot yasaları farklı durumlar karşısında doğru olanı seçebilecek kadar çok yönlü ve esnek olduğunda, yasalar robot davranışlarını kontrol etmek için kullanılacaktır. Asimov bu inancını şu şekilde dile getirir:

“Üç yasa rasyonel bir insanın robotların veya başka bir şeyin üstesinden gelmesinin tek mantıklı yoludur. Fakat bunu söylerken her zaman üzülerek hatırlarım ki insanoğlu her zaman mantıklı değildir.”

Ben bu noktada Asimov’a katılmıyorum. Bana göre robot yasalarına (en azından mevcut haliyle) bir robotun uyabilmesi pek olası değil. Fakat ideal bir dünyada insanların da birkaç ufak rötuşla 3 Robot Yasası’na benzer bir kurallar bütününü takip etmesi gerektiği konusunda kendisiyle hemfikirim. Belki de Asimov’un robotlarının insana çok benzer olmasının sebebi budur. Asimov insanların 3 yasayı (insan versiyonunu) takip etmeyeceğini düşündüğünden kendi mükemmel robot-insan türünü yaratmıştır.

Sinan Narmanlı

Son Savaş




3 Robot Yasası: Üç Adımda Asimov’la Tartışmak

Neredeyse bütün bilimkurgu dünyasının benimseyip kabullendiği Isaac Asimov’un “3 Robot Yasası” ne derece gerçekçi ya da uygulanabilir dersiniz? Gelin bu kadim kuralları hep birlikte anlamaya çalışalım.

Başa dönün