Bölüm 5741: Yaşayan Robotların Rakipleri

“Sizi memnun edemem, Profesör Larkinson.”

Profesör Kacuk Chabran, kendisini bir saray mensubu gibi gösteren, beyaz desenli, sofistike bir kıyafet giymişti. Çeşitli sosyal bilimler alanında tanınmış bir akademisyen olan bu kişi, Ves’e, Ves’e karşı hoşnutsuzluğunu belli eden ince bir ifadeyle bakıyordu.

“Duruşumuzu yanlış anlıyorsunuz. Size ve yaşayan robotlarınıza, mağlup düşmanlarımızdan biriyle arkadaşlık ettiğiniz için karşı çıkmıyoruz. Boojay’ler ve onların cahilce büyüklük sanrıları umurumuzda bile değil. Zeki makinelerinize karşı tavır almayı seçtik çünkü Terran halkımızı robotlarınızın temsil ettiği tehditten koruma sorumluluğunu üstlendik.”

Ves, bu toplantı sırasında giderek daha fazla sinirleniyordu. Chabran Antik Klanı temsilcisinin şahsen konuşmayı kabul etmesinden memnundu, ancak onun hiçbir argümanı Terran bilgininin fikrini değiştirmedi.

“Size daha önce canlı mekalarımın yapay zekalar kadar tehdit edici olmadığını açıklamıştım. Onlar gerçekten canlı ve duyarlılar, bu da hizmet etmek üzere tasarlandıkları insanlara karşı sadakat ve sevgi geliştirebilecekleri anlamına geliyor.

Bir dizi algoritma gibi hacklenemezler ve mech pilotlarının zihinlerine sürekli maruz kalmaları, insan medeniyetine aidiyet duygularını daha da güçlendirecektir. Bu koşullar altında, onlara yapay zeka muamelesi yapmak hiçbir anlam ifade etmiyor.

Ne yazık ki 120 yaşındaki alim bu iddia karşısında sessiz kaldı.

“Yaşayan robotlarınız yapay zekânın katı tanımına uymayabilir, ancak onlar da en az onlar kadar, hatta daha da fazla tehdit oluşturuyorlar. Terran İttifakı’nın giderek daha fazla sayıda tehlikeye maruz kalmış robot edinip kullanmasına izin veremeyiz. Her makine potansiyel bir saatli bombayı temsil ediyor. Milyonlarca hatta milyarlarcası insanımız arasında dağılırsa, kontrolden çıktıklarında toplumumuza hesaplanamaz bir zarar verebilirler.

Yaşayan robotlarınızı zapt edip zincire vurmanın ve böylece ihanet fikrinin onların aklına asla gelmemesini sağlamanın kusursuz bir yolu olduğunu bana garanti edebilir misiniz?”

Ves buna kaşlarını çattı. “Yaşayan mekalara saf makineler gibi davranılmamalı. Bir bakıma canlılar, bu yüzden onlara bir evcil hayvan veya arkadaş gibi davranmalısınız. Düşünce ve eylemleri kısıtlamak mümkün olsa da, söz konusu yaşayan mekaların kendilerini geliştirmeleri için ihtiyaç duydukları hayati bileşenleri ellerinden alacağı için bu yola karşıyım.

Eğer onların kızıl insanlığa tamamen sadık kalmalarını istiyorsanız, onlara iyi davranmanız yeterli.”

Prensip meselelerine gelince Ves, duruşunu koruyup gerçeği iletme zorunluluğu hissetti.

Bu durum onun bu konu hakkında kendini daha iyi hissetmesini sağlamıştı ama bu tartışma sırasında ona hiçbir faydası olmamıştı.

“Makinelerinize karşı en büyük korkumuzun ne olduğunu anlıyor musunuz? Yaşayan makineleriniz o kadar hızlı bir şekilde farklı yetenekler geliştirebiliyor ki, kendi ırklarını oluşturma ihtimalleri var. Bu gerçekleştiğinde, insan ırkıyla ilişkilerini kesebilir ve hatta bize karşı dönebilirler.

Görevlerimizi ihmal ettiğimiz için bu olası felaketin gerçekleşmesine izin veremeyiz. Yaşayan robotlarınız sadece Terran toplumu için değil, tüm insan toplumu için varoluşsal bir tehdit oluşturma yolunda ilerliyor.”

“Yaşayan robotlarıma sanki düşman bir uzaylı ırkıymış gibi davranıyorsun!”

“Evet, ve bu tavrı almamızda tamamen haklıyız,” dedi Profesör Kacuk Chabrann sesinde bir inançla. “Yaratıcı Tuzağı’nı hiç duydunuz mu, Profesör Larkinson?”

“Hayır, hayır.”

“Bu şaşırtıcı değil, çünkü çoğunlukla uzaylı ırkları inceleyen antropologlar ve tarihçiler tarafından kullanılan akademik bir terim. Yaratıcı Tuzağı, bir uzaylı ırkının, kendilerini hantal işlerinden kurtarmak için giderek daha güçlü ve çok yönlü makineler geliştirerek kendilerini ikna etmeye çalıştığı, ancak bu süreçte çok ileri gittiği bir olayı anlatır.

Her alet tabanlı ırk, bir dereceye kadar bu otomasyon sürecine dahil olur, ancak özellikle dikkatsiz olanlar, makinelerine daha fazla özerklik ve izin aşılamaya çalışırlar. Bu uzaylı ırklar giderek daha büyük ödüller kazanırken, yapay kölelerinin giderek daha güçlü hale geldiği gerçeğini gözden kaçırırlar.

Kadersel bir hata meydana geldiğinde, bu güçlü yaratıklar yaratıcılarına karşı dönebilir ve bunun sonucunda yıkıcı sonuçlar doğabilir. Hem yeni hem de eski galakside kibir yüzünden kaç ırkın yok olduğunu hayal bile edemezsiniz.

Ves ne diyeceğini bilemedi. Yaratıcı Tuzağı varsayımsal bir senaryo değildi. Gerçekten de birçok kez yaşandı. Hatta insanlar bile ara sıra bundan daha küçük ölçekte muzdarip oldu.

“Profesör Chabran…”

Terran bilgini kaşlarını çattı ve eliyle sert bir kesme hareketi yaptı. “Dur. Argümanların giderek sıkıcı ve tekrarlayıcı hale geliyor. Sabrımızı çoktan tükettin. Bu özel görüşmede söylediğin her şey, yarattıkların konusunda son derece pervasız davrandığın varsayımımızı güçlendirdi.”

Tek tek canlı robot modelleriyle kelimenin tam anlamıyla sonumuzu tasarlıyorsunuz! Vicdanım rahat bir şekilde çalışmanıza devam etmenize izin veremem. Sizi şimdi durdurmazsak, er ya da geç yerli uzaylılar işi bitiremeden canlı robotlarınız bizi yok edecek.

Toplantının geri kalanı bu noktada sona erdi. Ves’in, Profesör Kacuk Chabran’ı, Ves’in kızıl insanlığı başka bir Yaratıcı Tuzağına çekmeye çalışmadığına ikna edebilecek hiçbir şey söyleyememesi mümkün değildi.

“Korkaklar,” diye küfretti Ves, Chabran Antik Klanı’nın bölgesel karargahını barındıran su balonundan çıkarken. Özel bir su itici kişisel enerji kalkanı sayesinde vücudu tamamen kuru kalmıştı. “Eski usul tür soykırımı yüzümüze vururken, bu Terranlar neden Yaratıcı Tuzağı konusunda endişelenme lüksüne sahip olduklarını düşünüyorlar?”

Bu gün görüşmesi planlanan tek muhalif grup Chabran’lar değildi.

Ves, Mech Üstünlükçüleri karşısında daha şanslı olabileceğini umuyordu. Yaklaşık %72’si yaşayan mechlere karşı çıkmıştı, ancak bu rakama ne kadar güvenilebileceğini merak ediyordu.

Her neyse, Ector V’deki Kızıl Dernek’in gezegen merkezine doğru yola çıktı.

Kısa bir bekleyişten sonra, Usta Alice Cantor’un kendisini beklediği gösterişli bir ofise girdi.

İnsanları sadece dış görünüşlerine göre yargılamak doğru olmasa da Ves, Mech Üstünlükçü Grubunun temsilcisiyle ilk kez yüz yüze görüştüğünde anında kötü bir hisse kapıldı.

Usta Cantor 300 yaşın üzerindeydi ve yaşını göstermekten çekinmiyordu. Gri saçları, kırışık cildi ve hafif çarpık duruşu, sanki ölüme sadece on iki yıl kalmış gibi görünmesini sağlıyordu.

Görünüşteki kırılganlığına rağmen, soğuk bakışları ve çelik gibi ifadesi, Usta Cantor’un nazik bir büyükanne gibi davranmaya hiç niyeti olmadığını açıkça ortaya koyuyordu!

“Profesör Larkinson. Kabul etmeye karar verdiğim bir görüşme talep ettiniz. Kamu soruşturması başlamadan önce kapalı kapılar ardında konuşmamızın uygun veya uygun olmadığını düşünüyorum. Şu anda huzurunuzda bulunmamın tek nedeni, değerli Derneğimizin üyelerinin üst düzey galaktik vatandaşlara göstermesi gereken saygıdır.”

“Ben… anlıyorum…” dedi Ves, Usta Cantor’un masasının karşı tarafına otururken yavaşça. “Niyetim mevkimi bu şekilde kötüye kullanmak değil. Umarım davranışlarımdan dolayı gücenmezsiniz. Sadece yaşayan mekalara bakış açınızı anlamak ve varsa yanlış anlamalarınızı çözüp çözemeyeceğimi görmek istiyorum.”

Usta Hazan, Ves’i hemen ofisten atmayı tercih edecek gibi görünse de nezaketini korudu ve Ves’e konuşmasını işaret etti.

“30 dakikanız var.”

Çok fazla zaman geçmemişti ki Ves, Profesör Kacuk Chabran’a yaptığı konuşmaya benzer bir konuşmayı hemen yapmaya başladı.

Zaman zaman senaryosunu güncel izleyici kitlesine göre değiştirse de genel argümanları aynı kalıyor.

Usta Alice Cantor’un sözlerini sindirmesinin ardından bir an sessizlik oldu.

“Söyledikleriniz tavrımız üzerinde hiçbir etki yaratmadı.” Soğuk bir tonla konuştu. “Gerçek şu ki, yaşayan robotlarınız toplumumuz için giderek artan bir tehdit oluşturuyor.”

“Bu doğru değil, Efendim! Yaşayan robotlarım insanlığa yardımcı olmak için tasarlandı, onu engellemek için değil. Daha önce kimsenin üretmediği birçok yeni özellikle gelebilirler, ama bu hepsinden korkmak için bir sebep değil. Korkularımızın inovasyonumuzu engellemesine izin veremeyiz.”

Yaşlı kadın bu iddiaya karşı tamamen duyarsız kaldı.

“Tüm yenilikler iyi niyetli değildir, Profesör Larkinson. Robotlar yalnızca insan ırkına araç ve silah olarak hizmet etmek üzere tasarlanmıştır. Bizim grubumuz robotlara güçlü oldukları için değil, aynı zamanda zayıf oldukları için de saygı duyar. Yıkıcı savaş gemilerinin aksine, robotlar tasarımları gereği çok daha zayıftır, böylece hiçbir insan veya yapay zeka, insan işgali altındaki herhangi bir gezegendeki tüm yaşamı tek başına temizleyemez.

Yaşayan robotlarınız bir savaş gemisinin bireysel yıkım gücüne sahip olmayabilir, ancak insan ırkı için kolektif bir tehdit oluşturuyorlar. Zamanla hesaplanamaz bir zarar vermek için kontrolden çıkmalarına bile gerek yok.

“Ne? Bu hiç mantıklı değil!”

“Mekanizmaların anlamını unuttun mu Larkinson? Yaşayan mekaların doğası gereği insanlar için tehlikeli. Yapay zekâlardan korkmamızın sebebi sadece arıza yapıp insanlara karşı tavır alma eğilimleri değil. Bizi asıl endişelendiren şey, yaşayan mekaların meka pilotları için o kadar kullanışlı bir çözüm haline gelme tehlikesi ki, pilotlar artık eskisi kadar etkili olamayacaklar.

Daha fazla otomasyon, makine endüstrisinin birçok geçerli nedenden ötürü her zaman uzak tutmaya çalıştığı bir olgudur. Çalışmalarınız, makine pilotlarını gelişmek ve çığır açıcı atılımlar başlatmak için zorluklara katlanma zorunluluğundan mahrum bırakma tehlikesi taşıyor. Makinelerinizin makine pilotu havuzunu gereğinden fazla zehirlemesine izin vermeyeceğiz.

Ves kafasını masaya vurmak istiyordu! Nasıl bu kadar aptal olabilirdi!

“Usta Cantor, korkularınız yersiz. Yaşayan mekalar, meka pilotlarının gelişimini kolaylaştırmak için tasarlanmıştır. Onları zayıf tutmak için tasarlanmamışlardır. Yaşayan mekaların pilotlarının, diğer makinelerin pilotlarıyla aynı oranda ilerlediğini gösteren birçok istatistik gösterebilirim.

Aslında, ortalamadan daha fazla çığır açan buluşlara imza atmış canlı mekanik modeller var! Fikrinizi çürütecek bolca deneysel kanıtım var.”

“Verileriniz tamamen geçerli değil. Sadece en fazla birkaç yıl içinde mech pilotlarının gelişimini kaydediyor. Bizim endişemiz, yaşayan mech’lerinizin toplumumuz üzerindeki uzun vadeli etkisi. Mantık, mech’leriniz daha otomatik hale geldikçe ve kendi başlarına düşünebildikçe, mech pilotları tarafından yönlendirilmeden harekete geçeceklerini söylüyor.

Bu durum yeterince sık gerçekleşirse, kokpitteki insanlar becerilerinin tamamını kullanamayacak. Temelleri zayıflayacak ve uzun vadeli büyüme beklentileri suya düşecek.”

“Bu… bu sadece bir teori! Bunu kanıtlayamazsın bile çünkü herhangi bir çalışma yeterli veri üretmeden önce onlarca yıllık gözlem gerektirir!”

Usta Cantor parmaklarını birbirine bastırdı. “Bu doğru ve bu yüzden canlı mekalarınızın güvenli ve zararsız olup olmadıklarını kesin olarak doğrulamadan kitleler tarafından kullanılmasına izin vermek tamamen sorumsuzluktur. Sadece birkaç kısa klinik deney yaptıktan sonra deneysel bir ilacı piyasaya sürmeye karar veren bir ilaç şirketine benziyorsunuz.

Bunun olmasına izin vermenin ne kadar sorumsuzca olduğunu size söylememe gerek yok. Yaşayan robotlarınız da bu konuda aynı. Bana kalırsa, robotları vizyonunuza uyacak şekilde yeniden tanımlama girişimleriniz sadece erken değil, aynı zamanda tehlikeli de. Derneğimiz, robot pilotlarını korumakla görevli ve kamuoyu soruşturması boyunca tam da bunu yapmayı amaçlıyoruz.

Şahsen sana karşı hiçbir kötü niyetim yok, ancak mekanik topluluğumuzun iyiliği için, senin tehlikeli yaratıklarına karşı korunmaları gerekiyor.”

“…”