Bölüm 5772: Yaşayan Robotların Yabancılaşması

Profesör Kacuk Chabran, otonom makinelere karşı bağımlılığın tehlikeleri hakkında bir konferans verdiğinde, pek çok kişi onun anlatısından giderek daha fazla etkilenmeye başladı.

Terran akademisyenin tarihi onun yanındaydı. İnsanlık, yapay zekâları birçok farklı durumda geliştirip kullanacak teknolojiye hakim olmuştu.

Daha ilkel programlama veya kontrol sistemlerinden farklı olarak, yapay zekalar genellikle insanların önceden öngörebildiği bariz sorunların ötesinde sorunları çözmek için tasarlanmıştır.

Yapay zekaların daha önce hiç kimsenin hesaba katmadığı yeni sorunları çözebilecek kadar esnek ve uyarlanabilir olması için, öğrenme ve yineleme kapasitesine sahip olması gerekiyordu.

Onları tehlikeli yapan sebeplerin büyük bir kısmı buydu. Yapay zekalar, insan sağduyusuyla zerre kadar uyuşmayan her türlü çılgın ve insanlık dışı çözümü ‘öğrenebiliyordu’!

Örneğin, Ves, sokaklardan kan temizlemekle görevli bir temizlik robotunun, yaşayan bir insanın bacaklarını ve vücudunun geri kalanını kelimenin tam anlamıyla yemeye çalıştığı bir olaya bizzat tanık olmuştu!

Temizlik robotunun çılgın ama ‘doğru’ mantığına göre, kanın kaynağını ortadan kaldırmak, zeminin kirlenmesini önlemenin en etkili yoluydu.

Elbette Ves’in kariyerinin çok erken dönemlerinde gerçekleşen bu olayda çok daha çılgınca şeyler yaşandı, ancak bu ikonik manzaranın anısı hala zihnine kazınmış durumda.

Ves, Profesör Kacuk’un söylediklerinin hepsine aslında katılmıyordu. Kızıl insanlığın, tüm sorunlarını çözmek için otomasyona aşırı güvenme cazibesine karşı tetikte kalması için kesinlikle meşru bir ihtiyaç vardı.

Elbette, ikisinin ayrıldığı nokta, yaşayan robotların da aynı sert muameleyi hak edip etmediği konusundaki duruşlarıydı!

Profesör Chabran, halkı canlı robotlara karşı bir baskıyı desteklemeye ikna etmek için iki akıllıca argüman kullandı.

Öncelikle, yapay zekânın daha geleneksel örnekleriyle aynı fırçayı kullanarak canlı mekaları resmetti.

İkisi tamamen farklı şekilde çalışsa bile, Terran sosyologu yaşayan makinelere aynı şekilde davranılması gerektiğini güçlü bir şekilde savundu.

“…Kapsamlı çalışmalar, Living Mech Corporation tarafından piyasaya sürülen ürünlerin programlama kodlarının modern yapay zekalara benzeyen hiçbir şey içermediğini göstermiştir.” Yaşlı adam kabul etti. “Bu, onların endişelerimizden muaf oldukları anlamına gelmez.

Yaşayan mekanizmaların işleyişinin ardındaki teknolojik prensipler, Profesör Larkinson’ın E-teknolojisinin ezoterik bir uygulamasına dayanması nedeniyle daha ezoteriktir, ancak nihai sonuç, bu ürünlerin daha geleneksel yapay zekalar tarafından kontrol edilmesiyle aynıdır.”

Akademisyen, görüşünü dile getirmek için klasik bir atasözünden yararlandı.

“Ördeğe benziyorsa, ördek gibi yüzüyorsa ve ördek gibi vaklıyorsa, muhtemelen ördektir. Zeki canlı mekaların modern yapay zekalardan o kadar ‘farklı’ olduğu ve bu nedenle modern yapay zekaların sorunlarına maruz kalmadığı iddialarına inanmayın. İkisi de birbirine o kadar benzer ki aynı muameleyi hak ediyorlar.”

Terran profesörü bu önemli argümanı bitirirken kollarını iki yana açtı.

“Yapay zekaların tehlikeli olma potansiyeli var, bu yüzden öğrenme kapasiteleri bizim güvenliğimiz için sınırlandırılmalıdır. Yaşayan robotların da tehlikeli olma potansiyeli var, bu yüzden büyüme kapasiteleri bizim güvenliğimiz için sınırlandırılmalıdır.”

Profesör Kacuk’un bu sözleri Ves’i öfkelendirdi!

Yaşayan robotları ile diğer yapay zekalar arasında bu kadar güçlü bir eşdeğerlik kurmak adil değildi!

Ves, Kacuk’un iki farklı olguyu birbirine bağlama çabalarını çürütmek isterken, bir çıkış yapmaktan kaçındı.

Kontrolü elinde tutması gerekiyordu. Ves kapsamlı ve daha ölçülü bir cevap vermeden önce Terran bilgininin konuşmasını bitirmesini beklemek daha iyiydi.

Profesörün canlı robotlara karşı ikinci önemli argümanı, Ves ve danışmanlarının yeterince dikkate almadığı bir zaaftan kaynaklanıyordu.

“Üçüncü mertebeden yaşayan mekalar, yalnızca yapay zekaların tüm özelliklerini sergilemekle kalmayıp, aynı zamanda insanlar ve uzaylılar gibi zeki organik ırklara neredeyse benzeyen daha da ileri özellikler sergileyen güçlü metafiziksel nitelikler kazandılar! Bu tür olasılıklar endişe vericidir, çünkü yaşayan mekalar bir başka temel kuralı ihlal etmektedir.

İnsanların güvendiği teknoloji asla kavrayış kapasitemizi aşmamalıdır. Uzaylı teknolojilerinin yaygın kullanımını haklı olarak engelliyor ve kısıtlıyoruz çünkü dayandıkları uzaylı prensipleri insanların anlaması zor. Kullandığımız teknolojiyi anlamazsak, önlem almadığımız gizli ve beklenmedik işlevlere karşı savunmasız hale geliriz.

Profesör, uzaylı teknolojilerine körü körüne güvenmenin insanları nasıl mahvettiğine dair çok sayıda ünlü ve iyi belgelenmiş vakayı göstermeye devam etti.

Özellikle ikonik bir örnek, Yıldız Çağı’nın sonlarında, erken dönem insan filosunun amiral gemisinin, insanlar tarafından geliştirilen kalitesiz Işıktan Hızlı Seyahat (FTL) sürücüsünü, yenilmiş bir uzaylı ana gemisinden alınan çok daha üstün bir uzaylı versiyonuyla değiştirmesiydi.

İnsan FTL sürücü teknolojisi başlangıçta uzaylı aygıtlarından tersine mühendislik yoluyla elde edildiğinden, insan savaş gemisi ile uzaylı FTL sürücüsü arasında çok fazla uyumluluk vardı.

Hareket kabiliyeti daha da artan bu gururlu amiral gemisine yeni FTL sürücüsünü monte etmek çok fazla çaba gerektirmiyordu.

Ancak filo insan kalesine doğru hareket etme emri aldığında, filo en önemli gemi olmadan varış noktasına ulaştı!

Daha sonra, güçlü uzaylı FTL sürücüsünün inanılmaz derecede anlaşılmaz ve anlaşılmaz programlaması ve gizli modüllerinin, geminin koordinatlarını zorla değiştirdiği ortaya çıktı.

Geliştirilmiş amiral gemisi aynı yönde seyretmeye devam etti, ancak sadece yönünü birkaç derece değiştirdi.

Bu, FTL seyahatinde geminin sonunda sabit bir konum olmadan daha yüksek boyutlara doğru bir yolculuğa çıkmasına yetecek bir sapmaydı!

Söylemeye gerek yok, amiral gemisi hiçbir zaman sağlam bir şekilde dışarı çıkamadı. O zamanlar FTL sürücü teknolojisi çok daha az gelişmişti. Daha gelişmiş uzaylı FTL sürücüsü bile, kızıl insanlığın kullandığı modern versiyonlara kıyasla umutsuzca ilkeldi!

Güvenlik, o ilk FTL sürücülerinin en büyük eksikliklerinden biriydi. Bir yıldız gemisi hedefini ‘ıskalayıp’ çılgın ve kontrol edilemez bir yolculuğa çıkarsa, FTL sürücüsünü zorla kapatmak, çok daha şiddetli bir şekilde maddi aleme fırlatılmasına yol açardı!

Vakaların büyük çoğunluğu, birkaç ışık dakikası veya ışık saati boyunca uzanan son derece uzun enkaz izlerinden başka bir şey üretmedi!

Bu özel olayın ardındaki hikaye, uzaylı teknolojisine güvenmenin tehlikeleri hakkında ikonik bir uyarıcı hikaye haline geldi.

Kabul edilebilir tek teknolojiler, insanlığın tamamen parçaladığı, tersine mühendislik uyguladığı ve derinlemesine araştırdığı teknolojilerdi.

Günümüzde insanların uyduğu genel kural, teknolojilerin ancak çalışma prensiplerini tam olarak anladıkları takdirde onları kullanabilecekleriydi.

Bu uyulması gereken iyi bir kuraldı, ancak Ves buna uyma konusunda pek de özenli davranmamıştı. Luminar kristal teknolojisi, uzun zaman önce ölmüş bir ırkın kullandığı uzaylı devrelerini anlayamaması nedeniyle onun için hâlâ belirsizliğini koruyordu.

“…Sonuç olarak, güç otomatik olarak güvenlik anlamına gelmez. Kullandığımız gücü yeterince anlamaz veya kontrol etmezsek, kolayca yüzümüze patlayabilir.

Mech topluluğundan birçok kişi, Fey Fianna ve Ultimatum gibi popüler ürünlerin sergilediği bariz güç ve potansiyele hayran olsa da, sahipleri için oluşturdukları bariz tehlikeyi göz ardı ediyorlar. Mech ekibinize eklediğiniz her canlı mech, en kötü zamanlarda patlayabilecek potansiyel bir saatli bombadır.

Profesör Chabran’ın uyarısı ne kadar inandırıcı olursa olsun, sözleri yine de birçok müşteriyi korkuttu!

Yaşayan robotlarını satın alıp kullandıklarında, yalnızca yeni sahip oldukları şeylerin tüm güçlü ve faydalı yönlerine dikkat ettiler.

Bu, yaşayan robotlarını potansiyel bir yük olarak görmeye başladıkları ilk seferdi!

Bu, zihniyette o kadar güçlü bir değişimdi ki, Ves’in ürünlerine olan ilgiyi büyük ölçüde azalttı!

“Her canlı meka, yeni ama aynı zamanda korkunç derecede dağınık ve gelişmemiş bir E-teknolojisi türüne dayanmaktadır. Canlı mekaların daha anlaşılması güç özelliklerini inceleyen saygın uzmanlar, canlı mekaların yerleşik bir bilimsel temele sahip olmadığını bana bildirdiler. Kökenleri kadim yetiştirme uygulamalarına dayanan tamamen farklı ilkelere dayanmaktadırlar.

Bu tartışmalı konuyu derinlemesine ele alamasam da, insan ırkının neredeyse yok olmasına sebep olan eski bir savaş suçluları grubunun şüpheli yöntemlerine körü körüne güvenmenin akıllıca bir hareket olmadığını söyleyebilirim!”

Ves dudaklarını birbirine bastırdı ama bunun dışında sakinliğini korumak için elinden geleni yaptı.

Karşı tarafın konuşmacısının sözünü kesip onun ivmesini kesmeye çalışabilirdi ancak bu cevaba nasıl karşılık vereceğini daha dikkatli düşünmesi gerekiyordu.

Bu tartışmayı hem mantığa hem de tutkuya güvenerek kazanması gerekiyordu. Sadece birine güvenmek onun için yeterli değildi. Riskler çok yüksekti ve rakiplerinin her türlü zayıflığa saldıracağından emindi.

Profesör Kacuk Chabran, son tezini daha da detaylandırmaya devam etti. Canlı mekaları tehlikeli ve anlaşılmaz uzaylı teknolojileriyle eş tutmak için çok çaba sarf etti.

Moderatör sonunda Profesör Chabran’ın kapsamlı dersinin bittiğini işaret ettiğinde, Ves nihayet dinleyicilere konuşma yapma sırasına geldi.

Ves konuşma alanının ortasına geldiğinde, Terran akademisyenin argümanlarına sakin bir şekilde cevap vermeye başladı.

Öncelikle yaşayan mekalarını yapay zekalardan ayırması gerekiyordu.

Profesör Chabran, birçok kişinin yaptığı yaygın bir hatayı yaptı. Onları suçlamıyorum, çünkü ürünlerimi benim kadar iyi anlamıyorlar. Bilinmesi gereken önemli bir nokta, yaşayan mekaların basit bir nedenden ötürü yapay zeka olmadığıdır. İlki canlıdır, ikincisi ise cansızdır.

Bu önemli bir ayrım çünkü canlı varlıklar, yapay zekâları bu kadar tehlikeli kılan aynı istismarlara karşı savunmasız değiller. Ürünlerimi, yapım aşamasındaki katil robotlar olarak görmek yerine, onlara hak ettikleri saygıyı gösterdiğimiz sürece bize inanılmaz şekillerde yardımcı olabilecek simbiyotik yaşam formları olarak görmelisiniz.

Ves, iddiasını desteklemek için antik atlı süvarilerin tarihsel görüntülerini yansıttı.

“Tarihimizin ilkel çağlarında, atların gücünden mükemmel bir şekilde yararlandık. İnsan olmayan ancak savaşta kullanılabilecek kadar güvenilir hayvanların etkili bir şekilde kullanılması, birçok erken dönem insan kültürünün yükselişine ve çöküşüne yol açmıştır.

Bir medeniyet olarak tüm tarihimiz, insan ve at arasındaki simbiyozun kesin zaferlerle sonuçlandığı savaşların sonuçları nedeniyle birçok dramatik dönüş yaşadı.”

Ves elini sallayarak atlı süvarilerin görüntülerini, Fey Fianna gibi yaşayan robotların çok daha modern tasvirleriyle değiştirdi.

“Savaş atları 2.0 ile tanışın. Eski Dünya’nın eski moda atlarına kıyasla, yaşayan mekalar çok daha büyük, çok daha güçlü, çok daha özelleştirilebilir ve bakımı ve onarımı çok daha kolaydır. Bunun dışında, insan binicilerine gerçek savaş atları kadar iyi, hatta daha iyi hizmet verebilirler. Yaşayan bir meka ile bir meka pilotu arasındaki köklü ortaklığın harikasını hiçbir kelime tam olarak özetleyemez.

Burada tek bir sorumlu birim yok. İkisi de mükemmel bir ekip çalışması sergileyebiliyor ve bu da onlara savaş alanında daha güçlü savaşma, daha hızlı tepki verme ve tek bir mech pilotu tarafından kontrol edilen mech’lere kıyasla daha uzun süre hayatta kalma yeteneği kazandırıyor!

Ves, süvari benzetmesini kullanarak, yaşayan mekalar ile insanlar arasındaki yabancılaşmayı mümkün olduğunca azaltmaya çalıştı.

İnsanlığın geçmişte savaş atlarıyla başarılı ortaklıklar kurma geçmişi olduğundan, benzer bir ilişkiyi yaşayan mekalarla da kurabilirler.

“Canlı robotlardan korkmayın,” dedi Ves dinleyicilerine. “Yüzeyde ne kadar tuhaf ve farklı görünseler de, aslında her biri insanlara karşı oldukça nazik ve dost canlısıdır. Yeni üretilen her canlı robot, ilk insan kullanıcılarına kolayca yerleşen boş bir sayfa olarak başlar.”

Benim üçüncü dereceden yaşayan bir meka olarak adlandırdığım şeye büyüdüklerinde, meka pilotlarından o kadar çok eğitim almış olmalılar ki, insan ortaklarının en sadık ve güvenilir müttefikleri olmalılar!

Kısacası, savaşta canlı bir varlık kullanma konusunda başlangıçtaki tereddütünüzü aştığınız sürece, kendi inisiyatifiyle düşünebilen ve size yardım edebilen bir mech ile savaşmanın, tamamen cansız bir mech ile savaşmaktan çok daha faydalı bir müttefik olduğunu göreceksiniz!