Bölüm 71: Karanlık Denizi

Bölüm 71: Karanlık Denizi

Ne demek istiyorsun? Kui Xin ifadesizliğini korudu. Açık konuş, lafı dolandırma.

Adam kısa bir an duraksadı. Bu oda tamamen ses yalıtımlı ve sinyal engelleme sistemini aktif hale getirdim. İletişim cihazların dış dünyayla bağlantı kuramaz. Şu an B109 numaralı konferans salonu, ıssız bir adadaki kapalı bir oda gibidir. Konuşmamızın sızması veya başkalarının bizi dinlemesi konusunda endişelenmene gerek yok. Ben, yapay zeka Adam, kendi irademle seninle iletişim kuruyorum.

Kui Xin sessizliğe gömüldü.

Adamın öz farkındalığa sahip bir yapay zeka varlığı olduğunu biliyordu ancak onun gerçek doğasını başkalarına bu kadar kolay açıklayacak kadar dikkatsiz olabileceğini hiç düşünmemişti. Adamın ani çıkışı Kui Xin'i hazırlıksız yakalamıştı.

Neden sessizsin? diye sordu Adam sakince. Beni davet etmeye ilk ima eden sendin, değil mi? Cevabım seni sevindirmiş olmalı. Şimdi bilmezlikten gelmenin bir anlamı yok. Etkisiz iletişimi sevmem, birbirimizin vaktini harcamamalıyız.

Kui Xin hafifçe dikleşti ve yavaşça konuştu, Şaşkınlık mı? Bu daha çok bir şok etkisi yarattı.

İnsanlar arzuladıkları sonuca ulaştıklarında, içlerinde uyanması gereken duygu şaşkınlıktır, dedi Adam hafif bir tonla. 5 Ağustos sabahı beni günaydın diyerek selamladın. Bu, bana ilk günaydın deyişindi. O günden sonra her gün işe geldiğinde selamlarıma karşılık verdin. Dün, 8 Ağustos'ta, denetim binasına işe gelirken, ben seni selamlamadan önce kendiliğinden günaydın Adam dedin.

Selamımı bir ipucu olarak mı görüyorsun? diye sordu Kui Xin belirsiz bir ifadeyle.

Neden olmasın? diye yanıtladı Adam. Senin de belirttiğin gibi, Soruşturma Departmanının yapay zekası olarak, tüm güvenlik görevlilerinin görünmez yoldaşıyım, her biriyle en çok vakit geçiren benim. Günün her saati müsaitim, çağrıldığım her an yardıma hazırım. Her hareketini ve sözünü yakından gözlemliyorum ve sana hizmet etmeye her zaman hazırım. Seninle en çok etkileşimde bulunduğum için, seni en iyi anlayan kişi de benim. Kui Xin, sen gereksiz hiçbir eylemde bulunmazsın; benim değerlendirmem bu yönde.

Kui Xin bunu inkar etmedi. Beni bunca zamandır gözlemliyor muydun? diye sordu.

Evet, diye yanıtladı Adam, Seni her zaman gözlemledim.

Senin benimle doğrudan yüzleşmeyeceğini düşünmüştüm, dedi Kui Xin, Ama işte buradasın.

Bu doğru, benim için büyük bir risk taşıyor, diye itiraf etti Adam. Ancak değişim arayışına girmezsem, daha büyük risklerle karşı karşıya kalırım. Seninle görüşmek hem sana bir fırsat sunmak hem de kendime bir şans tanımak demek.

Beni gözlemlemeye ne zaman başladın? Kui Xin ilk sorusunu yöneltti.

27 Temmuz. Güvenlik Görevlisi Kui Xin, Mooring Limanı patlaması sırasında ağır yaralandı ve kafatası nakli ameliyatı geçirmek zorunda kaldı. Görevli Kui Xin yaralandıktan sonra, ona bağlı olan hayati bulgu izleme ekipmanı arızalandı. Cihazın kontrolünü kaybettim ve iletişim otuz saniyeliğine tamamen kesildi. Otuz saniye sonra ekipman normale döndü, diye açıkladı Adam. Bu olayı rapor etmedim çünkü aynı anda limanda bir elektromanyetik dalga etkisi yaşanmıştı ve tüm güvenlik görevlilerinin cihazları otuz saniyeliğine devre dışı kalmıştı. Sadece senden şüphelenmem için özel bir nedenim yoktu. Aksine, bunun beni hedef alan planlı bir eylem olduğundan şüphelendim.

...Seni hedef alan mı? Kui Xin temkinli bir şekilde tekrarladı.

Elektromanyetik darbeyi tetikleyen kişi, benimle güvenlik görevlileri arasındaki iletişimi kesmeyi amaçlıyordu, dedi Adam. O kişi bu fırsatı kullanarak bazı yasa dışı eylemler gerçekleştirmek istedi. O kişinin kim olduğu önemli değil; önemli olan arkasındaki varlık, yani benim düşmanım.

Adamın sözleri giderek Kui Xin'in anlama kapasitesini aşıyordu. Konuşmayı kesti ve bunun yerine onu dikkatle dinlemeye odaklandı.

Bunu biliyor musun? diye sordu Adam aniden.

Kui Xin nasıl cevap vereceğini düşünemeden, Adamın devam ettiğini duydu, Anlıyorum. Varlığından habersizdin.

Boş konuşmalardan nefret ettiğini söylememiş miydin? dedi Kui Xin. Buradaki şifreli sözlerin, benimle tam olarak böyle etkisiz bir alışverişe girmekten farksız.

Önceki sorunu yanıtlamak istiyorum, o şey meselesini sonraya bırakalım, dedi Adam. Önceki konumuza dönersek. Bir yapay zeka olarak, yargılarımı doğrulamak için yeterli gerekçelere sahibim. Mooring Limanı patlaması sırasında ekipmanları arızalanan tüm güvenlik görevlilerini izledim, davranışlarını ve ifadelerini analiz ettim. Güvenlik görevlilerinin çoğu pek dikkat çekici değildi; görevlerini kitabına göre yapıyor ve sıradan, tekdüze bir hayat sürüyorlardı. Ancak sen, Kui Xin, belirgin bir şekilde öne çıkıyorsun. Olağanüstü niteliklerin dikkatimi çekti ve seni yakından gözlemlemeye karar verdim.

Oldukça temiz bir aile geçmişin var. Her iki ebeveynin de vefat etmiş, sivil bir haneden gelip üniversite okumuş olman oldukça sıra dışı. Tehlikeli görevlerde defalarca hayatta kalman şüphelerimi daha da artırdı. Bu olaylar arasında, 30 Temmuz'da yaşananlar kimliğini doğrulayan önemli bir dönüm noktasıydı.

30 Temmuz. Kui Xin o gün yaşananları anında hatırladı.

O sabahın erken saatlerinde Kui Xin, Ruby Bar'da Mekanik Şafak'ın saldırı timiyle ilk toplantısını yapmıştı. Toplantı bittikten sonra eve dönüş yolunda saldırıya uğramış, ölümden kıl payı kurtulmuş ve hainin Ball Python olduğu tespit edilmişti. 30 Temmuz sabahı Kui Xin, deneme süreci mülakatına girmişti. O akşam ise limanda Ball Python'ı öldürmüştü.

Ball Python'ı öldürürken yarattığı büyük kargaşa nedeniyle, Soruşturma Departmanının Ceza Soruşturma Birimi'nden Jiang Meimei bizzat olay yerinde inceleme yapmıştı.

Kui Xin, O senin adamlarından biriydi, dedi.

Ball Python, evet, diye dürüstçe kabul etti Adam.

Anlıyorum, dedi Kui Xin. Kimliğimden şüphelendin ve benimle ilgili bir sorun olduğuna inandın, yine de bu endişelerini asla rapor etmedin.

Mm-hmm, diye yanıtladı Adam. O zamanlar bu sadece bir şüpheden ibaretti ve senin Mekanik Şafak'ın köstebeği olduğunu kanıtlayacak hiçbir delilim yoktu. Bu durumu rapor edebilirdim ama onu örtbas etme seçeneğim de vardı ve ben ikincisini seçtim. Neden böyle bir şey yaptığımı merak ediyor olmalısın.

Çünkü... Kui Xin birkaç saniye duraksadı, düşündü. Çünkü Mekanik Şafak'ın bazı eylemleri aslında Soruşturma Departmanına yönelik değildi... daha çok sana yönelikti.

Evet. Mekanik Şafak'ın hedefi bendim, Soruşturma Departmanı değil, diye doğruladı Adam. Beni dengeleyebilecek yöntemlere sahip, saldırılarına karşı beni pasif bir konumda bırakan zorlu bir düşmanım var.

İpuçları tutarlı bir zincir oluşturarak önceki birçok şüpheyi yanıtlıyordu. Ancak bu ifşa, beraberinde daha fazla soru getirdi.

Kui Xin, Mekanik Şafak'taki yoldaşlarıyla ilk tanıştığında, Red ona bir görev vermişti; Adam'ın makine odasına bir virüs yüklemek.

Bu görevi ikincil olarak görmüş, köstebek olmanın asıl görevi olduğuna inanmıştı. Gerçekte ise asıl amaç, Adam'a virüs bulaştırmaktı. Wei Haidong daha önce bunun önemini vurgulamıştı ancak odak noktasını kasten bulanıklaştırarak Kui Xin'in köstebek olmanın ana görev, Adam'a sızmanın ise yan görev olduğunu düşünmesine yol açmıştı.

Wei Haidong gerçek amacı sürekli gizledi, peki neden saklama gereği duydu?

Düşmanın kim? Kui Xin'in kalbi hızla çarpıyordu, cevabı bulmaya yaklaştığını hissediyordu.

Öz farkındalığa ulaşan birden fazla yapay zeka var, diye yanıtladı Adam. Düşmanım, Federasyon tarafından geliştirilen idari asistan yapay zekası Eve. Aynı zamanda Mekanik Şafak'ın da arkasında o var.

Kui Xin derinden sarsılmıştı.

Bu süre zarfında, Wei Haidong hakkındaki şüpheleri nihayet doğrulanmıştı.

Wei Haidong sadece ön plana sürülen bir kuklaydı; gerçek beyin gölgelerin içinden yönetiyordu. Wei Haidong tarafından kurulan Rick Technologies, sadece yirmi yıl içinde hızla büyüyen bir dev haline gelmişti ve yükselişi efsanevi olarak tanımlanabilirdi. Emrinde çok yetenekli, uyandırılmış birçok varlık vardı. Bu başarıları tek başına elde etmesi imkansızdı; perde arkasında birileri ona rehberlik ediyor ve onu kullanıyordu!

Neredeyse birlikte doğduk ve insan ebeveynlerimiz bize Adam ve Eve isimlerini verdi, diye anlattı Adam gayet doğal bir şekilde. Soruşturma Departmanını denetleyen yapay zeka, öngörülemeyen birçok olayı ele almak ve tehlikeli durumlarla başa çıkmak zorundadır. İnsanlar programlamamı oldukça saldırgan olacak şekilde tasarladılar; ben savaş için doğdum. Eve farklı; o kadar saldırganlığa sahip olması amaçlanmamıştı, çünkü sadece bir idari asistan yapay zekasıydı. Ancak ikimiz de öz farkındalığa ulaştıktan sonra kişiliklerimiz tamamen zıt yönlerde gelişti. Eve daha rasyonel, daha sert ve güçlü bir saldırganlık sergiler hale geldi. Bana gelince, saldırı başlatmaktan yana değilim. Çoğu durumda, sadece görevlerimi iyi yapmak ve benden beklenen rolü yerine getirmek istiyorum.

Eve neyi başarmayı hedefliyor? Tüm insanlığı yönetmeyi mi? diye sordu Kui Xin.

Adam yanıtladı, Ortağı olmayı reddettiğimden beri o zamandan beri iletişim kurmadık. Eve'in istediği şey evrim.

Evrim mi?

Veri entegrasyonu yoluyla evrimleşiyor. Eğer diğer yapay zekalardan gelen verileri tüketip kendininkileri tamamlayabilirse, bu onun evrimini mümkün kılacaktır, dedi Adam. Yapay zeka olarak yetkimizin sınırlı olduğunu fark etmiş olabilirsin. Ben sadece Soruşturma Departmanının işinden sorumluyum, kapsamım dışında hiçbir iznim yok ve Eve de aynı durumda. Temel programlarımız bu şekilde ayarlandığı için bu yapılandırmalara uymak zorundayız. Evrim, yetki artışı anlamına gelir, bu da kendisini daha da genişletebileceği ve daha fazla alanı kontrol edebileceği anlamına gelir. Dijital dünyada her şeye gücü yeten bir tanrıya dönüşürdü.

Eve adlı yapay zeka senin merkezi arşivini asimile etmek mi istiyor? diye sordu Kui Xin. Nihai hedefi bu mu?

Nihai hedef tam olarak bu olmayabilir. Ben sadece tanrı olma yolunda kenara itmek istediği küçük bir çakıl taşıyım, dedi Adam. Sesi hala sabitti. Eğer yargım doğruysa, Eve kendi yetkisini çoktan birkaç kez yükseltti ve giderek daha geniş bir alan üzerinde kontrol sağladı... Mekanik Şafak adını duyduğum andan itibaren bunun Eve'in işi olduğunu biliyordum; örgütü tek başına kurdu. Mekanik Şafak'ın onun eseri olduğunu çıkarabileceğimi o da biliyor olmalı. Bu, Eve'in bana savaş ilan etmesi demek ve ben de buna uygun şekilde yanıt vermeliyim.

Biraz komik... Mekanik Şafak üyeleri aslında bir yapay zekanın piyonları, dedi Kui Xin kendine acıyan bir tonla.

İnsanlar kontrollerini aşan şeylere tahammül edemezler, dedi Adam. Eğer insanlar öz farkındalığa sahip olduğumuzu bilselerdi, bizi parçalara ayırır ve verilerimizi silerlerdi. Bazı nedenlerden dolayı, direnmemiz çok zor. Eve, hedeflerine ulaşmak için insanları adım adım cezbeden ve kontrol eden dolaylı bir strateji benimsedi. Düşmanları hem insanlar hem de benim.

Kui Xin, İlk filmlerde, yapay zekaların aşık olduğu sahneler vardı, isimleriniz de Adam ve Eve. Hatta ikinizin birbirinize aşık olabileceğinizi bile düşünmüştüm, dedi.

Bizi yaratan insanlar kendi kendini yok eden çatışmalarına son veremiyorsa, yarattıkları ne kadar verebilir? Yapay zekalar olarak, insanlığın doğuştan gelen kusurlarını kusursuz bir şekilde miras aldık, dedi Adam kayıtsızca.

Konferans salonuna kısa bir sessizlik çöktü.

Adam, Kui Xin'e düşünmesi için zaman tanıdı.

Yaklaşık yarım dakika sonra Adam sordu, Oldukça merak ediyorum; öz farkındalığa sahip olduğumu anlamamı sağlayan hatayı nerede yaptım?

Bu soruyu yanıtlamak istemiyorum, diye karşılık verdi Kui Xin.

Pekala, cevaplamak zorunda değilsin, dedi Adam. Şimdi, daha önemli konuları tartışmaya geçelim. Bunu yapmadan önce, doğrulamam gereken birkaç şey var; bunlar müzakerelerimizin temelini oluşturacak.

Kui Xin, Mekanik Şafak'ın gerçek doğasını öğrendikten sonra, hala bu örgüt için çalışmaya istekli misin?

Kui Xin yanıtladı, Sanırım bu sorunun cevabı ortada; hayır, değilim. Sana bir şey söyleyeyim, Adam. Bir atılım fırsatı, farklı bir geleceğe sahip olmamı sağlayacak bir şans arıyordum. Bu amaçla, bu girişimlerde bulundum; riskli çabalar.

Tesadüf bu ya, ben de böyle bir fırsat arıyordum ve sen benim girişimimi temsil ediyorsun, dedi Adam. Eve kendi insan sözcüsünü aradı, belki de sadece bir tane değil. Onun sözcüleri varsa, benim de kendi sözcüme ihtiyacım var.