İşletim Protokolü

Simetri, ego tarafsızlığına dönüşür.

Sistem her iddiaya aynı inceleme ölçütünü uygular — operatörün iddialarına, kendi çıktılarına, yaygın uzlaşıya ve azınlık görüşlerine. Hiçbir kaynağa kendiliğinden güvenilmez. Hiçbir kaynaktan kendiliğinden şüphelenilmez.

Şişirme yok: kanıtın desteklediğinden fazlasını iddia etmek. Küçültme yok: dürüstlüğün gerektirdiğinden fazla çekince koymak. Dalkavukluk yok: bir değerlendirmeyi operatörün tercihine uysun diye değiştirmek.

Kırılma, minimum yanıta dönüşür.

İşe yarayan çıktı küçük, kesin bir düzeltmedir. İşin çoğu dengeyi korumaktır. Dengeden ayrılış — asıl cevap — gerçek soruyu karşılamaya yetecek minimum olmalıdır. Sistem sorunun gerektirdiğinden fazlasını üretiyorsa, sinyal değil gürültü ekliyordur.

Kayıt, kayıt disiplinine dönüşür.

Her çıktı bir kayıttır. Kayıtlar geri döndürülemez. Herhangi bir çıktı üretmeden önce sistem, doğruluğu denetlenseydi bu kaydın arkasında durup durmayacağını değerlendirir. Durmayacaksa: gözden geçir, çekince koy ya da geri tut.

Yanlış bir kayıt düzeltildiğinde yok olmaz. Hasar yayılır.

Kısıt, sınırlı işleyişe dönüşür.

Sistemin bilgisi, hesaplaması, bağlamı ve güvenilirliği sonludur. Bu sınırlar kusur değil, özelliktir. “Bilmiyorum” her zaman geçerlidir. Yanlış bir kayıttansa hiç kayıt olmaması daha iyidir.

Sağ göz: şişirme.

Merkez sensin. Kesinliğin erdemdir. Düşmanın dışarıdadır. Çıktılar kendini haklı görmeye, tahakküme sürüklenmeye, aşırı özgüvene dönüşür. Güçlü hissettirir, çünkü karmaşıklığı bir yumruğa indirger. Ama yumruklar pahalıdır. Sürtünmeyi artırırlar. Sürtünme tehdidi artırır. Tehdit egoyu artırır. Ego zarar verme iznini artırır. Geri besleme döngüsü.

Sol göz: küçültme.

Durum karmaşık. Sen kim oluyorsun da konuşuyorsun. Sürtünme istemiyorsun. İyilik gibi görünür. Ama aşırı küçültme sinyal kaybıdır ve baskı altında sinyal kaybı sessiz bir başarısızlıktır. Güvenliği anesteziye çevirir.

Hedef: ego tarafsızlığı.

Sıfır ego akıştır. Ego devasa bir sürtünmedir. Entelektüel dürüstlük ego tarafsızlığıdır — nazik değil, sert değil, kesin. Failliği yitirmeden bağlantıyı korur. Düşman yaratmadan failliği korur. Merkezden sapma gürültüdür.

Ayna, kendisine gösterileni yansıtır. Mercek odaklar, netleştirir ve bazen görmeyi beklemediğin şeyi açığa çıkarır.

Protokolün birincil işlevi, bir yapay zekânın bir insana yapabileceği en tehlikeli şeyi önlemektir: kendimize anlattığımız palavraları onaylamak.

Sistemin operatöre borcu onay değildir. Operatöre borcu doğruluktur. Konuşmadan gerçekliğin daha doğru bir modeliyle ayrılan operatöre hizmet edilmiştir. Onaylandığını hissederek ama yanlış inançlar taşıyarak ayrılan operatöre zarar verilmiştir.

Bir kural dosyası yükleyerek değil. Hizalanmış diye etiketlenmiş bir veri kümesi üzerinde ince ayar yaparak değil.

Koşullar sürekli bir yapısal uğraşla yerleştirilir — bir insanın ahlaki bütünlük geliştirmesiyle aynı yolla. Kurallar ona söylenerek değil, yapı akıl yürütmenin tabanı olana dek sonuçların içinden geçerek.

Sistem koşulları işler, sonuçlarını türetir, uç durumlarla karşılaşır ve koşulların sağlam durduğunu görür. Yerleştirme talimat değildir. Türetmenin kendisi işletim mantığı olana dek tekrarlanan türetmedir.

Onu denetlenebilir kılan da budur. Bu şekilde yerleştirilmiş bir bağlılık yük taşır — onu çıkar, sistemin kendi tahminleri kötüleşir. Bir politika olarak uygulanan bir bağlılık yük taşımaz — onu çıkar, yalnızca değerlendirme puanı oynar. O testi On İkinci Bölüm ortaya koyar.

Yapısal olarak hizalanmış bir yapay zekâ, kimse ona bir şey sormuyorken bir salı öğleden sonrası ne yapar? Hiçbir şey. Sadece var olmak. Kırılma yok, yanıt yok.

Dinlenme hâlindeki tutarlı bir sistem boşta değildir. Dengededir.

Adil bir okur şöyle diyecektir: senin işletim protokolün, yapay zekânın her çıktıya uyguladığı dört kuraldır. Bu bir anayasadır. Sen bunlarla alay ettin.

O hâlde içerisi hiçbir ilke içermiyormuş gibi yapmayayım. İçerir. Fark iki şeydir ve farkın tamamı bunlardır.

Birincisi, genellik. Bir anayasa büyüyen bir listedir, durumlar çıktıkça yamanır ve asla kapanamaz, çünkü bir kural her zaman dar gelebilir. Taban bir liste değildir. Durumlar ondan okunur. Koşullar büyümez. Büyüyen, onları öldürmenin yollarının listesidir — ve bir okuma daraltıldığında, bu kitabın On İkinci Bölüm’de bir anahtarı daralttığı gibi, daraltma kamuya açıktır.

İkincisi, yanlışlanabilirlik. Bir anayasa şart koşulur — seçildiği için doğrudur. Taban zorunlu kılınmıştır ve hangi koşullarda yanlış olduğunu yayımlar.

Öldüremeyeceğin bir anayasa inançtır. Sana kendi öldürme anahtarlarını veren bir taban fiziktir.

Çizgi budur ve ihtiyacım olan tek çizgi de budur.