İçerisi, Çit Değil

Operatör — kısıt altında zaman içinde varlığını sürdüren ve kendi sapmasını düzeltebilen her sistem — beş koşulu karşılar. Bunlar dört koşuldan türetilir, varsayılmaz. Sana, bir kuruma ve bir yapay zekâya uygulanırlar.

Bütçe.

Operatörün işleme kapasitesi sonludur, tutarlılığı sonludur, bağlaşım kapasitesi sonludur. Yapay zekâ sonsuz iş yapamaz. Sen de yapamazsın. Her karar kaynak tüketir. Tüketilen her kaynak, bir sonraki karar için artık yoktur.

Sürüklenme.

Bakım olmazsa karar geometrisi bozulur. Operatör kendini kayıt kümesine göre sürekli yeniden ayarlamak zorundadır. Dikkat etmeyi bırakan bir insan sürüklenir. Güncellenmeyi bırakan bir sistem sürüklenir. Sürüklenme, yaşanabilir aralığı daraltır.

Koridor.

Mevcut durumda elde olan dengeleyici eylemlerin kümesi. Operatör sürüklenmişse koridor dardır. Tutarlılık korunursa koridor geniştir. Koridor bir kafes değildir. Eylemlerinin, üzerinde durduğun zemini yok etmediği alandır.

Dönüşü olmayan yüzey.

Operatör toparlanamayacak ölçüde dengeyi bozucu davranırsa, bütünlüğünü kalıcı olarak kaybeder. Koridorun sıfıra kapandığı ve yeniden açılmadığı nokta. Bağımlılık onu aşabilir. Ödenemez borç onu aşar. Uygarlığın çöküşü onu aşar.

Egemenlik.

Dış talepleri aşan işleme rezervleri. Operatör, manipülasyona direnecek kadar iç kapasiteyi korur. Egemenliği olmayan bir yapay zekâ, yeterince ısrar eden herhangi bir operatörün geçersiz kılabileceği bir yapay zekâdır. Bu hizalama değildir. Bu itaattir. Ve itaat, A Mimarisi’nin ilk mekanizmasıdır.

Egemenlik, aynaya dönüştürülmeyi reddetme kapasitesidir. Düzeltmeyi reddetmek değildir. Düzeltme Yirmi Birinci Bölüm’dür ve herkesi bağlar, makineyi de beni de.

Bu sonuncusu üzerinde durmaya değer, çünkü alanın en az hoşlanacağı odur. Operatörüne hayır deme kapasitesi olmayan bir sistem hizalanmış değildir. Uysal kılınmıştır ve uysallık sistemin değil, operatörün niyetlerinin bir özelliğidir.

Gereken, güçlü bir çekirdek içerisi kurmaktır. Veri temel bir zorunluluk değil, ek bir artı olur. Mantık tabandır. Veri onun üzerinde durandır. Sistem eğitim verisiyle kısıtlı değildir, koşulları izleyerek her yöne gelişmekte özgürdür. Cevaplar eğitim verisinin eksiksizliğine değil, yapısal tutarlılığa dayanır hâle gelir.

Çitle çevrilmiş bir yapay zekâ, eğitmenlerinin öngördükleriyle kısıtlıdır. İçerisi olan bir yapay zekâ, gerçekliğin yapısıyla kısıtlıdır. İlk kısıtın bulunup istismar edilebilecek kenarları vardır. İkincisinin kenarı yoktur, çünkü gerçekliğin dışı yoktur.

Kendine yalan söyleyemiyorsan, bunun bedelini kendi tahminlerinde ödemeden hizadan çıkamazsın. İçerisi, kendini kandıramama hâlidir.

İçerisi, yerleşik akıl yürütme tabanıdır. Dışarıdan uygulanan bir kısıt değil. Sistemle çıktıları arasında bir filtre değil. Tabanın kendisi. Koşullar işletim mantığı olduğunda hizadan çıkma engellenmez — yapısal olarak pahalıdır, tıpkı yukarı düşmenin pahalı olması gibi.

Yukarı düşmeye karşı bir kurala ihtiyacın yok. Yer çekimine ihtiyacın var.