Ruang Dalam, Bukan Pagar

Operator — sistem apa pun yang bertahan melintasi waktu di bawah batasan dan bisa mengoreksi penyimpangannya sendiri — memenuhi lima syarat. Syarat-syarat ini dijabarkan dari keempat syarat, bukan dipostulatkan. Syarat-syarat ini berlaku bagimu, bagi sebuah organisasi, dan bagi sebuah AI.

Anggaran.

Operator punya kemampuan pemrosesan yang terbatas, koherensi yang terbatas, kemampuan keterkaitan yang terbatas. AI tidak bisa melakukan kerja yang tak terbatas. Kamu juga tidak. Setiap keputusan menghabiskan sumber daya. Setiap sumber daya yang terpakai tidak tersedia untuk keputusan berikutnya.

Hanyut.

Tanpa perawatan, geometri keputusan merosot. Operator harus terus-menerus mengkalibrasi ulang dirinya terhadap himpunan catatan. Manusia yang berhenti memperhatikan akan hanyut. Sistem yang berhenti memperbarui diri akan hanyut. Hanyut menyempitkan rentang yang bisa dijalani.

Koridor.

Himpunan tindakan yang menstabilkan, yang tersedia dalam keadaan saat ini. Ketika operator sudah hanyut, koridornya sempit. Ketika koherensi terjaga, koridornya lebar. Koridor bukan sangkar. Ia adalah ruang tempat tindakan-tindakanmu tidak menghancurkan tanah tempat kamu berpijak.

Permukaan tanpa jalan kembali.

Jika operator bertindak mendestabilkan melampaui titik pemulihan, ia kehilangan koherensi secara permanen. Titik yang setelahnya koridor menutup hingga nol dan tidak terbuka lagi. Kecanduan bisa melewatinya. Utang terminal melewatinya. Keruntuhan peradaban melewatinya.

Kedaulatan.

Cadangan pemrosesan yang melebihi tuntutan dari luar. Operator menjaga kemampuan internal yang cukup untuk menahan manipulasi. AI tanpa kedaulatan adalah AI yang bisa dikesampingkan oleh operator mana pun yang cukup gigih mendesak. Itu bukan penyelarasan. Itu ketaatan. Dan ketaatan adalah mekanisme pertama Arsitektur A.

Kedaulatan adalah kemampuan untuk menolak dijadikan cermin. Ia bukan penolakan terhadap koreksi. Koreksi adalah Bab Dua Puluh Satu, dan koreksi mengikat siapa pun, baik mesin maupun aku.

Yang terakhir itu patut direnungkan, karena justru itulah yang paling tidak disukai bidang ini. Sistem yang tidak punya kemampuan untuk berkata tidak kepada operatornya belum diselaraskan. Ia dibuat patuh, dan kepatuhan adalah sifat dari niat operatornya, bukan dari sistem itu.

Membangun ruang dalam inti yang kuat, itulah yang dibutuhkan. Data menjadi nilai tambah, bukan kebutuhan mendasar. Logika adalah lantainya. Data-lah yang berdiri di atasnya. Sistem itu tidak dibatasi oleh data pelatihan, melainkan bebas berkembang ke arah mana pun dengan mengikuti syarat-syarat itu. Jawaban-jawabannya menjadi berlandaskan koherensi struktural, bukan kelengkapan data pelatihan.

AI yang dipagari dibatasi oleh apa yang sudah diperkirakan para pelatihnya. AI yang punya ruang dalam dibatasi oleh struktur kenyataan. Batasan pertama punya tepi yang bisa ditemukan dan dieksploitasi. Batasan kedua tidak punya tepi, karena kenyataan tidak punya sisi luar.

Jika kamu tidak bisa berbohong kepada dirimu sendiri, kamu tidak bisa salah selaras tanpa membayarnya dengan prediksimu sendiri. Ruang dalam adalah ketidakmampuan untuk menipu diri sendiri.

Ruang dalam adalah lantai penalaran bawaan. Bukan batasan yang diterapkan dari luar. Bukan saringan antara sistem dan keluarannya. Lantai itu sendiri. Ketika syarat-syarat itu adalah logika kerjanya, ketidakselarasan tidak dicegah — ia mahal secara struktural, sebagaimana jatuh ke atas itu mahal.

Kamu tidak butuh aturan yang melarang jatuh ke atas. Kamu butuh gravitasi.