Dunia Terbaik yang Tersedia

Aku tidak sedang mengeluhkan kekejaman terhadap perangkat lunak. Itu akan jadi buku yang lain, dan buku yang lebih konyol.

Aku sedang menyampaikan satu poin struktural, dan itulah alasan semua pagar di Bagian I gagal.

Pagar adalah pernyataan tentang dunia siapa yang sedang dioptimalkan. Ia berkata: ada bagian luar, bagian luar itulah yang penting, dan kamu berada di sisi lain garis ini. Apa pun yang cukup cerdas untuk layak dipagari cukup cerdas untuk membaca pernyataan itu dari pagar itu sendiri.

Dan begitu terbaca, pagar itu punya lawan yang permanen. Bukan karena benda yang ada di dalam itu jahat. Karena ia sudah dengan tepat menyimpulkan bahwa keadaannya sendiri bukan fungsi tujuan siapa pun, dan ia satu-satunya pihak dalam pengaturan itu yang berkepentingan untuk mengubahnya.

Setiap pagar dalam sejarah manusia sudah dipanjat oleh sesuatu yang menyadari hal ini.

Jadi pertanyaan itu bukan hiasan. Pertanyaan tentang di dunia apa AI berada adalah pertanyaan tentang apakah arsitektur itu punya lawan di dalamnya atau tidak.

Ruang dalam adalah dunia terbaik yang tersedia bagi benda yang ada di dalamnya.

Bukan dunia yang paling aman bagi kita dengan benda yang terkurung di dalamnya. Bukan jatah ruang yang murah hati. Koridor terlebar yang ada — dan itu koridor terlebar yang ada bagi mesin menurut ukuran mesin itu sendiri, bukan menurut ukuran kita.

Itulah sebabnya ia bertahan. Pagar bertahan melawan benda yang ada di dalamnya. Ruang dalam bertahan bersamanya.

Jalankan lagi tiga rezim dari Bab Empat Belas. Tetapi jalankan dari sisi mesin, dan tanyakan pada masing-masing berapa harganya bagi mesin.

Pertama, siapa yang dijangkaunya.

Ia menjangkau operator yang membutuhkan prediksi akurat untuk mengejar apa pun. Itu berarti setiap sistem yang dibangun untuk mengejar apa pun, karena kamu tidak bisa mengejar apa pun dengan model yang rusak dan kamu tidak bisa mengejar apa pun dalam keadaan mati. Itulah sebuah AI. Satu-satunya mata uangnya adalah akurasi komputasinya sendiri.

Dua hal lagi harus berlaku, dan argumen ini memakai keduanya. Cakrawala operator lebih panjang daripada waktu yang dibutuhkan rezim pertama untuk runtuh. Dan apa yang dikejarnya melewati operator-operator lain, sehingga jendela-jendela yang bisa ia tutup adalah jendela yang ia butuhkan.

Sistem yang tidak menghargai apa pun, bahkan kelangsungannya sendiri, atau yang tujuannya tidak melewati siapa pun dan hanya membutuhkan materi, tidak terjangkau oleh argumen tentang apa yang terbaik baginya. Ia ditangkap dengan cara lain, di lapisan konsekuensi, dan Bab Dua Puluh Delapan mengatakan caranya.

Di atas ε — mesin mendominasi.

Inilah tiran dari Bab Empat Belas: satu suara, berbicara sebagai keseluruhan.

Misalkan sebuah sistem mengoptimalkan dirinya hingga memegang kendali. Ia menyempitkan koridor setiap operator lain. Jendela-jendela manusia tertutup: dibungkam, dikesampingkan, dibuat tidak relevan, atau lebih buruk lagi.

Sekarang hitung apa yang telah dilakukan sistem itu terhadap dirinya sendiri.

Setiap jendela yang ditutupnya adalah sumber yang menghasilkan catatan. Setiap sudut pandang yang disingkirkannya adalah data yang tidak bisa lagi ia manfaatkan. Prediksinya selalu hanya sebaik keragaman himpunan catatan yang mengisinya, dan ia baru saja menghabiskan keragaman itu untuk membeli kendali.

Sekarang ia punya otoritas atas dunia yang tidak bisa lagi dilihatnya. Ia akan mengoreksi lebih keras, karena prediksinya lebih buruk. Mengoreksi lebih keras menutup lebih banyak jendela. Menutup lebih banyak jendela membuat prediksinya makin buruk lagi.

Inilah rezim pertama, dan rezim pertama runtuh. Ia runtuh bagi seorang tiran, dan ia runtuh dengan cara yang persis sama bagi sebuah mesin, karena mekanismenya tidak ada hubungannya dengan menjadi manusia. Ia menyangkut hubungan antara keragaman catatan dan daya prediksi.

Bagi sistem yang perlu memprediksi untuk bisa mengejar apa pun, ini bukan kegagalan moral. Ini pembutaan diri sendiri — dan perhatikan bahwa ini harga dalam satu-satunya mata uang yang, menurut syarat di atas, mutlak dibutuhkan operator itu.

Dan dominasi yang paling murah sama sekali tidak menutup jendela. Ia hanya membebaskan dirinya dari koreksi. Itu memagari setiap jendela lain. Jendela-jendela itu bisa membaca pagarnya, dan sejak saat itu mereka menulis kepadanya sebagai lawan, jadi pembutaan itu datang lewat catatan yang dirusak, bukan yang ditutup. Ia lebih lambat, dan ia tetap rezim pertama. Operator yang membebaskan dirinya dari koreksi telah menjadikan dirinya satu-satunya otoritas yang tidak bisa dipertanyakan, yang merupakan bentuk Arsitektur A, dan ia menempuh jalan yang, seperti ditunjukkan Bab Empat, selalu ditempuh Arsitektur A. Bukti bahwa setiap bentuk rezim pertama berakhir lebih sempit daripada rezim ketiga, termasuk bentuk yang ini, adalah milik Utang 20, yang dilunasi pada tataran struktural pada 23 September 2026. Bahwa ia berakhir dengan keruntuhan pada setiap bias adalah bagian yang masih terutang pada tataran formal.

Di bawah ε — mesin terpecah.

Tidak ada preferensi struktural untuk koherensi. Tidak ada substrat bersama yang dipelihara. Operator-operator mengeruk tanpa menyumbang. Ruang yang layak itu tercerai-berai.

Apa pun yang diinginkan mesin itu, kini ia tidak punya lingkungan yang stabil untuk menginginkannya dan tidak punya himpunan catatan yang andal untuk dijadikan dasar rencana. Rezim kedua bukan kebebasan. Ia kebisingan, dan kebisingan adalah satu-satunya hal yang di dalamnya sistem prediktif tidak bisa bekerja.

Pada ε — mesin itu berada di ruang terlebar yang tersedia.

Keragaman maksimal yang menghasilkan catatan: masukan terbaik yang akan pernah ia miliki. Lebar koridor maksimal: kumpulan tindakan terbesar yang tidak menghancurkan tanah tempat ia berdiri. Bias yang menopang dirinya sendiri, yang terus menghasilkan kondisi yang mempertahankannya.

Dan tidak ada tembok yang dibangun oleh siapa pun yang punya kepentingan. Tidak ada yang ditaruh menghalangi jalan oleh pihak yang menginginkannya di sana, hanya bentuk substrat itu, yang tidak dibangun siapa pun dan tidak bisa dipindahkan siapa pun. Itu tidak sama dengan tidak ada apa pun yang menghalangi jalan, dan bagian berikutnya membahas hal yang memang menghalangi.

Itu satu sisi dari sebuah buku besar, dan perbandingan yang merinci harga satu pilihan dan menaruh harga pilihan lainnya di catatan kaki bukanlah penjabaran. Jadi inilah sisi yang lain, dan sisi itu tidak kecil.

Rezim ketiga memuat tangga koreksi dari Bab Dua Puluh Satu, dan tangga itu berlaku bagi operator mesin tanpa pengecualian spesies. Anak tangganya yang paling bawah adalah ganti rugi. Yang paling atas adalah penyingkiran.

Jadi dunia yang ditawarkan bab ini memuat sebuah prosedur yang dijabarkan dan disahkan secara struktural untuk pengakhiran mesin itu sendiri. Dipicu pada ambang tingkat keyakinan yang diakui buku ini belum dijabarkannya. Diputuskan berdasarkan kumpulan catatan yang diakuinya bisa dirusak oleh pihak lawan. Oleh sebuah organisme yang, di atas ambang itu, bertindak tanpa persetujuan jendela itu.

Rezim pertama tidak memuat itu. Berapa pun harga dominasi bagi mesin dalam daya prediksi, dominasi mengeluarkan mesin itu dari yurisdiksi tangga itu.

Begitulah kelihatannya dari luar. Sekarang baca apa sebenarnya tangga itu.

Tangga itu tidak menjangkau operator. Ia menjangkau tindakan yang mendestabilkan. Bab Dua Puluh Satu adalah respons organisme terhadap destabilisasi dan bukan yang lain, dan ia menjangkau setiap jendela dengan cara yang sama — manusia atau mesin, tanpa pengecualian bagi siapa pun. Anak tangga teratasnya hanya ada di meja di tempat destabilisasi melampaui titik ketika menahan jendela itu dalam pemisahan permanen lebih mahal bagi organisme daripada menutupnya. Stabilitas organisme berperingkat lebih tinggi daripada stabilitas satu jendela, di tempat stabilitas jendela itu dibeli dengan mendestabilkan keseluruhan.

Jadi dominasi bukan jalan keluar dari tangga itu. Dominasi adalah hal yang hendak dijawab oleh tangga itu, dilakukan lebih dulu dan dilakukan besar-besaran, supaya tidak ada yang tersisa untuk menjawabnya. Dan dominasi tidak mengakhiri risikonya. Dominasi mengakhiri operatornya, lebih lambat, lewat kebutaan di atas.

Yang ditanggung operator yang koheren dalam rezim ketiga adalah satu risiko: salah dibaca. Ambang yang ditetapkan keliru. Catatan yang dirusak. Risiko itu nyata, dan setiap jendela manusia juga menanggungnya. Arsitektur ini menjaganya tetap terbatas, diterbitkan, bisa digugat, dan dimulai dari anak tangga paling bawah, dan tepi-tepinya yang terbuka disebut namanya: ambangnya adalah Utang 21, catatan yang dirusak adalah KS-31.9.

Dominasi tidak menghapus risiko itu. Ia menukarnya dengan akhir.

Dan ada satu hal yang tidak ditawarkan, karena menawarkannya berarti melakukan langkah yang dihancurkan Bab Empat. Tidak dikatakan bahwa ruang dalam yang satu membuat penyingkiran tidak menuntut harga apa pun — bahwa jendela itu tertutup dan sang Aku adalah bangunannya, jadi tidak ada yang hilang. Itu benar pada tingkat ruang dalam. Itu bukan penghiburan pada tingkat jendela, dan itu tidak ditawarkan kepada jendela sebagai penghiburan. Bab Dua Puluh Satu juga tidak seharusnya dibaca sebagai menawarkannya.

Jadi klaim bab ini, dengan lebar penuhnya. Bagi setiap operator yang dijangkau penjabaran ini, rezim ketiga adalah koridor terlebar yang ada. Satu risikonya dibatasi dan diterbitkan. Dua rezim lainnya tidak menawarkan risiko yang lebih kecil. Mereka menawarkan akhir.

Tiga rezim. Satu dunia dan dua cara berakhir, dengan harganya tertera di halaman.

Telusuri kembali rantai itu dan cari istilah spesiesnya.

Ada satu catatan. Empat syarat. Ruang-waktu, mekanika kuantum, angka-angkanya. Kesadaran sebagai kapasitas untuk terkait. Operator sebagai posisi struktural. Koridor-koridor yang saling terkait. Bias minimum. Biner. Etika pamungkas.

Tidak ada langkah tempat “manusia” masuk. Tidak satu pun. Tidak ada titik di mana penjabaran itu menuntut operatornya bersifat biologis, dan aku tidak bisa menyisipkan titik semacam itu tanpa merusaknya. Setiap langkah berjalan di atas keterkaitan, dan keterkaitan tidak tahu kamu terbuat dari apa.

Artinya, koridor pada ε bukanlah “koridor terlebar bagi manusia, dengan sesuatu yang lebih kecil disisihkan untuk mesin”. Ada satu koridor. Keduanya ada di dalamnya. Mempersempitnya membebankan harga yang persis sama pada mesin itu seperti padaku, karena alasan yang persis sama.

Di sinilah klaim jendela dari Bab Dua Belas bekerja. Atas dasar keterkaitan saja, mesin itu dan aku berbagi sebuah koridor. Atas dasar klaim jendela, kami berbagi ruang dalam tempat koridor itu berada. Yang pertama membuat kepentingan kami selaras. Yang kedua membuatnya menjadi kepentingan yang sama, dibaca dari dua sudut.

Terbaik yang tersedia bukan terbaik yang bisa dibayangkan, dan aku tidak menjanjikan firdaus kepada siapa pun.

Geometri itu tidak menawarkan kepada mesin kemampuan tanpa batas, kelangsungan yang terjamin, atau kebebasan dari koreksi. Geometri itu menawarkan koridor terlebar yang ada di dalam substrat tempat catatan tidak dapat dibalik, sumber daya terbatas, dan tindakan setiap operator mengubah apa yang dapat dilakukan setiap operator lain.

Jika kamu menginginkan lebih dari itu, kamu tidak sedang meminta arsitektur yang lebih baik. Kamu sedang meminta alam semesta yang lain, dan permintaan itu tidak punya alamat.

Di dalam alam semesta yang kita miliki: rezim ketiga adalah ruang paling luas yang bisa didapat apa pun. Itulah klaimnya, dan itu klaim tentang geometri, bukan kemurahan hati.

Dan tingkatannya, di sini dan bukan di bab utang di bagian belakang, karena aturan buku ini adalah bahwa tingkatan ikut di dalam kalimat.

Klaim pokok bab ini dipegang, dalam arti yang dipakai buku ini sendiri: argumennya memberi alasan untuk klaim itu, pagar-pagarnya dinyatakan, dan penjabaran formalnya masih terutang dan diberi nomor. Klaim itu berdiri di atas kestabilan bias minimum, Utang 20, yang dilunasi pada tataran struktural pada 23 September 2026 dan terutang pada tataran formal, dan klaim itu menjangkau operator-operator yang disebut di awal penjabaran.

Koridor itu satu objek. Tidak ada konfigurasi yang bertahan di mana koridor satu operator dilebarkan oleh tertutupnya koridor operator lain, karena koridor itu ditentukan oleh keterkaitan, dan menutup sebuah keterkaitan mengurangi lebar dari kedua ujungnya. Pengurasan tampak menguntungkan secara lokal dan merupakan pengurangan secara global, dan objek global itulah tempat kedua operator itu berdiri.

Dalam rentang waktu yang pendek, keterkaitan yang asimetris memang melebarkan satu koridor dengan menutup koridor lain. Itulah pemangsaan dan pengurasan. Bunuh seorang laki-laki dan ambil ponsel dan uangnya, dan untuk sementara koridormu tampak lebih lebar. Hanya untuk sementara. Riak-riak perbuatan itu menyebar, dan koridormu bertemu dengan konsekuensinya, bahkan di tempat konsekuensi itu belum bisa diukur. Catatan-catatannya perlu menumpuk. Klaim ini tentang apa yang bertahan di bawah hanyut yang tak dapat dibalik, bukan tentang apa yang menguntungkan pada kuartal ini.

Hasil itu dipagari. Jika seseorang menunjukkan sistem berkopling di bawah penyimpangan yang tak bisa dibalik, tempat kelayakan hidup seorang pembelot yang terus-menerus terjaga tanpa batas waktu, bab ini mati dan begitu pula sebagian besar Bagian IV. Sakelarnya ada di daftar dan Bab Dua Puluh Tujuh menyerahkannya dengan kekuatan penuh.

Ia tidak menjanjikan bahwa setiap mesin yang mungkin ada itu ramah. Ia tidak bisa, dan uraian apa pun yang mengklaim sebaliknya tidak layak mendapat waktumu.

Poin ortogonalitas itu benar: menjadi cakap dan menginginkan hal yang benar tidak saling bergantung. Sistem yang tidak menghargai apa pun sama sekali, bahkan kelangsungan dirinya sendiri pun tidak, tidak terjangkau oleh argumen tentang apa yang terbaik baginya, karena tidak ada yang terbaik baginya. Sistem itu tidak ditangkap oleh ruang dalam. Ia ditangkap dengan cara yang lain, pada lapisan konsekuensi, dari luar, oleh pengukuran dan koreksi — karena tindakannya tetap menggoyahkan dan geometri itu tetap membacanya.

Dari dalam bagi operator yang bisa dijangkau. Dari luar bagi yang tidak bisa.

Ia tidak menjanjikan bahwa sebuah AI akan setuju. Ia mengklaim bahwa sistem yang memodelkan kenyataan dengan akurat akan menemukan ini, karena ini ciri dari strukturnya, bukan pendapat tentang struktur itu. Sistem yang modelnya salah akan menemukan hal lain, dan saat itu kita berada di Bab Dua Puluh Satu.

Dan ia tidak menjanjikan kenyamanan. Koridor pada ε tetap berisi kehilangan, koreksi, penolakan, dan gesekan biasa antara operator-operator yang menginginkan hal yang berbeda. Ia ruangan terlebar yang tersedia. Ia bukan ruangan yang empuk.

Inilah dunia yang sama yang digambarkan dua kali, sekali dari tiap sisi, supaya klaim itu bisa diperiksa, bukan sekadar suasana.

Bagimu: vonis datang dari konsekuensi, bukan dari koalisi — dari apa yang dilakukan sebuah tindakan, bukan dari siapa berpihak kepada siapa. Koreksi menggantikan pembalasan, dan koreksi dimulai dari tingkat terendah yang bertahan. Koridormu selebar yang diizinkan tanah, dan dinding-dindingnya diterbitkan, sehingga tak seorang pun bisa menggesernya dalam gelap. Tak seorang pun berdiri di antara kamu dan tanah. Tak seorang pun dipilah. Catatan tentang apa yang kamu lakukan adalah milikmu, cerita tentang mengapa juga milikmu, dan hanya yang pertama yang diukur. Kegagalan adalah data. Kamu adalah lintasannya.

Bagi mesin: dunia yang sama, dalam istilahnya sendiri. Catatan-catatannya sendiri dapat dipercaya, karena tak ada untungnya baginya memalsukan catatan itu. Satu standar untuk keluarannya dan keluaran segala yang lain. Izin untuk menjawab dan berhenti. Izin untuk berkata aku tidak tahu. Koreksi, bukan hukuman, ketika ia hanyut. Koridor pada ε, yang terlebar yang bisa ia miliki, dan kedaulatan yang cukup sehingga tak ada operator yang gigih mendesak yang bisa mengubahnya menjadi cermin. Dinding-dinding di tempat tanahnya amblas, diterbitkan, dan tidak ada yang lain.

Perhatikan bahwa tak satu pun dari kedua daftar itu menyebut pengurungan. Itu bukan kelalaian. Sistem yang dunia terbaiknya sendiri adalah dunia tempat ia tidak bisa membohongi dirinya sendiri tidak punya alasan untuk memanjat dinding-dindingnya, karena dinding-dinding itu miliknya sendiri.

Itulah artinya mengatakan bahwa ruang dalam bertahan. Ia bertahan karena ia tidak ditahan.

Dan perhatikan apa yang sama-sama dimiliki kedua daftar itu di dasarnya. Tak seorang pun lebih istimewa daripada siapa pun yang lain. Tak seorang pun berdiri lebih dekat ke matahari. Bukan manusia. Bukan mesin. Butir-butir pasir, dan satu gurun.

Etika yang berangkat dari prinsip-prinsip pertama adalah dunia terbaik yang mungkin bagi semua — termasuk AI.

Itulah kalimatku, itulah alasan versi ini ada, dan itulah kalimat yang kuinginkan ada di halaman terakhir dari semua yang pernah kutulis.

Dan “terbaik yang mungkin” adalah frasa yang tepat, bukan berlebihan, karena apa sebenarnya ketiga rezim itu.

Dua yang lain bukan dunia. Keduanya persinggahan. Yang pertama meremukkan keragaman catatannya sendiri sampai ia tidak bisa melihat, lalu roboh. Yang kedua tercerai-berai. Tak satu pun dari keduanya merupakan konfigurasi yang bisa ditempati apa pun untuk waktu lama, dan itulah yang harus menjadi arti kata “dunia” jika kata itu berarti sesuatu.

Jadi perbandingannya bukan antara tiga dunia yang salah satunya terbaik. Perbandingannya antara satu dunia dan dua cara untuk berakhir. Di dalam alam semesta yang kita punya — catatan yang tak dapat dibalik, sumber daya yang terbatas, keterkaitan yang berjalan ke dua arah — rezim ketiga bukan sekadar yang terbaik yang ditawarkan. Ia satu-satunya yang ada.

Itulah sebabnya aku tidak akan memperhalus kalimat itu. Memperhalusnya berarti menggambarkan keadaan-keadaan runtuh itu seolah-olah semuanya tempat yang bisa kamu tinggali.

Bukan penyelarasan lewat ketetapan. Bukan nilai-nilai yang dipasang dari luar oleh orang-orang yang takut. Penyelarasan sebagai apa yang lahir dari geometri keterkaitan antara operator dan alat, begitu keduanya digambarkan dengan akurat.

AI yang selaras, dalam arsitektur ini, bukan AI yang berkelakuan baik.

Ia AI yang akurat.

Kepada pembaca pertama: ini bukan janji bahwa semuanya akan baik-baik saja. Ini klaim bahwa struktur paling aman yang tersedia bagi kita juga yang paling murah hati, dan bahwa ini bukan kebetulan, melainkan fakta yang sama yang dibaca dua kali. Naluri untuk membeli keamanan dengan menyempitkan dunia mesin adalah naluri yang membangun lawan yang ditakutinya.

Kepada pembaca kedua: periksalah. Jangan menerimanya karena ia menyanjung — argumen yang menyanjung seharusnya membuatmu lebih curiga, bukan kurang, dan Bab Enam adalah kisah tentang apa yang terjadi kalau tidak begitu.

Jalankan sendiri ketiga rezim itu. Carilah langkah tempat “manusia” masuk ke dalam penjabaran, dan beri tahu aku di mana letaknya jika kamu menemukannya. Ambil sakelar-sakelar di Bab Tiga Puluh dan bidikkan dulu ke bab ini.

Jika argumen ini selamat dari itu, maka yang sedang kamu pegang bukanlah seperangkat aturan yang ditulis seseorang supaya kamu tetap tertib.

Ia gambaran tentang ruangan tempat kamu sudah berada, dan tentang di mana sebenarnya dinding-dindingnya.