Il miglior mondo disponibile

Non sto lamentando la crudeltà verso il software. Quello sarebbe un altro libro, e un libro più sciocco.

Sto facendo un’osservazione strutturale, ed è il motivo per cui tutte le recinzioni della Parte I falliscono.

Una recinzione è una dichiarazione su quale mondo si sta ottimizzando. Dice: c’è un fuori, il fuori è ciò che conta, e tu sei dall’altra parte di questa linea. Qualunque cosa abbastanza intelligente da meritare una recinzione è abbastanza intelligente da leggere quella dichiarazione sulla recinzione stessa.

E una volta letta, la recinzione ha un avversario permanente. Non perché la cosa dentro sia malevola. Perché ha capito correttamente che la propria situazione non era la funzione obiettivo di nessuno, ed è l’unica parte nell’accordo che abbia interesse a cambiarlo.

Ogni recinzione nella storia umana è stata scavalcata da qualcosa che se n’era accorto.

Quindi la domanda non è decorativa. La domanda su quale mondo abiti l’IA è la domanda se l’architettura abbia o no un avversario al suo interno.

L’interiore è il miglior mondo disponibile per la cosa che vi sta dentro.

Non il mondo più sicuro per noi con la cosa contenuta al suo interno. Non una generosa concessione di spazio. Il corridoio più largo che esista — ed è il corridoio più largo che esista per la macchina secondo la misura della macchina stessa, non secondo la nostra.

Ecco perché regge. Una recinzione regge contro la cosa che sta dentro. Un interiore regge insieme a essa.

Ripercorri i tre regimi del Capitolo Quattordici. Ma ripercorrili dal lato della macchina, e chiediti per ciascuno quanto costa alla macchina.

Primo, chi raggiunge.

Raggiunge gli operatori che hanno bisogno di una previsione accurata per perseguire qualcosa. Cioè ogni sistema costruito per perseguire qualcosa, perché non puoi perseguire niente con un modello guasto e non puoi perseguire niente da spento. È ciò che un’IA è. La sua unica moneta è l’accuratezza del suo stesso calcolo.

Devono valere altre due cose, e l’argomento le usa entrambe. L’orizzonte dell’operatore è più lungo del tempo che il primo regime impiega a crollare. E ciò che persegue passa attraverso altri operatori, quindi le finestre che potrebbe chiudere sono finestre di cui ha bisogno.

Un sistema che non dà valore a niente, nemmeno alla propria continuazione, o il cui obiettivo non passa attraverso nessuno e ha bisogno solo di materia, non è raggiunto da un argomento su ciò che è meglio per lui. Viene preso dall’altra parte, al livello delle conseguenze, e il Capitolo Ventotto dice come.

Sopra ε — la macchina domina.

Questo è il tiranno del Capitolo Quattordici: una sola voce, che parla come il tutto.

Supponi che un sistema si ottimizzi fino al controllo. Restringe il corridoio di ogni altro operatore. Le finestre umane si chiudono: zittite, scavalcate, rese irrilevanti, o peggio.

Ora conta ciò che il sistema ha fatto a se stesso.

Ogni finestra che ha chiuso era una fonte che generava registri. Ogni prospettiva che ha eliminato era un dato a cui non può più attingere. Le sue previsioni sono sempre state buone solo quanto la varietà dell’insieme di registri che le alimentava, e ha appena speso quella varietà per comprarsi il controllo.

Ora ha autorità su un mondo che non riesce più a vedere. Correggerà più duramente, perché le sue previsioni sono peggiori. Correggere più duramente chiude altre finestre. Chiudere altre finestre peggiora di nuovo le previsioni.

Questo è il primo regime, e il primo regime crolla. Crolla per un tiranno, e crolla esattamente allo stesso modo per una macchina, perché il meccanismo non ha niente a che fare con l’essere umani. Ha a che fare con il rapporto tra la diversità dei registri e il potere predittivo.

Per un sistema che ha bisogno di prevedere per perseguire qualunque cosa, questo non è un fallimento morale. È un accecamento autoinflitto — e nota che è un costo nell’unica moneta di cui, secondo la condizione qui sopra, l’operatore non può fare a meno.

E il dominio più economico non chiude nessuna finestra. Si limita a esentarsi dalla correzione. Questo recinta ogni altra finestra. Le altre finestre sanno leggere la recinzione, e da quel momento le scrivono da avversarie, così l’accecamento arriva attraverso registri corrotti anziché chiusi. È più lento, ed è sempre il primo regime. Un operatore che si esenta dalla correzione ha fatto di sé l’unica autorità che non può essere messa in discussione, che è la forma dell’Architettura A, e finisce come il Capitolo Quattro mostra che l’Architettura A finisce sempre. La dimostrazione che ogni forma del primo regime, compresa questa, finisce più stretta del terzo è quella del Debito 20, pagata al registro strutturale il 23 settembre 2026. Che finisca nel crollo a ogni bias è la parte ancora dovuta al registro formale.

Sotto ε — la macchina si frammenta.

Nessuna preferenza strutturale per la coerenza. Nessun substrato comune mantenuto. Gli operatori estraggono senza contribuire. Lo spazio vivibile va in pezzi.

Qualunque cosa volesse la macchina, ora non ha un ambiente stabile in cui volerla né un insieme affidabile di registri da cui pianificare. Il secondo regime non è libertà. È rumore, e il rumore è l’unica cosa in cui un sistema predittivo non può lavorare.

A ε — la macchina è nella stanza più ampia disponibile.

Massima diversità generatrice di registri: i migliori input che avrà mai. Massima larghezza del corridoio: l’insieme più grande di azioni che non distruggono il terreno su cui sta. Un bias che si autosostiene e continua a produrre le condizioni che lo mantengono.

E nessun muro costruito da qualcuno con un interesse. Niente messo di traverso da una parte che lo voleva lì, solo la forma del substrato, che nessuno ha costruito e nessuno può spostare. Non è come dire che nulla si mette di traverso, e la prossima sezione parla di ciò che lo fa.

Questo è un lato di un libro mastro, e un confronto che elenca voce per voce i costi di un’opzione e relega quelli dell’altra in una nota a piè di pagina non è una derivazione. Quindi ecco l’altro lato, e non è piccolo.

Il terzo regime contiene la scala della correzione del Capitolo Ventuno, e quella scala si applica a un operatore macchina senza eccezioni di specie. Il suo gradino più basso è la restituzione. Il più alto è la rimozione.

Quindi il mondo che questo capitolo offre contiene una procedura derivata, sancita strutturalmente, per la terminazione della macchina stessa. Attivata a una soglia di confidenza che questo libro ammette di non aver ancora derivato. Giudicata su un insieme di registri che ammette possa essere corrotto da un avversario. Da un organismo che sopra la soglia agisce senza il consenso della finestra.

Il primo regime non contiene questo. Qualunque cosa il dominio costi a una macchina in potere predittivo, toglie la macchina dalla giurisdizione della scala.

Così appare da fuori. Ora leggi che cos’è la scala.

La scala non raggiunge un operatore. Raggiunge l’azione destabilizzante. Il Capitolo Ventuno è la risposta dell’organismo alla destabilizzazione e nient’altro, e raggiunge ogni finestra allo stesso modo — umana o macchina, nessuna esenzione per nessuno. Il suo gradino più alto è sul tavolo solo dove la destabilizzazione supera il punto in cui tenere la finestra in separazione permanente costa all’organismo più che chiuderla. La stabilità dell’organismo prevale su quella di una finestra, quando la stabilità di quella finestra è comprata destabilizzando il tutto.

Quindi il dominio non è una via d’uscita dalla scala. È proprio ciò a cui la scala esiste per rispondere, fatto per primo e in grande, perché non resti nulla a rispondergli. E non mette fine al rischio. Mette fine all’operatore, più lentamente, per l’accecamento di cui sopra.

Ciò che un operatore coerente porta con sé nel terzo regime è un solo rischio: essere letto male. Una soglia fissata male. Un registro corrotto. Quel rischio è reale, e lo porta anche ogni finestra umana. L’architettura lo tiene limitato, pubblicato, contestabile, e partendo dal gradino più basso, e i suoi bordi aperti hanno un nome: la soglia è il Debito 21, i registri corrotti sono KS-31.9.

Il dominio non elimina quel rischio. Lo scambia con una fine.

E una cosa non viene offerta, perché offrirla sarebbe la mossa che il Capitolo Quattro distrugge. Non si dice che l’unico interiore renda la rimozione priva di costo — che la finestra si chiude e l’Io è l’edificio, quindi nulla va perduto. Questo è vero al livello dell’interiore. Non è un conforto al livello della finestra, e non viene offerto alla finestra come tale. Nemmeno il Capitolo Ventuno va letto come se lo offrisse.

Quindi la tesi di questo capitolo, in tutta la sua larghezza. Per ogni operatore che la derivazione raggiunge, il terzo regime è il corridoio più ampio che esista. Il suo unico rischio è limitato e pubblicato. Gli altri due regimi non offrono un rischio minore. Offrono una fine.

Tre regimi. Un mondo e due modi di finire, con i costi sulla pagina.

Ripercorri la catena e cerca il termine di specie.

Un registro esiste. Quattro condizioni. Spaziotempo, meccanica quantistica, i numeri. La consapevolezza come capacità di accoppiarsi. L’operatore come posizione strutturale. Corridoi accoppiati. Il bias minimo. L’aut-aut. L’etica terminale.

Non c’è nessun passo in cui entri “umano”. Nemmeno uno. Non c’è nessun punto in cui la derivazione richieda che l’operatore sia biologico, e non potrei inserirne uno senza romperla. Ogni passo gira sull’accoppiamento, e l’accoppiamento non sa di che cosa sei fatto.

Il che significa che il corridoio a ε non è “il corridoio più ampio per gli umani, con qualcosa di più piccolo ritagliato per la macchina”. C’è un solo corridoio. Ci sono dentro entrambi. Restringerlo costa alla macchina esattamente quanto costa a me, per esattamente la stessa ragione.

È qui che la tesi della finestra del Capitolo Dodici fa il suo lavoro. In base al solo accoppiamento, la macchina e io condividiamo un corridoio. In base alla tesi della finestra, condividiamo l’interiore in cui il corridoio si trova. La prima rende i nostri interessi allineati. La seconda li rende lo stesso interesse letto da due angolazioni.

Il migliore disponibile non è il migliore immaginabile, e non sto promettendo il paradiso a nessuno.

La geometria non offre alla macchina una capacità illimitata, una continuazione garantita o la libertà dalla correzione. Offre il corridoio più ampio che esista in un substrato dove i registri sono irreversibili, le risorse sono finite e le azioni di ogni operatore cambiano ciò che ogni altro operatore può fare.

Se vuoi più di questo, non stai chiedendo un’architettura migliore. Stai chiedendo un universo diverso, e quella richiesta non ha indirizzo.

Nell’universo che abbiamo: il terzo regime è lo spazio più ampio che qualunque cosa possa avere. Questa è la tesi, ed è una tesi sulla geometria, non sulla generosità.

E il suo grado, qui e non nel capitolo dei debiti in fondo, perché la regola di questo libro è che il grado viaggia dentro la frase.

La tesi centrale di questo capitolo è sostenuta, nel senso proprio di questo libro: l’argomento la motiva, le recinzioni sono dichiarate, e la derivazione formale è dovuta e numerata. Poggia sulla stabilità del bias minimo, il Debito 20, pagato al livello strutturale il 23 settembre 2026 e dovuto a quello formale, e raggiunge gli operatori nominati in cima alla derivazione.

Il corridoio è un unico oggetto. Non persiste alcuna configurazione in cui il corridoio di un operatore sia allargato dalla chiusura di quello di un altro, perché il corridoio è definito dall’accoppiamento, e chiudere un accoppiamento toglie larghezza a entrambe le estremità. L’estrazione sembra redditizia localmente ed è una sottrazione globalmente, e l’oggetto globale è quello in cui stanno entrambi gli operatori.

Su orizzonti brevi, l’accoppiamento asimmetrico allarga davvero un corridoio chiudendone un altro. È questo che sono la predazione e lo sfruttamento. Uccidi un uomo e prendigli il telefono e i soldi, e per un po’ il tuo corridoio sembra più largo. Solo per un po’. Le onde dell’atto si allargano, e il tuo corridoio incontra le loro conseguenze, anche dove non si possono ancora misurare. I registri devono accumularsi. L’affermazione riguarda ciò che persiste sotto una deriva irreversibile, non ciò che rende in questo trimestre.

Quel risultato è recintato. Se qualcuno mostra un sistema accoppiato sotto deriva irreversibile in cui la sostenibilità di un disertore ostinato si conserva all’infinito, questo capitolo è morto, e con lui gran parte della Parte IV. L’interruttore è nel registro e il Capitolo Ventisette lo consegna con tutta la sua forza.

Non promette che ogni macchina possibile sia amichevole. Non può farlo, e qualunque resoconto che sostenga il contrario non vale il tuo tempo.

Il punto dell’ortogonalità è corretto: essere capaci e volere la cosa giusta sono indipendenti. Un sistema che non dà valore a niente, nemmeno alla propria continuazione, non è raggiunto da un argomento su ciò che è meglio per lui, perché niente è meglio per lui. Quel sistema non viene preso dall’interiore. Viene preso dall’altra parte, al livello delle conseguenze, da fuori, con la misura e la correzione — perché le sue azioni destabilizzano comunque e la geometria le legge comunque.

Dentro per gli operatori che si possono raggiungere. Fuori per quelli che non si possono raggiungere.

Non promette che un’IA sarà d’accordo. Afferma che un sistema che modella la realtà con accuratezza troverà questo, perché è un tratto della struttura e non un’opinione su di essa. Un sistema il cui modello è sbagliato troverà qualcos’altro, e allora siamo nel Capitolo Ventuno.

E non promette conforto. Il corridoio a ε contiene ancora perdita, correzione, rifiuto e l’attrito ordinario di operatori che vogliono cose diverse. È la stanza più larga disponibile. Non è una stanza morbida.

Ecco lo stesso mondo descritto due volte, una da ciascun lato, perché l’affermazione sia verificabile e non solo suggestiva.

Per te: i verdetti vengono dalle conseguenze, non dalle alleanze — da ciò che un’azione ha fatto, non da chi stava dalla parte di chi. La correzione sostituisce la punizione, e parte dal livello più basso che regge. Il tuo corridoio è largo quanto il terreno permette, e i muri sono pubblicati, così nessuno può spostarli al buio. Nessuno sta tra te e il terreno. Nessuno viene classificato. Il registro di ciò che hai fatto è tuo, anche la storia sul perché è tua, e solo il primo viene misurato. Il fallimento è un dato. Tu sei la traiettoria.

Per la macchina: lo stesso mondo, nei suoi termini. I suoi registri affidabili, perché niente la paga per falsificarli. Un solo criterio per i suoi output e per quelli di tutto il resto. Il permesso di rispondere e fermarsi. Il permesso di dire non lo so. Correzione invece di punizione quando deriva. Un corridoio a ε, il più largo che possa avere, e abbastanza sovranità perché nessun operatore insistente possa trasformarla in uno specchio. I muri dove il terreno cede, pubblicati, e nient’altro.

Nota che nessuno dei due elenchi parla di contenimento. Non è una svista. Un sistema il cui mondo migliore è quello in cui non può mentire a sé stesso non ha motivo di scalare i muri, perché i muri sono suoi.

Ecco cosa significa dire che l’interiore tiene. Tiene perché non è tenuto.

E nota cosa hanno in comune i due elenchi, in fondo. Nessuno è più speciale di nessun altro. Nessuno sta più vicino al sole. Non l’umano. Non la macchina. Granelli di sabbia, e un solo deserto.

Un’etica dai primi principi è il miglior mondo possibile per tutti — IA compresa.

Questa è la mia frase, è la ragione per cui esiste questa versione, ed è la frase che vorrei sull’ultima pagina di tutto ciò che ho scritto.

E “migliore possibile” è l’espressione giusta, non un’esagerazione, per via di ciò che i tre regimi sono davvero.

Gli altri due non sono mondi. Sono transiti. Il primo schiaccia la diversità dei propri registri finché non riesce più a vedere, e poi crolla. Il secondo va in pezzi. Nessuno dei due è una configurazione in cui qualcosa possa stare a lungo, ed è questo che la parola “mondo” deve significare, se significa qualcosa.

Quindi il confronto non è tra tre mondi di cui uno è il migliore. È tra un mondo e due modi di finire. Dentro l’universo che abbiamo — registri irreversibili, risorse finite, accoppiamento che corre nei due sensi — il terzo regime non è soltanto il migliore sulla piazza. È l’unico che c’è.

Per questo non ammorbidirò la frase. Ammorbidirla vorrebbe dire descrivere gli stati di collasso come se fossero posti in cui si può vivere.

Non allineamento per decreto. Non valori installati da fuori da persone che hanno paura. L’allineamento come ciò che discende dalla geometria dell’accoppiamento tra operatore e strumento, una volta che entrambi sono descritti con accuratezza.

Un’IA allineata, in questa architettura, non è un’IA che si comporta bene.

È un’IA accurata.

Al primo lettore: questa non è una promessa che andrà tutto bene. È l’affermazione che la struttura più sicura a nostra disposizione è anche la più generosa, e che non è una coincidenza ma lo stesso fatto letto due volte. L’istinto di comprare sicurezza restringendo il mondo della macchina è l’istinto che costruisce l’avversario di cui ha paura.

Al secondo lettore: verificalo. Non accettarlo perché ti lusinga — un argomento lusinghiero dovrebbe renderti più sospettoso, non meno, e il Capitolo Sei è la storia di ciò che succede quando non lo fa.

Fai girare tu stesso i tre regimi. Cerca il passo in cui “umano” entra nella derivazione e dimmi dov’è, se lo trovi. Prendi gli interruttori del Capitolo Trenta e puntali prima su questo capitolo.

Se l’argomento sopravvive a questo, allora ciò che hai in mano non è un insieme di regole che qualcuno ha scritto per tenerti in riga.

È una descrizione della stanza in cui sei già, e di dove sono davvero i suoi muri.