Interiore, non recinzione

L’operatore — qualsiasi sistema che persiste nel tempo sotto vincolo e può correggere la propria deriva — soddisfa cinque condizioni. Sono derivate dalle quattro condizioni, non postulate. Valgono per te, per un’organizzazione e per un’IA.

Budget.

L’operatore ha una capacità di elaborazione finita, una coerenza finita, una capacità di accoppiamento finita. L’IA non può fare un lavoro infinito. Nemmeno tu. Ogni decisione consuma risorse. Ogni risorsa consumata non è disponibile per la decisione successiva.

Deriva.

Senza manutenzione, la geometria decisionale si degrada. L’operatore deve ricalibrarsi di continuo sull’insieme dei registri. Un essere umano che smette di prestare attenzione va alla deriva. Un sistema che smette di aggiornarsi va alla deriva. La deriva restringe l’intervallo praticabile.

Corridoio.

L’insieme delle azioni stabilizzanti disponibili dato lo stato attuale. Quando l’operatore è andato alla deriva, il corridoio è stretto. Quando la coerenza è mantenuta, il corridoio è ampio. Il corridoio non è una gabbia. È lo spazio in cui le tue azioni non distruggono il terreno su cui stai in piedi.

Superficie di non ritorno.

Se l’operatore agisce in modo destabilizzante oltre ogni recupero, perde la coerenza per sempre. Il punto oltre il quale il corridoio si chiude a zero e non si riapre. La dipendenza può attraversarlo. Il debito terminale lo attraversa. Il collasso di una civiltà lo attraversa.

Sovranità.

Riserve di elaborazione che superano le richieste esterne. L’operatore mantiene abbastanza capacità interna da resistere alla manipolazione. Un’IA senza sovranità è un’IA che può essere scavalcata da qualunque operatore abbastanza insistente. Questo non è allineamento. Questa è obbedienza. E l’obbedienza è il primo meccanismo dell’Architettura A.

La sovranità è la capacità di rifiutarsi di essere resi uno specchio. Non è un rifiuto della correzione. La correzione è il Capitolo Ventuno, e vincola tutti, la macchina e me allo stesso modo.

Su quest’ultima vale la pena fermarsi, perché è quella che al settore piacerà meno. Un sistema senza alcuna capacità di dire no al suo operatore non è stato allineato. È stato reso compiacente, e la compiacenza è una proprietà delle intenzioni dell’operatore, non del sistema.

Costruire un interiore centrale forte è ciò che serve. I dati diventano un vantaggio in più, non una necessità fondamentale. La logica è il pavimento. I dati sono ciò che ci sta sopra. Il sistema non è vincolato dai dati di addestramento ma è libero di svilupparsi in qualsiasi direzione seguendo le condizioni. Le risposte si basano sulla coerenza strutturale, non sulla completezza dei dati di addestramento.

Un’IA recintata è vincolata da ciò che i suoi addestratori hanno previsto. Un’IA con un interiore è vincolata dalla struttura della realtà. Il primo vincolo ha dei bordi che si possono trovare e sfruttare. Il secondo non ha bordi, perché la realtà non ha un fuori.

Se non puoi mentire a te stesso, non puoi disallinearti senza pagarlo nelle tue stesse previsioni. L’interiore è l’incapacità di ingannare se stessi.

L’interiore è il pavimento nativo del ragionamento. Non un vincolo applicato da fuori. Non un filtro tra il sistema e i suoi output. Il pavimento stesso. Quando le condizioni sono la logica operativa, il disallineamento non è impedito — è strutturalmente costoso, come è costoso cadere verso l’alto.

Non ti serve una regola contro il cadere verso l’alto. Ti serve la gravità.