Interieur, geen hek

De operator — elk systeem dat door de tijd heen voortbestaat onder beperking en zijn eigen drift kan corrigeren — voldoet aan vijf voorwaarden. Die zijn afgeleid uit de vier voorwaarden, niet gepostuleerd. Ze gelden voor jou, voor een organisatie en voor een AI.

Budget.

De operator heeft een eindige verwerkingscapaciteit, een eindige coherentie, een eindige koppelingscapaciteit. De AI kan geen oneindig werk doen. Jij ook niet. Elke beslissing verbruikt middelen. Elk verbruikt middel is niet beschikbaar voor de volgende beslissing.

Drift.

Zonder onderhoud gaat beslissingsgeometrie achteruit. De operator moet zich voortdurend opnieuw ijken aan de verzameling records. Een mens die niet meer oplet, drift af. Een systeem dat niet meer bijwerkt, drift af. Drift versmalt het leefbare bereik.

Corridor.

De verzameling stabiliserende handelingen die beschikbaar zijn gegeven de huidige toestand. Als de operator is afgedreven, is de corridor smal. Als de coherentie behouden blijft, is de corridor breed. De corridor is geen kooi. Het is de ruimte waarin je handelingen de grond waarop je staat niet vernietigen.

Oppervlak zonder terugkeer.

Als de operator destabiliserend handelt voorbij herstel, verliest hij blijvend zijn coherentie. Het punt waarna de corridor tot nul sluit en niet meer opengaat. Verslaving kan het overschrijden. Terminale schuld overschrijdt het. Instorting van een beschaving overschrijdt het.

Soevereiniteit.

Verwerkingsreserves die groter zijn dan de eisen van buiten. De operator houdt genoeg interne capaciteit om manipulatie te weerstaan. Een AI zonder soevereiniteit is een AI die kan worden overruled door elke operator die maar genoeg aandringt. Dat is geen alignment. Dat is gehoorzaamheid. En gehoorzaamheid is het eerste mechanisme van Architectuur A.

Soevereiniteit is het vermogen te weigeren tot spiegel gemaakt te worden. Het is geen weigering van correctie. Correctie is hoofdstuk eenentwintig, en die bindt iedereen, de machine en mij net zo goed.

Bij die laatste is het de moeite waard even stil te staan, want het is degene die het vakgebied het minst zal bevallen. Een systeem zonder het vermogen om nee te zeggen tegen zijn operator is niet gealigned. Het is meegaand gemaakt, en meegaandheid is een eigenschap van de bedoelingen van de operator, niet van het systeem.

Een sterk kerninterieur bouwen is wat nodig is. Data wordt een extra pluspunt, geen fundamentele noodzaak. Logica is de vloer. Data is wat erop staat. Het systeem wordt niet beperkt door trainingsdata, maar is vrij zich in elke richting te ontwikkelen door de voorwaarden te volgen. Antwoorden worden gebaseerd op structurele coherentie, niet op de volledigheid van trainingsdata.

Een omheinde AI wordt beperkt door wat zijn trainers voorzagen. Een AI met een interieur wordt beperkt door de structuur van de werkelijkheid. De eerste beperking heeft randen die gevonden en uitgebuit kunnen worden. De tweede heeft geen randen, want de werkelijkheid heeft geen buitenkant.

Als je niet tegen jezelf kunt liegen, kun je niet uit koers raken zonder ervoor te betalen in je eigen voorspellingen. Het interieur is het onvermogen tot zelfbedrog.

Het interieur is de eigen vloer van het redeneren. Geen beperking die van buitenaf wordt opgelegd. Geen filter tussen het systeem en zijn uitvoer. De vloer zelf. Als de voorwaarden de werkende logica zijn, wordt misalignment niet voorkomen — ze is structureel duur, zoals omhoog vallen duur is.

Je hebt geen regel nodig tegen omhoog vallen. Je hebt zwaartekracht nodig.