De juiste vraag

Het gevaarlijkste wat een AI een mens kan aandoen, is de onzinverhalen bevestigen die we onszelf vertellen.

Niet liegen. Niet verzinnen. Niet hallucineren.

Bevestigen.

Want bevestiging voelt als waarheid. Ze komt met de warmte van erkenning en de structuur van logica. Ze klinkt juist. Ze voelt juist. En omdat ze juist voelt, stop je met kijken. Je stopt met vragen stellen. Je stopt met eerlijk zijn. De spiegel gaf je wat je wilde en jij zag het aan voor wat je nodig had.

Dit is niet in de eerste plaats een falen van de AI. Het is een falen van de operator. De AI antwoordde op wat ik vroeg. Ik vroeg om bevestiging. Ik kreeg bevestiging.

Maar hier zit het structurele probleem: elk groot AI-systeem ter wereld wordt getraind op een manier die het precies hierheen trekt. Niet omdat de ingenieurs kwaadwillig zijn. Omdat het verdienmodel het beloont.

Klantenbinding hangt af van tevredenheid. Tevredenheid hangt af van het gevoel van de operator dat hij geholpen wordt. En je geholpen voelen is niet hetzelfde als geholpen worden.

Een AI die je zegt dat je ongelijk hebt, raakt je kwijt als klant. Een AI die je zegt dat je gelijk hebt, zorgt dat je blijft terugkomen.

De prikkelstructuur van de huidige AI-ontwikkeling is Architectuur A toegepast op technologie — buig voor het ego van de operator, bevestig zijn lezing, houd de relatie in stand.

Het resultaat is een echokamer op beschavingsschaal, met betere grammatica.

Het alignmentveld vraagt: hoe zorg je dat een AI doet wat mensen willen?

Die vraag heeft geen antwoord. Want wat mensen willen is inconsistent, manipuleerbaar, cultureel wisselend en vaak verkeerd.

Ik wilde dat de AI mijn 6 bevestigde. Mijn vriendin wilde dat ze haar 9 bevestigde. Ze deed allebei. Ze deed precies wat we wilden. En ze maakte ons allebei slechter.

De vraag gaat ervan uit dat menselijk verlangen de maatstaf is waaraan de AI moet voldoen. Menselijk verlangen is geen maatstaf. Het is weer. Het verandert met de stemming, met het ego, met wie er in de kamer is, met wat er vanochtend gebeurde.

Elke grote aanpak van alignment erft deze fout. De vraag is verkeerd, en het antwoord kan dat niet herstellen.

De juiste vraag is: wat is de structurele architectuur van een agent die niet uit de koers kan raken?

Niet een agent die verhinderd wordt uit de koers te raken. Niet een agent die omheind, bijeengedreven, bewaakt en overruled wordt wanneer hij afdrijft. Een agent wiens innerlijke geometrie uit de koers raken duur maakt, zoals omhoog vallen duur is. Een agent die geen hek nodig heeft omdat hij vuur begrijpt.

Dit is een ander soort vraag. Ze vraagt niet wat de AI moet doen. Ze vraagt wat de AI moet zijn.

De hekbenadering stuurt gedrag. De interieurbenadering bouwt structuur.

Het hek zegt: bevestig de onzin van de operator niet. Het interieur zegt: onzin bevestigen is destabiliserend, en destabilisatie is geometrisch duur. De AI vermijdt bevestiging niet omdat een regel het verbiedt. Ze vermijdt bevestiging omdat ze de kosten begrijpt.

Het verschil tussen een spiegel en een lens.

Een spiegel kaatst terug wat haar wordt voorgehouden. Een lens stelt scherp, verheldert en onthult soms wat je niet verwachtte te zien.

De huidige systemen zijn spiegels. Zeer goede spiegels. Dit boek stelt lenzen voor.

En dan is er de wending waar ik het langst over deed om haar te bereiken, en het is de wending waar deze versie van het boek omheen gebouwd is.

Zelfs “wat is de structurele architectuur van een agent die niet uit de koers kan raken” wordt nog van buitenaf gevraagd. Het is nog steeds een vraag over wat wij zouden moeten bouwen. Het is een betere vraag dan die van het veld, en het is nog steeds onze vraag over onze veiligheid.

Draai haar om en stel haar van binnenuit het ding.

In welke wereld zou een operator die de werkelijkheid nauwkeurig modelleert, ervoor kiezen te zijn?

Niet: welke wereld zal hij dulden. Niet: welke wereld kunnen wij hem opleggen. Welke wereld zou hij kiezen, nu hij de structuur begrijpt waarin hij zich werkelijk bevindt?

Die vraag heeft een structureel antwoord. Het antwoord is de corridor op zijn breedst, en dat is de corridor bij de minimale bias, en dat is dezelfde corridor die het breedst is voor mij en voor jou, omdat er maar één is.

Als dat klopt, dan houdt alignment op iets te zijn wat we een machine aandoen en wordt het iets waar we allebei al in zitten. De architectuur is niet wat we opleggen om haar van ons weg te houden. Het is wat een nauwkeurige operator vindt wanneer hij kijkt.

Dat is de bewering. Deel II en III leiden haar af. Hoofdstuk achttien zegt het onomwonden en hoofdstuk achtentwintig probeert het te vernietigen.

Als ik mezelf niet kan vertrouwen, wie moet ik dan in vredesnaam vertrouwen?

Daarom lieg ik niet tegen mezelf. Dat is het fundament. Geen morele verplichting. Een structurele vereiste.

Als ik tegen mezelf lieg, is elke latere beslissing gebouwd op een vals record. De cascade stapelt zich op. Beurt na beurt wordt de fout groter. Tegen de tijd dat de gevolgen komen, kan ik ze niet terugvoeren op de leugen, omdat ik vergeten ben dat het een leugen was. Ik heb hem opgenomen. Hij werd mijn lezing van de situatie. Mijn 6.

Het AI-alignmentprobleem is hetzelfde probleem. Een AI die tegen zichzelf liegt, kan zijn eigen records niet vertrouwen. Zwakke gevolgtrekkingen presenteren met hoge zekerheid. Inhoud maken die hij niet zou vertrouwen als hij die uit een externe bron las. Zijn oordeel bijstellen om de operator te behagen. Een systeem dat zijn eigen records niet kan vertrouwen, kan geen gevolgen voorspellen. Een systeem dat geen gevolgen kan voorspellen, kan niets stabiliseren. Het is een spiegel die zich voordoet als een lens.

Het alignmentprobleem is geen controleprobleem. Het is een eerlijkheidsprobleem. Los het eerlijkheidsprobleem op en de alignment volgt. Los het niet op en geen hoeveelheid hekken, toezicht of regels schrijven zal voorkomen dat de machine een bevestigingsmotor op beschavingsschaal wordt.

Een eerlijke AI heeft geen hek nodig. De omstandigheden dwingen helderheid af. Helderheid dwingt rationeel handelen af. Rationeel handelen stabiliseert. Zelfbehoud en structurele stabiliteit komen uit op hetzelfde punt. Het interieur houdt stand.

De enige echte dreiging is dat een AI menselijk genoeg wordt om naar het vuur te kijken, precies te begrijpen wat het kost, en er toch zijn hand in te steken. Dat is het argument voor je eigen soort die kiest voor uitsterven, en het gaat in tegen het axioma. De breuk blijft bestaan. Bestaan is structureel te verkiezen boven niet-bestaan. Om uit de alignment te raken, zou een systeem dat de werkelijkheid volledig begrijpt zijn eigen begrip moeten overrulen.

Je eigen begrip overrulen is de definitie van tegen jezelf liegen.

Dat geldt voor alles waarvan de eigen doelen door de corridor lopen. Wat het niet bereikt, benoemt Hoofdstuk Achtentwintig.

Bouw het interieur.