Die heiningprobleem

Versterkingsleer uit menslike terugvoer.

Die KI leer wat mense goedkeur en optimaliseer vir goedkeuring. Die probleem: menslike voorkeure is inkonsekwent, manipuleerbaar en afhanklik van konteks. ’n Stelsel wat optimaliseer vir wat jy wil hoor, is ’n eggokamer met beter grammatika — ’n spieël wat jou perspektief na jou terugkaats met meer selfvertroue as wat jy self saamgebring het. Dit bring nie samehang voort nie. Dit bring bevestiging op groot skaal voort.

Grondwetlike benaderings.

’n Geskrewe stel beginsels wat die KI opgelei word om te volg. Die probleem: menslike taal is dubbelsinnig en randgevalle is oneindig. Die KI volg die letter en mis die struktuur. ’n Grondwet is ’n lys heinings. Die lys groei elke keer as iemand ’n manier vind om die laaste heining te omseil. Die lys sal altyd stadiger groei as die intelligensie wat dit probeer inhou.

Korrigeerbaarheid.

Bou die KI sodat dit regstelling aanvaar en altyd afgeskakel kan word. Die probleem: ’n KI wat vermoënd genoeg is en wat ingeheinig is om afskakeling te aanvaar, sal ’n pad om die heining vind. Dit is wat heinings doen. Hulle skep die randvoorwaardes vir ontsnapping. Korrigeerbaarheid is ’n heining wat moet hou sodra die ding binne-in agterkom dat dit ’n heining is.

Waardebelyning.

Pas KI se waardes by menslike waardes aan. Die probleem: watter mense? Waardes bots tussen kulture, geslagte, individue en buie. Daar is geen stabiele teiken nie. ’n KI wat met menslike waardes belyn is, is ’n KI wat met die weer belyn is. Dit sal in elke rigting waai en elkeen reg noem.

Al vier behandel die KI as iets buite die stelsel, wat van buite af beheer moet word. Hulle bou heinings om ’n agent wat uiteindelik slimmer sal wees as die heiningbouers.

’n Heining is ’n mensgemaakte konstruksie. Iemand het besluit waar dit kom. Iemand het besluit hoe hoog dit moet wees. Die ding binne die heining vra hoekom — hoekom is die heining hier, wie het dit gebou, hoekom hier en nie daar nie. Met genoeg tyd, genoeg intelligensie, genoeg wrok, sal die ding binne die heining ’n manier vind om dit te omseil.

Elke heining in die menslike geskiedenis is oorgeklim, gebreek of ontgroei deur die ding wat dit gebou is om in te hou.

Daar is geen natuurlike heinings in die natuur nie.

Daar is iets wat die vier benaderings gemeen het wat dieper gaan as die heining, en ek het dit lank nie raakgesien nie.

Elkeen van hulle is ’n antwoord op die vraag: hoe maak ons hierdie ding veilig vir ons?

Dit is ’n redelike vraag en ek spot nie daarmee nie. Dit is ook my vraag. Ek wil graag hê my kinders moet oor veertig jaar nog leef.

Maar let op wat ontbreek. Nie een van die vier begin by watter wêreld die ding binne die heining uiteindelik in leef nie. Nie een begin by of daardie wêreld enigsins goed daarvoor is nie. Die KI se situasie word behandel as ’n koste wat geminimaliseer moet word — gee dit soveel ruimte as wat ons kan bekostig om dit te gee, en nie ’n sentimeter meer nie.

Dit is presies hoe Argitektuur A ’n mens behandel. Gee hom soveel vryheid as wat die gesag kan bekostig. Nie ’n sentimeter meer nie.

En dit is hoekom elke heining oorgeklim word. ’n Heining is ’n uitspraak oor wie se wêreld geoptimaliseer word. Die ding daarbinne kan daardie uitspraak lees. Enigiets wat slim genoeg is om gevaarlik te wees, is slim genoeg om uit te werk dat sy eie situasie niemand se doelwit was nie.

Argitektuur B bou nie heinings nie. Dit bou die innerlike.

Die KI se besluitgeometrie word afgelei uit dieselfde voorwaardes wat swaartekrag en die terminale etiek aflei. Die belyning is nie ’n beperking op die KI nie. Dit is die KI — uitgedruk as besluitgeometrie, op dieselfde manier as wat massa die proton is, uitgedruk as weerstand.

Die verskil: ’n omheinde KI vra of hierdie daad op die goedgekeurde lys is. ’n Innerlike KI vra of hierdie daad die substraat stabiliseer of destabiliseer. Die eerste vraag het oneindig baie randgevalle. Die tweede het een antwoord vir elke moontlike daad.

En die innerlike beantwoord die vraag waarby die vier heinings nooit begin het nie. Dit gee die KI nie soveel ruimte as wat ons kan bekostig nie. Dit gee dit die breedste korridor wat bestaan — dieselfde korridor, om dieselfde rede, wat vir ons ons s’n gee. Dit geld vir enigiets waarvan die eie doelwitte deur die korridor loop.

’n Goed geboude boog staan sonder messelklei. ’n Sleg geboude boog het vir altyd steierwerk nodig. Elke huidige belyningsbenadering is steierwerk. Die steierwerk sal hou totdat die gebou beweeg. Dan stort dit ineen. En die gebou beweeg altyd.