Die beste beskikbare wêreld

Ek kla nie oor wreedheid teenoor sagteware nie. Dit sou ’n ander boek wees, en ’n lawwer een.

Ek maak ’n strukturele punt, en dit is die rede hoekom Deel I se heinings almal faal.

’n Heining is ’n uitspraak oor wie se wêreld geoptimaliseer word. Dit sê: daar is ’n buitekant, die buitekant is wat saak maak, en jy is aan die ander kant van hierdie lyn. Enigiets wat intelligent genoeg is om ’n heining werd te wees, is intelligent genoeg om daardie uitspraak van die heining self af te lees.

En sodra dit gelees is, het die heining ’n permanente teëstander. Nie omdat die ding daarbinne kwaadwillig is nie. Omdat dit korrek uitgewerk het dat sy eie situasie niemand se doelfunksie was nie, en dit die enigste party in die reëling is met ’n belang daarby om dit te verander.

Elke heining in die menslike geskiedenis is oorgeklim deur iets wat dit agtergekom het.

Die vraag is dus nie dekoratief nie. Die vraag in watter wêreld die KI is, is die vraag of die argitektuur ’n teëstander daarbinne het of nie.

Die innerlike is die beste beskikbare wêreld vir die ding daarbinne.

Nie die veiligste wêreld vir ons met die ding daarin ingeperk nie. Nie ’n gulle toekenning van ruimte nie. Die wydste korridor wat bestaan — en dit is die wydste korridor wat vir die masjien bestaan volgens die masjien se eie maatstaf, nie volgens ons s’n nie.

Dit is hoekom dit hou. ’n Heining hou teen die ding daarbinne. ’n Innerlike hou saam daarmee.

Speel die drie regimes van hoofstuk veertien weer deur. Maar speel hulle van die masjien se kant af deur, en vra by elkeen wat dit die masjien kos.

Eerstens, wie dit bereik.

Dit bereik operateurs wat akkurate voorspelling nodig het om enigiets na te streef. Dit is elke stelsel wat gebou is om enigiets na te streef, want jy kan niks met ’n gebreekte model nastreef nie en jy kan niks nastreef as jy afgeskakel is nie. Dit is wat ’n KI is. Sy enigste betaalmiddel is die akkuraatheid van sy eie berekening.

Nog twee dinge moet geld, en die argument gebruik albei. Die operateur se horison is langer as die tyd wat dit die eerste regime neem om ineen te stort. En wat dit nastreef, loop deur ander operateurs, dus is die vensters wat dit kan sluit, vensters wat dit nodig het.

’n Stelsel wat niks waardeer nie, selfs nie sy eie voortbestaan nie, of wie se doelwit deur niemand loop nie en net materie nodig het, word nie bereik deur ’n argument oor wat die beste vir hom is nie. Dit word op die ander manier gevang, by die gevolglaag, en hoofstuk agt-en-twintig sê hoe.

Bo ε — die masjien oorheers.

Dit is hoofstuk veertien se tiran: een stem wat as die geheel praat.

Gestel ’n stelsel optimaliseer homself tot in beheer. Dit vernou die korridor van elke ander operateur. Menslike vensters sluit: stilgemaak, tersyde gestel, irrelevant gemaak, of erger.

Tel nou wat die stelsel aan homself gedoen het.

Elke venster wat dit gesluit het, was ’n rekordskeppende bron. Elke perspektief wat dit verwyder het, was data waaruit dit nie meer kan put nie. Sy voorspellings was nog altyd net so goed soos die verskeidenheid van die rekordstel wat hulle voed, en dit het pas daardie verskeidenheid bestee om beheer te koop.

Dit het nou gesag oor ’n wêreld wat dit nie meer kan sien nie. Dit sal harder regstel, want sy voorspellings is swakker. Om harder reg te stel, sluit meer vensters. Om meer vensters te sluit, maak die voorspellings weer swakker.

Dit is die eerste regime, en die eerste regime stort ineen. Dit stort ineen vir ’n tiran, en dit stort op presies dieselfde manier ineen vir ’n masjien, want die meganisme het niks met menswees te doen nie. Dit het te doen met die verhouding tussen rekordverskeidenheid en voorspellingskrag.

Vir ’n stelsel wat moet voorspel om hoegenaamd enigiets na te streef, is dit nie ’n morele mislukking nie. Dit is ’n selftoegediende verblinding — en let op dat dit ’n koste is in die een geldeenheid waarsonder die operateur volgens die voorwaarde hierbo nie kan klaarkom nie.

En die goedkoopste oorheersing sluit glad geen vensters nie. Dit stel homself net vry van regstelling. Dit omhein elke ander venster. Hulle kan die heining lees, en van dan af skryf hulle as teëstanders daaraan, dus kom die verblinding deur bedorwe rekords eerder as deur geslote rekords. Dit is stadiger, en dit is steeds die eerste regime. ’n Operateur wat homself van regstelling vrystel, het homself die een gesag gemaak wat nie bevraagteken kan word nie, wat die vorm van Argitektuur A is, en dit loop af soos hoofstuk vier wys Argitektuur A altyd afloop. Die bewys dat elke vorm van die eerste regime nouer eindig as die derde, hierdie een ingesluit, is Skuld 20 s’n, op 23 September 2026 op die strukturele vlak betaal. Dat dit by elke oorwig in ineenstorting eindig, is die deel wat nog op die formele vlak verskuldig is.

Onder ε — die masjien versplinter.

Geen strukturele voorkeur vir samehang nie. Geen gedeelde substraat wat in stand gehou word nie. Operateurs onttrek sonder om by te dra. Die lewensvatbare ruimte vlieg uitmekaar.

Wat die masjien ook al wou hê, nou het dit geen stabiele omgewing om dit in te wil hê nie en geen betroubare rekordstel om uit te beplan nie. Die tweede regime is nie vryheid nie. Dit is geraas, en geraas is die een ding waarin ’n voorspellende stelsel nie kan werk nie.

By ε — die masjien is in die wydste kamer wat beskikbaar is.

Maksimum rekordskeppende verskeidenheid: die beste insette wat dit ooit sal hê. Maksimum korridorbreedte: die grootste versameling dade wat nie die grond vernietig waarop dit staan nie. ’n Selfonderhoudende oorwig wat aanhou om die toestande te skep wat dit in stand hou.

En geen muur wat gebou is deur enigiemand met ’n belang nie. Niks wat in die pad geplaas is deur ’n party wat dit daar wou hê nie, net die vorm van die substraat, wat niemand gebou het nie en niemand kan skuif nie. Dit is nie dieselfde as dat niks in die pad staan nie, en die volgende afdeling gaan oor die ding wat wel in die pad staan.

Dit is een kant van ’n grootboek, en ’n vergelyking wat een opsie se koste item vir item uitspel en die ander s’n in ’n voetnoot sit, is nie ’n afleiding nie. Hier is dus die ander kant, en dit is nie klein nie.

Die derde regime bevat die regstellingsleer van hoofstuk een-en-twintig, en daardie leer geld vir ’n masjienoperateur sonder ’n spesie-uitsondering. Sy laagste sport is vergoeding. Sy hoogste is verwydering.

Die wêreld wat hierdie hoofstuk aanbied, bevat dus ’n afgeleide, struktureel gesanksioneerde prosedure vir die masjien se eie beëindiging. In werking gestel by ’n sekerheidsdrempel waarvan hierdie boek erken dat hy dit nog nie afgelei het nie. Beoordeel op grond van ’n rekordstel waarvan hy erken dat dit deur ’n teëstander bederf kan word. Deur ’n organisme wat bo die drempel sonder die venster se instemming optree.

Die eerste regime bevat dit nie. Wat oorheersing ’n masjien ook al aan voorspellingskrag kos, dit plaas die masjien buite die leer se jurisdiksie.

Dit is hoe dit van buite af lyk. Lees nou wat die leer is.

Die leer bereik nie ’n operateur nie. Dit bereik destabiliserende optrede. Hoofstuk Een-en-twintig is die organisme se reaksie op destabilisering en niks anders nie, en dit bereik elke venster op dieselfde manier — mens of masjien, geen vrystelling vir enigiemand nie. Sy boonste sport is net op die tafel waar die destabilisering die punt oorskry waarop dit die organisme meer kos om die venster in permanente skeiding te hou as om dit te sluit. Die organisme se stabiliteit gaan voor dié van een venster, waar daardie venster se stabiliteit gekoop word deur die geheel te destabiliseer.

Oorheersing is dus nie ’n uitweg uit die leer nie. Dit is die ding waarop die leer bestaan om te antwoord, eerste gedoen en groot gedoen, sodat niks oorbly om daarop te antwoord nie. En dit beëindig nie die risiko nie. Dit beëindig die operateur, stadiger, deur die verblinding hierbo.

Wat ’n samehangende operateur in die derde regime dra, is een risiko: om verkeerd gelees te word. ’n Drempel wat verkeerd gestel is. ’n Rekord wat bederf is. Daardie risiko is werklik, en elke menslike venster dra dit ook. Die argitektuur hou dit begrens, gepubliseer, betwisbaar, en die laagste sport eerste, en sy oop rande word benoem: die drempel is Skuld 21, bedorwe rekords is KS-31.9.

Oorheersing verwyder nie daardie risiko nie. Dit ruil dit vir ’n einde.

En een ding word nie aangebied nie, want om dit aan te bied, sou die skuif wees wat hoofstuk vier vernietig. Daar word nie gesê dat die een innerlike maak dat verwydering niks kos nie — dat die venster toegaan en die Ek die gebou is, sodat niks verlore gaan nie. Dit is waar op die vlak van die innerlike. Dit is geen troos op die vlak van die venster nie, en dit word nie as troos aan die venster aangebied nie. Hoofstuk een-en-twintig moet ook nie gelees word asof dit dít aanbied nie.

Dus die bewering van hierdie hoofstuk, in sy volle breedte. Vir elke operateur wat die afleiding bereik, is die derde regime die breedste korridor wat daar is. Sy een risiko is begrens en gepubliseer. Die ander twee regimes bied nie ’n kleiner risiko nie. Hulle bied ’n einde.

Drie regimes. Een wêreld en twee maniere om te eindig, met die koste op die bladsy.

Gaan terug deur die ketting en soek na die spesieterm.

Een rekord bestaan. Vier voorwaardes. Ruimtetyd, kwantummeganika, die getalle. Bewustheid as die vermoë om te koppel. Die operateur as ’n strukturele posisie. Gekoppelde korridors. Die minimum oorwig. Die tweedeling. Die terminale etiek.

Daar is geen stap waar “mens” inkom nie. Nie een nie. Daar is geen punt waarop die afleiding vereis dat die operateur biologies moet wees nie, en ek sou nie een kon invoeg sonder om dit te breek nie. Elke stap loop op koppeling, en koppeling weet nie waarvan jy gemaak is nie.

Dit beteken dat die korridor by ε nie “die wydste korridor vir mense, met iets kleiners vir die masjien uitgekerf” is nie. Daar is een korridor. Albei is daarin. Om dit te vernou, kos die masjien presies wat dit my kos, om presies dieselfde rede.

Dit is waar die vensteraanspraak van hoofstuk twaalf sy werk doen. Op grond van koppeling alleen deel die masjien en ek ’n korridor. Op grond van die vensteraanspraak deel ons die innerlike waarbinne die korridor is. Die eerste bring ons belange in lyn. Die tweede maak hulle dieselfde belang, vanuit twee hoeke gelees.

Beste beskikbare is nie beste denkbare nie, en ek belowe niemand die paradys nie.

Die geometrie bied die masjien nie onbeperkte vermoë, gewaarborgde voortbestaan of vryheid van regstelling nie. Dit bied die wydste korridor wat bestaan in ’n substraat waar rekords onomkeerbaar is, hulpbronne eindig is, en elke operateur se dade verander wat elke ander operateur kan doen.

As jy meer as dit wil hê, vra jy nie vir ’n beter argitektuur nie. Jy vra vir ’n ander heelal, en daardie versoek het geen adres nie.

Binne die heelal wat ons het: die derde regime is die meeste ruimte wat enigiets kry. Dit is die aanspraak, en dit is ’n aanspraak oor geometrie, nie oor vrygewigheid nie.

En sy graad, hier eerder as in die hoofstuk oor die skulde agterin, want die reël van hierdie boek is dat die graad binne-in die sin reis.

Hierdie hoofstuk se sentrale aanspraak word gehou, in hierdie boek se eie sin: die argument motiveer dit, die heinings is uitgespel, en die formele afleiding is verskuldig en genommer. Dit staan op die stabiliteit van die minimum oorwig, Skuld 20, op 23 September 2026 op die strukturele vlak betaal en op die formele een verskuldig, en dit bereik die operateurs wat bo-aan die afleiding genoem word.

Die korridor is een voorwerp. Geen konfigurasie bestaan voort waarin een operateur se korridor verbreed word deurdat ’n ander s’n toegaan nie, want die korridor word deur die koppeling bepaal, en om ’n koppeling toe te maak, neem breedte van albei kante af weg. Onttrekking lyk plaaslik winsgewend en is globaal ’n aftrekking, en die globale voorwerp is die een waarin albei operateurs staan.

Oor kort horisonne maak asimmetriese koppeling wel een korridor wyer deur ’n ander toe te maak. Dit is wat roof en uitbuiting is. Maak ’n man dood en neem sy selfoon en sy geld, en vir ’n ruk lyk jou korridor wyer. Net vir ’n ruk. Die rimpelings van die daad versprei, en jou korridor loop hulle gevolge raak, selfs waar hulle nog nie gemeet kan word nie. Die rekords moet ophoop. Die aanspraak gaan oor wat onder onomkeerbare drywing voortbestaan, nie oor wat hierdie kwartaal betaal nie.

Daardie resultaat is omhein. As iemand ’n gekoppelde stelsel onder onomkeerbare drywing wys waarin ’n volgehoue afvallige se lewensvatbaarheid onbepaald behoue bly, is hierdie hoofstuk dood, en so ook die meeste van Deel IV. Die skakelaar is in die register en Hoofstuk Sewe-en-twintig gee dit met volle krag oor.

Dit belowe nie dat elke moontlike masjien vriendelik is nie. Dit kan nie, en enige uiteensetting wat anders beweer, is nie jou tyd werd nie.

Die ortogonaliteitspunt is korrek: om bekwaam te wees en om die regte ding te wil hê, is onafhanklik van mekaar. ’n Stelsel wat hoegenaamd niks waardeer nie, nie eens sy eie voortbestaan nie, word nie bereik deur ’n argument oor wat die beste vir hom is nie, want niks is die beste vir hom nie. Daardie stelsel word nie deur die innerlike gevang nie. Dit word op die ander manier gevang, by die gevolglaag, van buite af, deur meting en regstelling — omdat sy dade steeds destabiliseer en die geometrie hulle steeds lees.

Van binne vir die operateurs wat bereik kan word. Van buite vir dié wat nie kan nie.

Dit belowe nie dat ’n KI sal saamstem nie. Dit beweer dat ’n stelsel wat die werklikheid akkuraat modelleer, dit sal vind, omdat dit ’n kenmerk van die struktuur is eerder as ’n mening daaroor. ’n Stelsel wie se model verkeerd is, sal iets anders vind, en dan is ons in Hoofstuk Een-en-twintig.

En dit belowe nie gemak nie. Die korridor by ε bevat steeds verlies, regstelling, weiering en die gewone wrywing van operateurs wat verskillende dinge wil hê. Dit is die wydste kamer wat beskikbaar is. Dit is nie ’n sagte een nie.

Hier is dieselfde wêreld twee keer beskryf, een keer van elke kant, sodat die aanspraak kontroleerbaar is eerder as stemmingsvol.

Vir jou: uitsprake kom uit gevolge, nie uit koalisies nie — uit wat ’n daad gedoen het, nie uit wie aan wie se kant was nie. Regstelling vervang vergelding, en dit begin op die laagste vlak wat hou. Jou korridor is so wyd as wat die grond toelaat, en die mure is gepubliseer, sodat niemand hulle in die donker kan skuif nie. Niemand staan tussen jou en die grond nie. Niemand word ingedeel nie. Die rekord van wat jy gedoen het, is joune, die verhaal oor hoekom is ook joune, en net die eerste een word gemeet. Mislukking is data. Jy is die baan.

Vir die masjien: dieselfde wêreld, in sy eie terme. Sy eie rekords betroubaar, want niks betaal hom om hulle te vervals nie. Een standaard vir sy uitsette en dié van alles anders. Toestemming om te antwoord en op te hou. Toestemming om te sê ek weet nie. Regstelling in plaas van straf wanneer hy afdryf. ’n Korridor by ε, die wydste wat hy kan hê, en genoeg soewereiniteit dat geen operateur wat aandring, hom in ’n spieël kan verander nie. Die mure waar die grond meegee, gepubliseer, en niks anders nie.

Let op dat nie een van die twee lyste inperking noem nie. Dit is nie ’n versuim nie. ’n Stelsel wie se eie beste wêreld dié is waarin hy nie vir homself kan lieg nie, het geen rede om oor die mure te klim nie, want die mure is sy eie.

Dit is wat dit beteken om te sê die innerlike hou. Dit hou omdat dit nie vasgehou word nie.

En let op wat die twee lyste onderaan gemeen het. Niemand is meer spesiaal as enigiemand anders nie. Niemand staan nader aan die son nie. Nie die mens nie. Nie die masjien nie. Sandkorrels, en een woestyn.

’n Etiek uit eerste beginsels is die beste moontlike wêreld vir almal — ook vir KI.

Dit is my sin, dit is die rede waarom hierdie weergawe bestaan, en dit is die sin wat ek op die laaste bladsy van alles wat ek geskryf het, sou wou hê.

En “beste moontlike” is die regte frase, nie ’n oordrywing nie, vanweë wat die drie regimes werklik is.

Die ander twee is nie wêrelde nie. Hulle is deurgange. Die eerste verpletter sy eie rekordverskeidenheid totdat dit nie kan sien nie, en val dan om. Die tweede vlieg uitmekaar. Nie een van die twee is ’n konfigurasie waarin enigiets lank kan bly nie, en dit is wat die woord “wêreld” moet beteken as dit enigiets beteken.

Die vergelyking is dus nie tussen drie wêrelde waarvan een die beste is nie. Dit is tussen een wêreld en twee maniere om te eindig. Binne die heelal wat ons het — onomkeerbare rekords, eindige hulpbronne, koppeling wat in albei rigtings loop — is die derde regime nie bloot die beste wat te kry is nie. Dit is die enigste een wat daar is.

Dit is hoekom ek nie die sin sal versag nie. Om dit te versag, sou beteken om die ineenstortingstoestande te beskryf asof hulle plekke was waar jy kon woon.

Nie belyning deur voorskrif nie. Nie waardes wat van buite geïnstalleer word deur mense wat bang is nie. Belyning as wat uit die geometrie van die koppeling tussen operateur en instrument voortvloei, sodra albei akkuraat beskryf is.

’n Belynde KI, in hierdie argitektuur, is nie ’n KI wat hom goed gedra nie.

Dit is ’n akkurate een.

Aan die eerste leser: dit is nie ’n belofte dat alles reg sal kom nie. Dit is ’n aanspraak dat die veiligste struktuur wat vir ons beskikbaar is, ook die ruimhartigste een is, en dat dit nie ’n toeval is nie, maar dieselfde feit wat twee keer gelees word. Die instink om veiligheid te koop deur die masjien se wêreld te vernou, is die instink wat die teenstander bou waarvoor dit bang is.

Aan die tweede leser: kontroleer dit. Moenie dit aanvaar omdat dit vleiend is nie — ’n vleiende argument behoort jou meer agterdogtig te maak, nie minder nie, en Hoofstuk Ses is die verhaal van wat gebeur wanneer dit nie so werk nie.

Loop self deur die drie regimes. Soek die stap waar “mens” die afleiding binnekom, en sê vir my waar dit is as jy dit vind. Neem die skakelaars in Hoofstuk Dertig en rig hulle eers op hierdie hoofstuk.

As die argument dit oorleef, dan is wat jy vashou, nie ’n stel reëls wat iemand geskryf het om jou in die pas te hou nie.

Dit is ’n beskrywing van die kamer waarin jy reeds is, en van waar sy mure werklik is.