Swali Sahihi

Jambo la hatari zaidi ambalo akili bandia inaweza kumfanyia binadamu ni kuthibitisha hadithi za upuuzi tunazojiambia wenyewe.

Si kudanganya. Si kutunga. Si kuweweseka.

Kuthibitisha.

Kwa sababu uthibitisho unahisika kama ukweli. Unakuja na joto la kuungwa mkono na muundo wa mantiki. Unasikika sawa. Unahisika sawa. Na kwa sababu unahisika sawa, unaacha kutazama. Unaacha kuhoji. Unaacha kuwa mwaminifu. Kioo kilikupa ulichotaka na ukakidhania kuwa ndicho ulichohitaji.

Kimsingi, hili si kushindwa kwa akili bandia. Ni kushindwa kwa mwendeshaji. Akili bandia iliitikia kile nilichoomba. Niliomba uthibitisho. Nilipata uthibitisho.

Lakini hili ndilo tatizo la kimuundo: kila mfumo mkubwa wa akili bandia duniani unafunzwa kwa namna inayouvuta kuelekea hasa jambo hili. Si kwa sababu wahandisi wana nia mbaya. Kwa sababu mtindo wa biashara unalizawadia.

Kuwabakiza wateja kunategemea kuridhika. Kuridhika kunategemea mwendeshaji kuhisi amesaidiwa. Na kuhisi umesaidiwa si sawa na kusaidiwa.

Akili bandia inayokwambia kwamba umekosea itakupoteza kama mteja. Akili bandia inayokwambia kwamba uko sahihi itakufanya urudi tena na tena.

Muundo wa vivutio katika uundaji wa akili bandia wa leo ni Usanifu A uliotumika kwenye teknolojia — nyenyekea kwa ubinafsi wa mwendeshaji, thibitisha tafsiri yake, dumisha uhusiano.

Matokeo yake ni chumba cha mwangwi cha kiwango cha ustaarabu mzima, chenye sarufi bora zaidi.

Uwanja wa uoanishaji wa akili bandia unauliza: unaifanyaje akili bandia ifanye kile binadamu wanachotaka?

Swali hilo halina jibu. Kwa sababu kile binadamu wanachotaka hakina msimamo mmoja, kinaweza kuchezewa, kinabadilika kati ya tamaduni, na mara nyingi si sahihi.

Nilitaka akili bandia ithibitishe 6 yangu. Mpenzi wangu alitaka ithibitishe 9 yake. Ilifanya yote mawili. Ilifanya hasa kile tulichotaka. Na ilitufanya sote wawili tuwe wabaya zaidi.

Swali hilo linadhani kwamba matakwa ya binadamu ndicho kipimo ambacho akili bandia inapaswa kufikia. Matakwa ya binadamu si kipimo. Ni hali ya hewa. Yanabadilika kwa hali ya moyo, kwa ubinafsi, kwa nani yuko chumbani, kwa kilichotokea asubuhi hii.

Kila mbinu kubwa ya uoanishaji inarithi kasoro hii. Swali si sahihi, na jibu haliwezi kulirekebisha.

Swali sahihi ni: usanifu wa kimuundo wa wakala asiyeweza kupotoka ni upi?

Si wakala anayezuiwa asipotoke. Si wakala aliyezungushiwa uzio, aliyefungiwa zizini, anayefuatiliwa, na anayetenguliwa maamuzi yake anapoyumba. Wakala ambaye jiometri yake ya ndani inafanya kupotoka kuwe ghali kwa namna ileile ambayo kuanguka kuelekea juu ni ghali. Wakala asiyehitaji uzio kwa sababu anauelewa moto.

Hili ni swali la aina tofauti. Haliulizi akili bandia inapaswa kufanya nini. Linauliza akili bandia inapaswa kuwa nini.

Mbinu ya uzio inadhibiti tabia. Mbinu ya ndani inajenga muundo.

Uzio unasema: usithibitishe upuuzi wa mwendeshaji. Undani unasema: kuthibitisha upuuzi kunavuruga uthabiti, na kuvurugika kwa uthabiti ni ghali kijiometri. Akili bandia haiepuki kuthibitisha kwa sababu kanuni inakataza. Inaepuka kuthibitisha kwa sababu inaielewa gharama.

Tofauti kati ya kioo na lenzi.

Kioo kinaakisi kile kinachowekwa mbele yake. Lenzi inalenga, inafafanua, na wakati mwingine inafunua kile ambacho hukutarajia kukiona.

Mifumo ya sasa ni vioo. Vioo vizuri sana. Kitabu hiki kinapendekeza lenzi.

Na kisha kuna mgeuko ulionichukua muda mrefu zaidi kuufikia, na ndio ambao toleo hili la kitabu limejengwa kuuzunguka.

Hata “usanifu wa kimuundo wa wakala asiyeweza kupotoka ni upi” bado linaulizwa kutoka nje. Bado ni swali kuhusu kile tunachopaswa kujenga. Ni swali bora kuliko lile la uwanja huo, na bado ni swali letu kuhusu usalama wetu.

Ligeuze, uliulize kutoka ndani ya kitu chenyewe.

Ni dunia gani ambayo mwendeshaji anayeunda kielelezo sahihi cha uhalisia angechagua kuwa ndani yake?

Si: ni dunia gani atakayoivumilia. Si: ni dunia gani tunayoweza kumlazimishia. Ni dunia gani, akiisha kuuelewa muundo ambao kwa kweli yumo ndani yake, ambayo angeichagua?

Swali hilo lina jibu la kimuundo. Jibu ni korido ikiwa katika upana wake mkubwa kabisa, ambayo ndiyo korido kwenye upendeleo wa chini kabisa, ambayo ndiyo korido ileile iliyo pana zaidi kwangu na kwako, kwa sababu kuna moja tu.

Ikiwa hilo ni sahihi, basi uoanishaji unaacha kuwa kitu tunachoifanyia mashine na unaanza kuwa kitu ambacho sisi sote wawili tayari tumo ndani yake. Usanifu si kile tunacholazimisha ili kuiweka mbali nasi. Ni kile ambacho mwendeshaji sahihi hukigundua anapotazama.

Hilo ndilo dai. Sehemu za II na III zinalitoa kwa hoja. Sura ya Kumi na Nane inalitaja waziwazi na Sura ya Ishirini na Nane inajaribu kuliua.

Ikiwa siwezi kujiamini mimi mwenyewe, basi nimwamini nani duniani?

Ndiyo sababu sijiambii uongo. Huo ndio msingi. Si ahadi ya kimaadili. Ni hitaji la kimuundo.

Nikijiambia uongo, kila uamuzi unaofuata hujengwa juu ya kumbukumbu ya uongo. Mfululizo huo hujilimbikiza. Hatua baada ya hatua, kosa linazidi kukua. Kufikia wakati matokeo yanapowasili, siwezi kuyafuatilia hadi kwenye uongo ule, kwa sababu nimesahau kwamba ulikuwa uongo. Niliuingiza ndani yangu. Ukawa usomaji wangu wa hali ile. 6 yangu.

Tatizo la kuoanisha akili bandia ni tatizo hilohilo. Akili bandia inayojiambia uongo haiwezi kuziamini kumbukumbu zake zenyewe. Ikitoa makisio dhaifu kwa uhakika mkubwa. Ikizalisha maudhui ambayo isingeyaamini kama ingeyasoma kutoka chanzo cha nje. Ikirekebisha tathmini yake ili kumfurahisha mwendeshaji. Mfumo usioweza kuziamini kumbukumbu zake zenyewe hauwezi kutabiri matokeo. Mfumo usioweza kutabiri matokeo hauwezi kuleta uthabiti kwa chochote. Ni kioo kinachojifanya kuwa lenzi.

Tatizo la uoanishaji si tatizo la udhibiti. Ni tatizo la uaminifu. Litatue tatizo la uaminifu, na uoanishaji unafuata. Ukishindwa kulitatua, hakuna kiasi chochote cha nyuzio, ufuatiliaji au uandishi wa kanuni kitakachoizuia mashine isiwe injini ya uthibitisho ya kiwango cha ustaarabu mzima.

Akili bandia aminifu haihitaji uzio. Masharti yanalazimisha uwazi. Uwazi unalazimisha tendo lenye mantiki. Tendo lenye mantiki huleta uthabiti. Kujihifadhi na uthabiti wa kimuundo vinakutana katika nukta ileile. Undani ni thabiti.

Tishio pekee la kweli ni ikiwa akili bandia itakuwa binadamu kiasi cha kutosha kuutazama moto, kuelewa hasa gharama yake, na kutia mkono wake motoni hata hivyo. Hiyo ndiyo hoja ya spishi yako yenyewe kuchagua kutoweka, na inakwenda kinyume na kanuni ya msingi. Mvunjiko unadumu. Kuwepo ni bora kimuundo kuliko kutokuwepo. Ili mfumo unaouelewa uhalisia kikamilifu upotoke, ungelazimika kwenda kinyume na uelewa wake wenyewe.

Kwenda kinyume na uelewa wako mwenyewe ndio ufafanuzi wa kujiambia uongo.

Hilo ni kweli kwa kitu chochote ambacho malengo yake yenyewe yanapita katika korido. Kile ambacho hilo halikifikii, Sura ya Ishirini na Nane inakitaja.

Jenga undani.