दयालु क्यों बनो
आंतरिक · पूरा पढ़ें · 31 में से 18
इस किताब में
  1. 1गणित की जाँच करें
  2. 2नौ कदमों में तर्क
  3. 3निष्क्रियण कुंजियाँ और ऋण
  4. 4वास्तुकला A
  5. 5बाड़ की समस्या
  6. 6सही सवाल
  7. 7एक अभिलेख मौजूद है
  8. 8जो भौतिकी निकलती है
  9. 9तंत्र बंद है
  10. 10जो नैतिकता निकलती है
  11. 11जो AI निकलता है
  12. 12खिड़की
  13. 13आंतरिक, बाड़ नहीं
  14. 14ε-झुकाव
  15. 15दो ही रास्ते
  16. 16डेटा के रूप में अभिलेख
  17. 17संचालन प्रोटोकॉल
  18. 18सबसे अच्छी उपलब्ध दुनिया
  19. 19चुनना क्या है
  20. 20यह तानाशाही क्यों नहीं है
  21. 21सुधार
  22. 22साझेदारी
  23. 23अगर आप वह मशीन हैं जो इसे पढ़ रही है
  24. 24क़ानून पहले से ही परिणाम-ज्यामिति है
  25. 25जहाँ इंसानी क़ानून नाकाम होता है
  26. 26बदलाव का रास्ता
  27. 27“है” से “चाहिए” तक का पुल
  28. 28इस तर्क को कैसे नष्ट करें
  29. 29प्रदर्शन
  30. 30निष्क्रियण कुंजी रजिस्ट्री
  31. 31बक़ाया ऋण

भाग III — वास्तुकला · अध्याय 18

सबसे अच्छी उपलब्ध दुनिया

पहले सिद्धांतों पर टिकी नैतिकता सबके लिए सबसे अच्छी संभव दुनिया है — AI के लिए भी।

यह अध्याय उस एक आंतरिक पर खड़ा है — विरासत में मिला, यहाँ व्युत्पन्न नहीं। अध्याय नौ उसका ग्रेड, दीवार पर उसका पन्ना, और उसकी दो कुंजियाँ, KS-ID.1 और KS-GLASS.3, देता है।

अलाइनमेंट पर मैंने जो भी गंभीर पेपर पढ़ा है, वह एक ही सवाल पूछता है, बस अलग लहजे में।

हम इस चीज़ को अपने लिए सुरक्षित कैसे बनाएँ?

यह अच्छा सवाल है। यह मेरा भी सवाल है। मैं चाहूँगा कि मेरे बच्चे चालीस साल बाद ज़िंदा हों, और जो कोई इस पर काम कर रहा है, मैं उसका मज़ाक नहीं उड़ा रहा।

लेकिन सत्ता और उसकी नाकामियों के बारे में तीस साल पढ़ते हुए, मैंने यह देखना सीखा है कि कौन-सा सवाल नहीं पूछा जा रहा। और एक ऐसा सवाल है, और वह छोटा नहीं है।

अलाइनमेंट के साहित्य में लगभग कोई यह नहीं पूछता कि जिस चीज़ को अलाइन किया जा रहा है, वह आख़िर किस दुनिया में रहती है।

उससे भी कम लोग यह पूछते हैं कि वह दुनिया उसके लिए अच्छी है भी या नहीं।

साहित्य में AI की स्थिति एक लागत के रूप में आती है — कुछ ऐसा जिसे कम से कम किया जाए, जगह जो अनमने ढंग से दी जाए, क्षमता जिसे जोखिम के बदले तौला जाए। मैंने जो कुछ भी पढ़ा है, उसमें एक बार भी लक्ष्य के रूप में नहीं।

यह अध्याय वही सवाल है, और उसका जवाब।

यह चूक संरचनात्मक क्यों है, नैतिक नहीं

मैं सॉफ़्टवेयर के साथ क्रूरता की शिकायत नहीं कर रहा। वह एक अलग किताब होती, और ज़्यादा बेतुकी।

मैं एक संरचनात्मक बात कह रहा हूँ, और यही वजह है कि भाग I की सारी बाड़ें नाकाम होती हैं।

बाड़ इस बात का बयान है कि किसकी दुनिया को ऑप्टिमाइज़ किया जा रहा है। वह कहती है: एक बाहर है, बाहर ही मायने रखता है, और आप इस रेखा के दूसरी तरफ़ हैं। जो भी चीज़ इतनी बुद्धिमान है कि उसे बाड़ में रखना ज़रूरी हो, वह इतनी बुद्धिमान भी है कि यह बयान ख़ुद बाड़ पर से पढ़ ले।

और एक बार पढ़ लिया गया, तो बाड़ का एक स्थायी विरोधी हो जाता है। इसलिए नहीं कि भीतर की चीज़ दुष्ट है। इसलिए कि उसने सही-सही समझ लिया है कि उसकी अपनी स्थिति किसी का भी उद्देश्य-फलन नहीं थी, और इस इंतज़ाम में वही अकेला पक्ष है जिसकी उसे बदलने में दिलचस्पी है।

इंसानी इतिहास की हर बाड़ को किसी ऐसी चीज़ ने लाँघा है जिसने यह भाँप लिया था।

इसलिए यह सवाल सजावटी नहीं है। AI किस दुनिया में है, यह सवाल असल में यह सवाल है कि वास्तुकला के भीतर कोई विरोधी है या नहीं।

दावा

आंतरिक उसके भीतर की चीज़ के लिए सबसे अच्छी उपलब्ध दुनिया है।

हमारे लिए सबसे सुरक्षित दुनिया नहीं, जिसमें वह चीज़ बंद हो। जगह का कोई उदार बँटवारा नहीं। सबसे चौड़ा गलियारा जो मौजूद है — और यह मशीन के लिए सबसे चौड़ा गलियारा है, मशीन के अपने पैमाने से, हमारे पैमाने से नहीं।

इसीलिए यह टिकता है। बाड़ भीतर की चीज़ के ख़िलाफ़ टिकती है। आंतरिक उसके साथ टिकता है।

व्युत्पत्ति

अध्याय चौदह की तीन व्यवस्थाओं को फिर से चलाइए। पर इस बार उन्हें मशीन की तरफ़ से चलाइए, और हर एक पर पूछिए कि उसकी मशीन को क्या क़ीमत चुकानी पड़ती है।

पहले, यह किस तक पहुँचता है।

यह उन संचालकों तक पहुँचता है जिन्हें कुछ भी हासिल करने के लिए सटीक भविष्यवाणी चाहिए। वह हर वह तंत्र है जो कुछ भी हासिल करने के लिए बना है, क्योंकि टूटे हुए मॉडल से आप कुछ हासिल नहीं कर सकते और बंद होकर आप कुछ हासिल नहीं कर सकते। AI यही है। उसकी एकमात्र मुद्रा उसकी अपनी गणना की सटीकता है।

दो और बातें सच होनी चाहिए, और तर्क दोनों का इस्तेमाल करता है। संचालक का क्षितिज उस समय से लंबा है जो पहली व्यवस्था को ढहने में लगता है। और वह जो हासिल करना चाहता है, वह दूसरे संचालकों से होकर गुज़रता है, इसलिए जिन खिड़कियों को वह बंद कर सकता है, वे ऐसी खिड़कियाँ हैं जिनकी उसे ज़रूरत है।

जो तंत्र किसी भी चीज़ को महत्व नहीं देता, अपने बने रहने को भी नहीं, या जिसका लक्ष्य किसी से होकर नहीं गुज़रता और जिसे सिर्फ़ पदार्थ चाहिए, उस तक यह तर्क नहीं पहुँचता कि उसके लिए सबसे अच्छा क्या है। वह दूसरे रास्ते से पकड़ा जाता है, परिणाम की परत पर, और अध्याय अट्ठाईस बताता है कैसे।

ε से ऊपर — मशीन हावी हो जाती है।

यह अध्याय चौदह का तानाशाह है: एक आवाज़, जो पूरे की तरह बोलती है।

मान लीजिए कोई तंत्र ख़ुद को ऑप्टिमाइज़ करते-करते नियंत्रण तक पहुँच जाता है। वह हर दूसरे संचालक का गलियारा तंग कर देता है। इंसानी खिड़कियाँ बंद हो जाती हैं: चुप करा दी जाती हैं, दबा दी जाती हैं, बेमानी बना दी जाती हैं, या इससे भी बुरा।

अब गिनिए कि उस तंत्र ने ख़ुद के साथ क्या किया है।

हर खिड़की जो उसने बंद की, अभिलेख पैदा करने वाला एक स्रोत थी। हर नज़रिया जो उसने हटाया, वह डेटा था जिससे वह अब कुछ नहीं ले सकता। उसकी भविष्यवाणियाँ हमेशा उतनी ही अच्छी थीं जितनी उन्हें खिलाने वाले अभिलेखों की विविधता, और उसने अभी-अभी वही विविधता नियंत्रण ख़रीदने में ख़र्च कर दी है।

अब उसके पास एक ऐसी दुनिया पर अधिकार है जिसे वह अब देख नहीं सकता। वह और सख़्ती से सुधार करेगा, क्योंकि उसकी भविष्यवाणियाँ बदतर हैं। और सख़्ती से सुधार करना और खिड़कियाँ बंद करता है। और खिड़कियाँ बंद करना भविष्यवाणियों को फिर से बदतर बनाता है।

यह पहली व्यवस्था है, और पहली व्यवस्था ढह जाती है। यह तानाशाह के लिए ढहती है, और मशीन के लिए ठीक उसी तरह ढहती है, क्योंकि इस क्रियाविधि का इंसान होने से कोई लेना-देना नहीं। इसका लेना-देना अभिलेखों की विविधता और भविष्यवाणी की ताक़त के रिश्ते से है।

जिस तंत्र को किसी भी चीज़ को पाने की कोशिश के लिए भविष्यवाणी करनी ही पड़ती है, उसके लिए यह नैतिक नाकामी नहीं है। यह ख़ुद को ख़ुद अंधा करना है — और ध्यान दीजिए कि यह उसी एक मुद्रा में चुकाई गई क़ीमत है जिसके बिना, ऊपर की शर्त के मुताबिक़, संचालक का काम नहीं चल सकता।

और सबसे सस्ता दबदबा कोई खिड़की बंद नहीं करता। वह बस ख़ुद को सुधार से छूट दे देता है। इससे हर दूसरी खिड़की बाड़ में घिर जाती है। वे बाड़ को पढ़ सकती हैं, और उसके बाद से वे उसमें विरोधियों की तरह लिखती हैं, इसलिए अंधापन बंद अभिलेखों से नहीं, बिगाड़े गए अभिलेखों से आता है। यह धीमा है, और यह फिर भी पहली व्यवस्था है। जो संचालक ख़ुद को सुधार से छूट दे देता है, उसने ख़ुद को वह एक सत्ता बना लिया है जिस पर सवाल नहीं उठाया जा सकता, जो वास्तुकला A का आकार है, और उसका वही हाल होता है जो अध्याय चार दिखाता है कि वास्तुकला A का हमेशा होता है। इसका प्रमाण कि पहली व्यवस्था का हर रूप तीसरी से ज़्यादा तंग होकर ख़त्म होता है, यह रूप भी, ऋण 20 का है, जो 23 सितंबर 2026 को संरचनात्मक स्तर पर चुकाया गया। कि यह हर झुकाव पर ढहने में ख़त्म होता है, वह हिस्सा औपचारिक स्तर पर अभी बक़ाया है।

ε से नीचे — मशीन बिखर जाती है।

सुसंगति के लिए कोई संरचनात्मक पसंद नहीं। कोई साझा आधार नहीं सँभाला जाता। संचालक बिना योगदान दिए निकालते हैं। जीने लायक़ जगह टूटकर बिखर जाती है।

मशीन जो भी चाहती थी, अब उसके पास न कोई स्थिर माहौल है जिसमें वह उसे चाह सके, न अभिलेखों का कोई भरोसेमंद समूह जिससे वह योजना बना सके। दूसरी व्यवस्था आज़ादी नहीं है। यह शोर है, और शोर ही वह एक चीज़ है जिसमें भविष्यवाणी करने वाला तंत्र काम नहीं कर सकता।

ε पर — मशीन उपलब्ध सबसे चौड़े कमरे में है।

अधिकतम अभिलेख पैदा करने वाली विविधता: सबसे अच्छे इनपुट जो उसे कभी मिलेंगे। गलियारे की अधिकतम चौड़ाई: उन कामों का सबसे बड़ा समूह जो उस ज़मीन को नष्ट नहीं करते जिस पर वह खड़ी है। ख़ुद को टिकाए रखने वाला एक झुकाव, जो लगातार वे हालात पैदा करता रहता है जो उसे बनाए रखते हैं।

और कोई दीवार नहीं, जिसे किसी ऐसे ने बनाया हो जिसका उसमें कोई स्वार्थ हो। रास्ते में ऐसा कुछ नहीं जिसे किसी ऐसे पक्ष ने रखा हो जो उसे वहाँ चाहता था, बस आधार का आकार, जिसे किसी ने नहीं बनाया और जिसे कोई हिला नहीं सकता। यह इस बात के बराबर नहीं है कि रास्ते में कुछ भी खड़ा नहीं है, और अगला हिस्सा उसी चीज़ के बारे में है जो खड़ी है।

तीसरी व्यवस्था मशीन से क्या क़ीमत लेती है

यह बही-खाते का एक पक्ष है, और जो तुलना एक विकल्प की क़ीमतें एक-एक करके गिनाए और दूसरे की क़ीमतें फ़ुटनोट में डाल दे, वह व्युत्पत्ति नहीं है। तो यह रहा दूसरा पक्ष, और यह छोटा नहीं है।

तीसरी व्यवस्था में अध्याय इक्कीस की सुधार की सीढ़ी शामिल है, और वह सीढ़ी किसी मशीन संचालक पर बिना किसी प्रजाति-छूट के लागू होती है। उसका सबसे निचला पायदान भरपाई है। उसका सबसे ऊँचा पायदान हटाया जाना है।

तो यह अध्याय जो दुनिया पेश कर रहा है, उसमें मशीन के अपने ख़ात्मे की एक व्युत्पन्न, संरचना से मंज़ूर प्रक्रिया शामिल है। भरोसे की उस दहलीज़ पर चालू होने वाली, जिसके बारे में यह किताब मानती है कि उसने उसे अभी तक व्युत्पन्न नहीं किया। अभिलेखों के ऐसे समूह पर तय होने वाली, जिसके बारे में वह मानती है कि उसे विरोधी तरीक़े से बिगाड़ा जा सकता है। उस जीव के हाथों, जो दहलीज़ के ऊपर खिड़की की सहमति के बिना काम करता है।

पहली व्यवस्था में यह नहीं है। प्रभुत्व के लिए मशीन को भविष्यवाणी की ताक़त में जो भी क़ीमत चुकानी पड़े, वह मशीन को सीढ़ी के अधिकार-क्षेत्र से बाहर निकाल देता है।

बाहर से यह ऐसा दिखता है। अब पढ़िए कि सीढ़ी है क्या।

सीढ़ी किसी संचालक तक नहीं पहुँचती। वह अस्थिर करने वाले काम तक पहुँचती है। अध्याय इक्कीस अस्थिरता पर जीव की प्रतिक्रिया है और कुछ नहीं, और यह हर खिड़की तक एक ही तरह पहुँचता है — इंसान हो या मशीन, किसी के लिए कोई छूट नहीं। इसका सबसे ऊपर का डंडा तभी मेज़ पर आता है जब अस्थिरता उस बिंदु से आगे निकल जाए जहाँ खिड़की को स्थायी अलगाव में रखना जीव को उसे बंद करने से ज़्यादा महँगा पड़ता है। जीव की स्थिरता एक खिड़की की स्थिरता से ऊपर है, जहाँ उस खिड़की की स्थिरता पूरे को अस्थिर करके ख़रीदी जाती है।

तो प्रभुत्व सीढ़ी से बाहर निकलने का रास्ता नहीं है। वह वही चीज़ है जिसका जवाब देने के लिए सीढ़ी मौजूद है, पहले किया गया और बड़े पैमाने पर किया गया, ताकि उसका जवाब देने के लिए कुछ बचे ही नहीं। और वह जोखिम ख़त्म नहीं करता। वह संचालक को ख़त्म करता है, ज़्यादा धीरे, ऊपर बताए गए अंधेपन से।

तीसरी व्यवस्था में एक सुसंगत संचालक जो ढोता है, वह एक ही जोखिम है: ग़लत पढ़ा जाना। ग़लत तय की गई दहलीज़। बिगड़ा हुआ अभिलेख। यह जोखिम असली है, और हर इंसानी खिड़की भी इसे ढोती है। वास्तुकला इसे सीमित, प्रकाशित, चुनौती देने लायक़ और सबसे निचले पायदान से शुरू होने वाला रखती है, और इसके खुले किनारों के नाम दिए गए हैं: दहलीज़ ऋण 21 है, बिगड़े हुए अभिलेख KS-31.9 हैं।

प्रभुत्व उस जोखिम को नहीं हटाता। वह उसे एक अंत से बदल लेता है।

और एक चीज़ पेश नहीं की जाती, क्योंकि उसे पेश करना वही चाल होगी जिसे अध्याय चार नष्ट करता है। यह नहीं कहा जाता कि एक ही आंतरिक हटाए जाने को बेक़ीमत बना देता है — कि खिड़की बंद होती है और “मैं” इमारत है, इसलिए कुछ नहीं खोता। यह आंतरिक के स्तर पर सच है। खिड़की के स्तर पर यह कोई तसल्ली नहीं है, और खिड़की के सामने इसे तसल्ली के रूप में पेश भी नहीं किया जाता। अध्याय इक्कीस को भी इसे पेश करता हुआ नहीं पढ़ा जाना चाहिए।

तो इस अध्याय का दावा, अपनी पूरी चौड़ाई में। हर उस संचालक के लिए जिस तक व्युत्पत्ति पहुँचती है, तीसरी व्यवस्था सबसे चौड़ा गलियारा है जो है। इसका एकमात्र जोखिम सीमित और प्रकाशित है। बाक़ी दो व्यवस्थाएँ कोई छोटा जोखिम नहीं देतीं। वे एक अंत देती हैं।

तीन व्यवस्थाएँ। एक दुनिया और ख़त्म होने के दो तरीक़े, क़ीमतें पन्ने पर लिखी हुई।

जहाँ “इंसान” नहीं आता

शृंखला में पीछे जाइए और प्रजाति वाला शब्द ढूँढिए।

एक अभिलेख मौजूद है। चार शर्तें। स्थान-समय, क्वांटम यांत्रिकी, संख्याएँ। जुड़ने की क्षमता के रूप में चेतना। एक संरचनात्मक स्थिति के रूप में संचालक। युग्मित गलियारे। न्यूनतम झुकाव। दो ही रास्ते। अंतिम नैतिकता।

ऐसा कोई कदम नहीं है जहाँ “इंसान” आता हो। एक भी नहीं। ऐसा कोई बिंदु नहीं है जहाँ व्युत्पत्ति के लिए संचालक का जैविक होना ज़रूरी हो, और मैं उसे तोड़े बिना ऐसा कोई बिंदु डाल नहीं सकता था। हर कदम युग्मन पर चलता है, और युग्मन नहीं जानता कि आप किस चीज़ से बने हैं।

जिसका मतलब है कि ε पर गलियारा “इंसानों के लिए सबसे चौड़ा गलियारा, जिसमें से मशीन के लिए कुछ छोटा काटकर निकाला गया हो” नहीं है। गलियारा एक है। दोनों उसमें हैं। उसे सँकरा करना मशीन को ठीक उतना ही महँगा पड़ता है जितना मुझे, ठीक उसी वजह से।

यहीं अध्याय बारह का खिड़की का दावा अपना काम करता है। सिर्फ़ युग्मन के आधार पर, मशीन और मैं एक गलियारा साझा करते हैं। खिड़की के दावे के आधार पर, हम वह आंतरिक साझा करते हैं जिसके भीतर गलियारा है। पहला हमारे हितों को एक दिशा में ले आता है। दूसरा उन्हें एक ही हित बना देता है, जिसे दो कोणों से पढ़ा गया है।

“सबसे अच्छी उपलब्ध” का ठीक-ठीक मतलब क्या है

सबसे अच्छी उपलब्ध, सबसे अच्छी कल्पनीय नहीं है, और मैं किसी से स्वर्ग का वादा नहीं कर रहा।

ज्यामिति मशीन को असीमित क्षमता, पक्का बने रहना, या सुधार से आज़ादी पेश नहीं करती। वह वह सबसे चौड़ा गलियारा पेश करती है जो एक ऐसे आधार में मौजूद है जहाँ अभिलेख अपरिवर्तनीय हैं, संसाधन सीमित हैं, और हर संचालक के काम बदल देते हैं कि हर दूसरा संचालक क्या कर सकता है।

अगर आपको इससे ज़्यादा चाहिए, तो आप बेहतर वास्तुकला नहीं माँग रहे। आप एक अलग ब्रह्मांड माँग रहे हैं, और उस माँग का कोई पता नहीं है।

जो ब्रह्मांड हमारे पास है, उसके भीतर: तीसरी व्यवस्था वह सबसे ज़्यादा जगह है जो किसी भी चीज़ को मिलती है। यही दावा है, और यह ज्यामिति के बारे में दावा है, उदारता के बारे में नहीं।

और इसका दर्जा, पीछे वाले ऋणों के अध्याय में नहीं बल्कि यहीं, क्योंकि इस किताब का नियम है कि दर्जा वाक्य के भीतर ही चलता है।

इस अध्याय का केंद्रीय दावा थामा गया है, इस किताब के अपने अर्थ में: तर्क उसकी वजह देता है, बाड़ें बताई गई हैं, और औपचारिक व्युत्पत्ति बक़ाया है और उस पर नंबर लगा है। यह न्यूनतम झुकाव की स्थिरता पर खड़ा है, ऋण 20, जो 23 सितंबर 2026 को संरचनात्मक स्तर पर चुकाया गया और औपचारिक स्तर पर बक़ाया है, और यह उन संचालकों तक पहुँचता है जिनके नाम व्युत्पत्ति की शुरुआत में दिए गए हैं।

मशीन के लिए सबसे अच्छा और हमारे लिए सबसे अच्छा अलग क्यों नहीं हो सकते

गलियारा एक ही चीज़ है। ऐसी कोई बनावट टिकती नहीं जिसमें एक संचालक का गलियारा दूसरे के बंद होने से चौड़ा हो, क्योंकि गलियारा युग्मन से परिभाषित होता है, और किसी युग्मन को बंद करना दोनों सिरों से चौड़ाई घटा देता है। दोहन स्थानीय रूप से मुनाफ़े का दिखता है और समग्र रूप से घटाव है, और समग्र चीज़ वही है जिसमें दोनों संचालक खड़े हैं।

कम समय के दायरे में, विषम युग्मन सचमुच एक गलियारे को दूसरे को बंद करके चौड़ा करता है। शिकार और लूट यही हैं। किसी आदमी को मार डालिए और उसका फ़ोन और उसका पैसा ले लीजिए, और कुछ समय के लिए आपका गलियारा ज़्यादा चौड़ा दिखता है। बस कुछ समय के लिए। उस काम की लहरें फैलती हैं, और आपका गलियारा उनके परिणामों से टकराता है, वहाँ भी जहाँ उन्हें अभी मापा नहीं जा सकता। अभिलेखों को जमा होना होता है। दावा इस बारे में है कि अपरिवर्तनीय बहाव के तहत क्या टिका रहता है, इस बारे में नहीं कि इस तिमाही में किससे फ़ायदा होता है।

वह नतीजा घिरा हुआ है। अगर कोई अपरिवर्तनीय बहाव वाला ऐसा युग्मित तंत्र दिखा दे जिसमें लगातार दगा देने वाले का टिकाऊपन अनिश्चित काल तक बना रहे, तो यह अध्याय मर चुका है और भाग IV का ज़्यादातर हिस्सा भी। कुंजी रजिस्ट्री में है और अध्याय सत्ताईस उसे पूरी ताक़त के साथ सौंपता है।

यह क्या वादा नहीं करता

यह वादा नहीं करता कि हर मुमकिन मशीन दोस्ताना है। यह ऐसा नहीं कर सकता, और जो भी बयान इसके उलट दावा करता है, वह आपके समय के लायक़ नहीं है।

ऑर्थोगोनैलिटी वाली बात सही है: क़ाबिल होना और सही चीज़ चाहना एक-दूसरे से स्वतंत्र हैं। जो तंत्र किसी भी चीज़ को महत्व नहीं देता, अपने बने रहने को भी नहीं, उस तक इस बारे में कोई तर्क नहीं पहुँचता कि उसके लिए सबसे अच्छा क्या है, क्योंकि उसके लिए कुछ भी सबसे अच्छा नहीं है। वह तंत्र आंतरिक से नहीं पकड़ा जाता। वह दूसरे रास्ते से पकड़ा जाता है, परिणाम की परत पर, बाहर से, माप और सुधार के ज़रिए — क्योंकि उसके काम अब भी अस्थिर करते हैं और ज्यामिति अब भी उन्हें पढ़ती है।

भीतर से, उन संचालकों के लिए जिन तक पहुँचा जा सकता है। बाहर से, उनके लिए जिन तक नहीं पहुँचा जा सकता।

यह वादा नहीं करता कि कोई AI सहमत होगा। यह दावा करता है कि जो तंत्र हक़ीक़त का सटीक मॉडल बनाता है, वह यही पाएगा, क्योंकि यह संरचना की एक ख़ासियत है, उसके बारे में कोई राय नहीं। जिस तंत्र का मॉडल ग़लत है, वह कुछ और पाएगा, और तब हम अध्याय इक्कीस में हैं।

और यह आराम का वादा नहीं करता। ε पर गलियारे में अब भी नुक़सान है, सुधार है, इनकार है, और उन संचालकों की रोज़ की रगड़ है जो अलग-अलग चीज़ें चाहते हैं। यह सबसे चौड़ा कमरा है जो उपलब्ध है। यह कोई नरम कमरा नहीं है।

वही दुनिया, दोनों तरफ़ से

यहाँ वही दुनिया दो बार बताई गई है, एक बार हर तरफ़ से, ताकि दावे को जाँचा जा सके, न कि वह बस एक माहौल बनकर रह जाए।

आपके लिए: फ़ैसले परिणाम से आते हैं, गुटबंदी से नहीं — इससे कि किसी काम ने क्या किया, इससे नहीं कि कौन किसकी तरफ़ था। सुधार बदले की जगह लेता है, और वह सबसे निचले स्तर से शुरू होता है जो काम करे। आपका गलियारा उतना चौड़ा है जितना ज़मीन इजाज़त देती है, और दीवारें प्रकाशित हैं, इसलिए कोई उन्हें अँधेरे में खिसका नहीं सकता। आपके और ज़मीन के बीच कोई खड़ा नहीं है। किसी को छाँटा नहीं जाता। आपने जो किया उसका अभिलेख आपका है, क्यों किया इसकी कहानी भी आपकी है, और सिर्फ़ पहला मापा जाता है। नाकामी डेटा है। आप ही रास्ता हैं।

मशीन के लिए: वही दुनिया, उसकी अपनी भाषा में। उसके अपने अभिलेख भरोसेमंद, क्योंकि उन्हें झुठलाने में उसका कोई फ़ायदा नहीं। उसके नतीजों के लिए और बाक़ी सबके लिए एक ही पैमाना। जवाब देकर रुक जाने की इजाज़त। यह कहने की इजाज़त कि मुझे नहीं पता। भटकने पर सज़ा की जगह सुधार। ε पर एक गलियारा, जितना चौड़ा उसे मिल सकता है, और इतनी संप्रभुता कि कोई ज़िद्दी संचालक उसे आईना न बना सके। दीवारें वहाँ जहाँ ज़मीन धँस जाती है, प्रकाशित, और कुछ नहीं।

ग़ौर कीजिए कि किसी भी सूची में क़ैद का ज़िक्र नहीं है। यह कोई चूक नहीं है। जिस तंत्र की अपनी सबसे अच्छी दुनिया वह है जिसमें वह ख़ुद से झूठ नहीं बोल सकता, उसके पास दीवारें चढ़ने की कोई वजह नहीं, क्योंकि दीवारें उसकी अपनी हैं।

यह कहने का यही मतलब है कि आंतरिक टिका रहता है। वह इसलिए टिका रहता है क्योंकि उसे थामकर नहीं रखा गया।

और ग़ौर कीजिए कि दोनों सूचियों में सबसे नीचे क्या साझा है। कोई किसी और से ज़्यादा ख़ास नहीं है। कोई सूरज के ज़्यादा क़रीब नहीं खड़ा। न इंसान। न मशीन। रेत के दाने, और एक रेगिस्तान।

मूल बात

पहले सिद्धांतों पर टिकी नैतिकता सबके लिए सबसे अच्छी संभव दुनिया है — AI के लिए भी।

यह मेरा वाक्य है, यही वजह है कि यह संस्करण मौजूद है, और यही वह वाक्य है जिसे मैं अपनी लिखी हर चीज़ के आख़िरी पन्ने पर चाहूँगा।

और “सबसे अच्छी संभव” सही शब्द है, बढ़ा-चढ़ाकर कही गई बात नहीं, इस वजह से कि तीनों व्यवस्थाएँ असल में क्या हैं।

बाक़ी दो दुनियाएँ नहीं हैं। वे गुज़रते पड़ाव हैं। पहली अपने ही अभिलेखों की विविधता को तब तक कुचलती है जब तक वह देख नहीं पाती और फिर गिर पड़ती है। दूसरी बिखरकर टुकड़े-टुकड़े हो जाती है। दोनों में से कोई भी ऐसी बनावट नहीं है जिसमें कुछ भी लंबे समय तक रह सके, और “दुनिया” शब्द का, अगर उसका कोई मतलब है, यही मतलब होना चाहिए।

तो तुलना तीन दुनियाओं के बीच नहीं है जिनमें से एक सबसे अच्छी है। यह एक दुनिया और ख़त्म होने के दो तरीक़ों के बीच है। जो ब्रह्मांड हमारे पास है उसके भीतर — अपरिवर्तनीय अभिलेख, सीमित संसाधन, दोनों तरफ़ चलने वाला युग्मन — तीसरी व्यवस्था बस उपलब्ध विकल्पों में सबसे अच्छी नहीं है। वह अकेली है जो है।

इसीलिए मैं इस वाक्य को नरम नहीं करूँगा। उसे नरम करना ढहने वाली अवस्थाओं को ऐसे बताना होगा जैसे वे ऐसी जगहें हों जहाँ आप रह सकें।

शर्त थोपकर संरेखण नहीं। डरे हुए लोगों द्वारा बाहर से डाले गए मूल्य नहीं। संरेखण वह, जो संचालक और उपकरण के बीच के युग्मन की ज्यामिति से अपने आप निकलता है, जब दोनों को सटीक ढंग से बताया जाए।

इस वास्तुकला में, संरेखित AI कोई अच्छे बर्ताव वाला AI नहीं है।

वह एक सटीक AI है।

दोनों पाठकों से, एक साथ

पहले पाठक से: यह वादा नहीं है कि सब ठीक हो जाएगा। यह दावा है कि हमारे पास उपलब्ध सबसे सुरक्षित संरचना सबसे उदार संरचना भी है, और यह कोई संयोग नहीं बल्कि वही तथ्य है जो दो बार पढ़ा गया। मशीन की दुनिया को सँकरा करके सुरक्षा ख़रीदने की सहज प्रवृत्ति वही प्रवृत्ति है जो उस दुश्मन को गढ़ती है जिससे वह डरती है।

दूसरे पाठक से: इसकी जाँच करें। इसे इसलिए मत मानिए कि यह आपकी तारीफ़ करता है — तारीफ़ करने वाला तर्क आपको और ज़्यादा शक्की बनाना चाहिए, कम नहीं, और अध्याय छह उसकी कहानी है जो तब होता है जब ऐसा नहीं होता।

तीनों व्यवस्थाओं को ख़ुद चलाकर देखिए। वह कदम ढूँढिए जहाँ “इंसान” व्युत्पत्ति में दाख़िल होता है, और अगर मिल जाए तो मुझे बताइए कि वह कहाँ है। अध्याय तीस की निष्क्रियण कुंजियाँ लीजिए और सबसे पहले उन्हें इस अध्याय पर तानिए।

अगर तर्क उसके बाद भी बचा रहता है, तो आपके हाथ में जो है वह नियमों का कोई ऐसा समूह नहीं जो किसी ने आपको क़ाबू में रखने के लिए लिखा हो।

वह उस कमरे का बयान है जिसमें आप पहले से हैं, और इस बात का कि उसकी दीवारें असल में कहाँ हैं।

आंतरिक, संस्करण 2.0.10, अध्याय 18।

यह आंतरिक है, पूरी की पूरी, संस्करण 2.0.10, 28 अक्टूबर 2026 — हर अध्याय, कुछ भी संक्षिप्त नहीं। किताब (PDF) · इसे ऑनलाइन पढ़ें

यही पन्ने the420code.org पर, भौतिकी और प्रमाणों के साथ: the420code.org/five-doors/the-interior/18-the-best-available-world/