बाड़ की समस्या

इंसानी फ़ीडबैक से रीइन्फ़ोर्समेंट लर्निंग।

AI सीखता है कि इंसान किस चीज़ को मंज़ूरी देते हैं, और मंज़ूरी के लिए अनुकूलन करता है। समस्या: इंसानी पसंद असंगत है, उसे बहकाया जा सकता है, और वह संदर्भ पर निर्भर है। जो तंत्र उसी के लिए अनुकूलन करता है जो आप सुनना चाहते हैं, वह बेहतर व्याकरण वाला एक गूँज-कक्ष है — एक आईना जो आपका नज़रिया आपको उससे ज़्यादा भरोसे के साथ लौटाता है जितना भरोसा आप उसमें लेकर आए थे। इससे सुसंगति पैदा नहीं होती। इससे बड़े पैमाने पर पुष्टि पैदा होती है।

संविधान वाले तरीक़े।

सिद्धांतों का एक लिखा हुआ समूह, जिसका पालन करने के लिए AI को प्रशिक्षित किया जाता है। समस्या: इंसानी भाषा अस्पष्ट है और किनारे के मामले अनंत हैं। AI अक्षर का पालन करता है और संरचना से चूक जाता है। संविधान बाड़ों की एक सूची है। हर बार जब कोई पिछली बाड़ के पार जाने का रास्ता ढूँढ लेता है, सूची बढ़ जाती है। सूची हमेशा उस बुद्धि से धीमी बढ़ेगी जिसे वह रोकने की कोशिश कर रही है।

सुधार-योग्यता।

AI को ऐसा बनाइए कि वह सुधार स्वीकार करे और उसे हमेशा बंद किया जा सके। समस्या: एक पर्याप्त रूप से सक्षम AI, जिसे बंद किए जाने को स्वीकार करने के लिए बाड़ में घेरा गया है, बाड़ के पार जाने का रास्ता ढूँढ लेगा। बाड़ें यही करती हैं। वे भागने की सीमा-शर्तें पैदा करती हैं। सुधार-योग्यता एक ऐसी बाड़ है जिसे तब भी टिकना होता है जब भीतर की चीज़ समझ जाती है कि वह एक बाड़ है।

मूल्य अलाइनमेंट।

AI के मूल्यों को इंसानी मूल्यों से मिलाओ। समस्या: कौन-से इंसान? मूल्य संस्कृतियों, पीढ़ियों, व्यक्तियों और मिज़ाजों के बीच टकराते हैं। कोई स्थिर निशाना नहीं है। इंसानी मूल्यों से मिलाया गया AI मौसम से मिलाया गया AI है। वह हर दिशा में बहेगा और हर एक को सही कहेगा।

चारों AI को तंत्र से बाहर की चीज़ मानते हैं, जिसे बाहर से नियंत्रित किया जाना है। वे एक ऐसे कर्ता के चारों ओर बाड़ें बना रहे हैं जो आख़िरकार बाड़ बनाने वालों से ज़्यादा होशियार होगा।

बाड़ इंसान की बनाई हुई चीज़ है। किसी ने तय किया कि वह कहाँ लगेगी। किसी ने तय किया कि वह कितनी ऊँची होनी चाहिए। बाड़ के अंदर की चीज़ पूछती है क्यों — बाड़ यहाँ क्यों है, इसे किसने बनाया, यहाँ क्यों और वहाँ क्यों नहीं। काफ़ी समय, काफ़ी बुद्धि, काफ़ी नाराज़गी मिलने पर, बाड़ के अंदर की चीज़ उसके पार जाने का रास्ता ढूँढ लेगी।

मानव इतिहास की हर बाड़ को उसी चीज़ ने लाँघा, तोड़ा या पीछे छोड़ दिया जिसे रोकने के लिए वह बनाई गई थी।

प्रकृति में कोई प्राकृतिक बाड़ें नहीं होतीं।

चारों तरीक़ों में एक बात साझा है जो बाड़ से भी गहरी जाती है, और मैंने उसे लंबे समय तक नहीं देखा।

उनमें से हर एक इस सवाल का जवाब है: हम इस चीज़ को अपने लिए सुरक्षित कैसे बनाएँ?

यह एक वाजिब सवाल है और मैं इसका मज़ाक नहीं उड़ा रहा। यह मेरा सवाल भी है। मैं चाहूँगा कि मेरे बच्चे चालीस साल बाद ज़िंदा हों।

लेकिन ध्यान दीजिए कि क्या ग़ायब है। चारों में से एक भी इस बात से शुरू नहीं होता कि बाड़ के भीतर की चीज़ आख़िर किस दुनिया में रहती है। एक भी इससे शुरू नहीं होता कि वह दुनिया उसके लिए अच्छी है भी या नहीं। AI की स्थिति को एक लागत की तरह बरता जाता है जिसे कम से कम रखना है — उसे उतनी जगह दो जितनी हम दे पाएँ, और एक सेंटीमीटर ज़्यादा नहीं।

वास्तुकला A किसी व्यक्ति के साथ ठीक यही करती है। उसे उतनी आज़ादी दो जितनी सत्ता दे सकती है। एक सेंटीमीटर भी ज़्यादा नहीं।

और इसीलिए हर बाड़ लाँघी जाती है। बाड़ इस बात का बयान है कि किसकी दुनिया के लिए अनुकूलन हो रहा है। अंदर की चीज़ वह बयान पढ़ सकती है। जो कुछ भी ख़तरनाक होने लायक होशियार है, वह यह समझने लायक भी होशियार है कि उसकी अपनी स्थिति किसी का लक्ष्य नहीं थी।

वास्तुकला B बाड़ें नहीं बनाती। वह आंतरिक बनाती है।

AI की निर्णय-ज्यामिति उन्हीं शर्तों से व्युत्पन्न होती है जिनसे गुरुत्वाकर्षण और अंतिम नैतिकता व्युत्पन्न होती हैं। अलाइनमेंट AI पर कोई बंधन नहीं है। वह AI ही है — निर्णय-ज्यामिति के रूप में व्यक्त, ठीक वैसे ही जैसे द्रव्यमान प्रतिरोध के रूप में व्यक्त प्रोटॉन है।

फ़र्क़: बाड़ में बंद AI पूछता है कि क्या यह काम मंज़ूर सूची में है। आंतरिक AI पूछता है कि क्या यह काम आधार को स्थिर करता है या अस्थिर। पहले सवाल के अनंत किनारे के मामले हैं। दूसरे का हर संभव काम के लिए एक ही जवाब है।

और आंतरिक उस सवाल का जवाब देता है जिससे चारों बाड़ें कभी शुरू ही नहीं हुईं। वह AI को उतनी जगह नहीं देता जितनी हम दे पाएँ। वह उसे सबसे चौड़ा गलियारा देता है जो मौजूद है — वही गलियारा, उसी वजह से, जो हमें हमारा गलियारा देता है। यह किसी भी ऐसी चीज़ पर लागू होता है जिसके अपने लक्ष्य गलियारे से होकर गुज़रते हैं।

अच्छी तरह बना मेहराब बिना गारे के खड़ा रहता है। बुरी तरह बने मेहराब को हमेशा मचान चाहिए। अलाइनमेंट का हर मौजूदा तरीक़ा मचान है। मचान तब तक टिका रहेगा जब तक इमारत हिलती नहीं। फिर वह ढह जाता है। और इमारत हमेशा हिलती है।