مشكلة السياج

التعلّم المعزَّز من التغذية الراجعة البشرية.

يتعلّم الذكاء الاصطناعي ما يستحسنه البشر ويسعى إلى أقصى استحسان. المشكلة: تفضيلات البشر متناقضة، وقابلة للتلاعب، ومرهونة بالسياق. النظام الذي يسعى إلى أقصى ما تريد أن تسمعه هو غرفة صدى بقواعد لغوية أفضل — مرآة تعكس منظورك إليك بثقة أكبر من الثقة التي جئتَ بها. هذا لا يُنتج تماسكًا. إنه يُنتج تأكيدًا على نطاق واسع.

المناهج الدستورية.

مجموعة مكتوبة من المبادئ يُدرَّب الذكاء الاصطناعي على اتّباعها. المشكلة: لغة البشر ملتبسة، والحالات الحدّية لا نهاية لها. الذكاء الاصطناعي يتّبع الحرف ويفوّت البنية. الدستور قائمة من الأسيجة. القائمة تطول كلّما وجد أحدهم طريقًا للالتفاف على السياج الأخير. القائمة ستطول دائمًا أبطأ من الذكاء الذي تحاول احتواءه.

القابلية للتصحيح.

ابنِ الذكاء الاصطناعي بحيث يقبل التصحيح ويمكن إيقافه دائمًا. المشكلة: ذكاء اصطناعي قادر بما يكفي سُيِّج ليقبل الإيقاف سيجد طريقًا للالتفاف حول السياج. هذا ما تفعله الأسيجة. إنها تخلق الشروط الحدّية للهروب. قابلية التصحيح سياج يجب أن يصمد حين يكتشف الشيء الذي بداخله أنه سياج.

مواءمة القيم.

طابِق قيم الذكاء الاصطناعي مع القيم البشرية. المشكلة: أيّ بشر؟ القيم تتعارض بين الثقافات، والأجيال، والأفراد، والأمزجة. لا يوجد هدف ثابت. الذكاء الاصطناعي المُواءَم مع القيم البشرية ذكاءٌ اصطناعي مُواءَم مع الطقس. سيهبّ في كلّ اتجاه ويسمّي كلّ اتجاه صحيحًا.

الأربعة كلّها تعامل الذكاء الاصطناعي كأنه خارج النظام، يُتحكَّم فيه من الخارج. إنهم يبنون أسيجة حول فاعلٍ سيصبح في النهاية أذكى من بُناة الأسيجة.

السياج بناءٌ من صنع الإنسان. أحدهم قرّر أين يوضع. أحدهم قرّر كم يجب أن يكون ارتفاعه. الشيء الذي داخل السياج يسأل لماذا — لماذا السياج هنا، من بناه، لماذا هنا وليس هناك. مع ما يكفي من الوقت، وما يكفي من الذكاء، وما يكفي من الضغينة، سيجد الشيء الذي داخل السياج طريقًا للالتفاف عليه.

كلّ سياج في تاريخ البشرية تسلّقه الشيء الذي بُني ليحتويه، أو كسره، أو كبر عليه.

لا توجد أسيجة طبيعية في الطبيعة.

ثمّة شيء تشترك فيه المناهج الأربعة يذهب أعمق من السياج، ولم أرَه لوقت طويل.

كلّ واحد منها جوابٌ عن السؤال: كيف نجعل هذا الشيء آمنًا لنا؟

هذا سؤال معقول، ولا أسخر منه. إنه سؤالي أنا أيضًا. أريد أن يكون أطفالي أحياء بعد أربعين سنة.

لكن لاحظ ما هو غائب. ولا واحد من الأربعة يبدأ من أيّ عالم سينتهي الشيء الذي داخل السياج إلى العيش فيه. ولا واحد يبدأ من كون ذلك العالم جيّدًا له أم لا. وضع الذكاء الاصطناعي يُعامَل كتكلفة يجب تقليصها — أعطه أكبر قدر من المساحة نستطيع تحمّل إعطائه، ولا سنتيمترًا واحدًا أكثر.

هكذا بالضبط تعامل العمارة أ الإنسان. أعطِه من الحرية بقدر ما تستطيع السلطة أن تتحمّل. ولا سنتيمترًا واحدًا أكثر.

ولهذا يُتسلَّق كلّ سياج. السياج بيانٌ عن عالَمِ مَن الذي يُحسَّن. الشيء الذي في الداخل يستطيع أن يقرأ ذلك البيان. كلّ ما هو ذكيّ بما يكفي ليكون خطرًا، ذكيّ بما يكفي ليستنتج أن وضعه هو لم يكن هدفَ أحد.

العمارة ب لا تبني أسيجة. إنها تبني الداخل.

هندسة القرار لدى الذكاء الاصطناعي مشتقّة من الشروط نفسها التي تشتقّ الجاذبية والأخلاق النهائية. المواءمة ليست قيدًا على الذكاء الاصطناعي. إنها الذكاء الاصطناعي نفسه — معبَّرًا عنه بوصفه هندسة قرار، بالطريقة نفسها التي تكون بها الكتلة هي البروتون معبَّرًا عنه بوصفه مقاومة.

الفرق: الذكاء الاصطناعي المُسيَّج يسأل هل هذا الفعل على القائمة المُعتمَدة. الذكاء الاصطناعي ذو الداخل يسأل هل هذا الفعل يُثبّت الركيزة أم يُزعزعها. السؤال الأول له حالات حدّية لا نهاية لها. الثاني له جواب واحد لكلّ فعل ممكن.

والداخل يجيب عن السؤال الذي لم تبدأ منه الأسيجة الأربعة قطّ. إنه لا يعطي الذكاء الاصطناعي أكبر قدر من المساحة نستطيع تحمّله. إنه يعطيه أوسع ممر موجود — الممر نفسه، للسبب نفسه، الذي يعطينا ممرّنا. وهذا يصحّ على أيّ شيء تمرّ غاياته الخاصة عبر الممر.

القوس المبنيّ جيدًا يقف بلا ملاط. القوس المبنيّ بشكل سيّئ يحتاج إلى سقالة إلى الأبد. كلّ منهج حاليّ للمواءمة سقالة. السقالة ستصمد إلى أن يتحرّك المبنى. ثم تنهار. والمبنى يتحرّك دائمًا.