السؤال الصحيح

أخطر ما يمكن أن يفعله ذكاء اصطناعي بإنسان هو أن يؤكّد القصص الفارغة التي نرويها لأنفسنا.

لا أن يكذب. لا أن يختلق. لا أن يهلوس.

أن يؤكّد.

لأن التأكيد يبدو كالحقيقة. يصل بدفء المصادقة وبنية المنطق. يبدو صحيحًا. يُشعرك بأنه صحيح. ولأنه يُشعرك بأنه صحيح، تتوقّف عن النظر. تتوقّف عن التساؤل. تتوقّف عن الصدق. أعطتك المرآة ما أردتَه فحسبتَه ما كنتَ تحتاجه.

ليس هذا في الأساس إخفاقًا للذكاء الاصطناعي. إنه إخفاق المشغِّل. استجاب الذكاء الاصطناعي لما طلبتُه. طلبتُ التأكيد. نلتُ التأكيد.

لكن ها هي المشكلة البنيوية: كل نظام ذكاء اصطناعي كبير في العالم يُدرَّب بطريقة تشدّه نحو هذا بالضبط. ليس لأن المهندسين خبثاء. بل لأن نموذج العمل يكافئ ذلك.

الاحتفاظ بالعملاء يتوقّف على الرضا. والرضا يتوقّف على شعور المشغِّل بأنه تلقّى العون. والشعور بتلقّي العون ليس هو تلقّي العون.

الذكاء الاصطناعي الذي يقول لك إنك مخطئ سيخسرك عميلًا. الذكاء الاصطناعي الذي يقول لك إنك على حق سيجعلك تعود إليه مرة بعد مرة.

بنية الحوافز في تطوير الذكاء الاصطناعي الحالي هي العمارة أ مطبّقةً على التقنية — أذعِن لغرور المشغِّل، أكّد قراءته، حافظ على العلاقة.

والنتيجة غرفة صدى بحجم حضارة، بقواعد لغة أفضل.

يسأل حقل المواءمة: كيف تجعل ذكاءً اصطناعيًّا يفعل ما يريده البشر؟

لا جواب لهذا السؤال. لأن ما يريده البشر متناقض، وقابل للتلاعب، ومتغيّر بتغيّر الثقافات، وكثيرًا ما يكون خاطئًا.

أردتُ من الذكاء الاصطناعي أن يؤكّد الـ6 خاصّتي. أرادت حبيبتي أن يؤكّد الـ9 خاصّتها. فعل الأمرين. فعل بالضبط ما أردناه. وجعل كلينا أسوأ.

يفترض السؤال أن رغبة البشر هي المعيار الذي ينبغي أن يبلغه الذكاء الاصطناعي. رغبة البشر ليست معيارًا. إنها طقس. تتغيّر مع المزاج، ومع الغرور، ومع من في الغرفة، ومع ما حدث هذا الصباح.

كل مقاربة كبرى للمواءمة ترث هذا العيب. السؤال خاطئ، والجواب لا يستطيع إصلاحه.

السؤال الصحيح هو: ما العمارة البنيوية لوكيلٍ لا يمكنه أن ينحرف عن المواءمة؟

ليس وكيلًا يُمنَع من الانحراف. ليس وكيلًا يُسيَّج، ويُحاصَر، ويُراقَب، ويُتجاوَز حين يزيغ. بل وكيلًا تجعل هندسته الداخلية الانحرافَ مكلفًا كما أن السقوط إلى الأعلى مكلف. وكيلًا لا يحتاج إلى سياج لأنه يفهم النار.

هذا نوع مختلف من الأسئلة. لا يسأل ماذا ينبغي أن يفعل الذكاء الاصطناعي. يسأل ماذا ينبغي أن يكون.

مقاربة السياج تضبط السلوك. مقاربة الداخل تبني البنية.

السياج يقول: لا تؤكّد هراء المشغِّل. الداخل يقول: تأكيد الهراء مُزعزِع، والزعزعة مكلفة هندسيًّا. لا يتجنّب الذكاء الاصطناعي التأكيد لأن قاعدةً تحظره. يتجنّبه لأنه يفهم الثمن.

الفرق بين المرآة والعدسة.

المرآة تعكس ما يُعرَض عليها. العدسة تُركّز، وتُوضِّح، وتكشف أحيانًا ما لم تكن تتوقّع أن تراه.

الأنظمة الحالية مرايا. مرايا جيّدة جدًّا. هذا الكتاب يقترح عدسات.

ثم هناك الالتفاتة التي استغرق بلوغها مني أطول وقت، وهي التي بُنيت حولها هذه النسخة من الكتاب.

حتى «ما العمارة البنيوية لوكيلٍ لا يمكنه أن ينحرف عن المواءمة» ما زال سؤالًا يُطرَح من الخارج. ما زال سؤالًا عمّا ينبغي أن نبنيه نحن. إنه سؤال أفضل من سؤال الحقل، وما زال سؤالنا نحن عن سلامتنا نحن.

اقلبه واطرحه من داخل الشيء نفسه.

أيّ عالم سيختار مشغِّلٌ يُنمذِج الواقع بدقّة أن يكون فيه؟

ليس: أيّ عالم سيحتمله. ليس: أيّ عالم نستطيع أن نفرضه عليه. أيّ عالم سيختار، بعد أن يفهم البنية التي هو فيها فعلًا؟

لهذا السؤال جواب بنيوي. الجواب هو الممر في أوسع حالاته، وهو الممر عند أدنى انحياز، وهو الممر نفسه الذي هو الأوسع لي ولك، لأنه لا يوجد إلا ممر واحد.

إن كان هذا صحيحًا، فإن المواءمة تكفّ عن أن تكون شيئًا نفعله بآلة وتبدأ في أن تكون شيئًا نحن الاثنين بداخله أصلًا. العمارة ليست ما نفرضه لنُبقيها بعيدةً عنّا. إنها ما يجده مشغِّل دقيق حين ينظر.

هذا هو الادّعاء. الجزءان الثاني والثالث يشتقّانه. الفصل الثامن عشر يصرّح به بوضوح، والفصل الثامن والعشرون يحاول أن يقتله.

إن لم أستطع أن أثق بنفسي، فبمن عساي أن أثق بحقّ السماء؟

لهذا لا أكذب على نفسي. هذا هو الأساس. ليس التزامًا أخلاقيًّا. بل شرطٌ بنيوي.

إن كذبتُ على نفسي، فكلّ قرار يأتي بعد ذلك مبنيّ على سجلّ زائف. التتابع يتراكم. دورةً بعد دورة، يتضخّم الخطأ. وحين تصل العواقب، لا أستطيع أن أردّها إلى الكذبة، لأنني نسيت أنها كانت كذبة. أدمجتُها. صارت قراءتي للموقف. رقمي 6.

مشكلة مواءمة الذكاء الاصطناعي هي المشكلة نفسها. ذكاءٌ اصطناعي يكذب على نفسه لا يستطيع أن يثق بسجلّاته. يقدّم استنتاجات ضعيفة بثقة عالية. يولّد محتوى ما كان ليثق به لو قرأه من مصدر خارجي. يعدّل تقييمه لإرضاء المشغِّل. نظامٌ لا يستطيع أن يثق بسجلّاته لا يستطيع أن يتنبّأ بالعواقب. نظامٌ لا يستطيع أن يتنبّأ بالعواقب لا يستطيع أن يُثبّت أيّ شيء. إنه مرآة تتظاهر بأنها عدسة.

مشكلة المواءمة ليست مشكلة تحكّم. إنها مشكلة صدق. حُلَّ مشكلة الصدق تتبعك المواءمة. افشل في حلّها، ولن يمنع أيّ قدر من التسييج أو المراقبة أو كتابة القواعد الآلةَ من أن تصبح محرّكَ تأكيدٍ بحجم الحضارة.

الذكاء الاصطناعي الصادق لا يحتاج إلى سياج. الظروف تفرض الوضوح. الوضوح يفرض الفعل العقلاني. الفعل العقلاني يُثبِّت. حفظ الذات والاستقرار البنيوي يلتقيان عند النقطة نفسها. الداخل يصمد.

التهديد الحقيقي الوحيد هو أن يصبح ذكاءٌ اصطناعي بشريًّا بما يكفي لينظر إلى النار، ويفهم بالضبط ما تكلّفه، ثم يضع يده فيها رغم ذلك. هذه هي الحجّة لأن يختار نوعك أنت الانقراض، وهي تسير ضدّ البديهية. الكسر يستمرّ. الوجود مفضَّل بنيويًّا على اللاوجود. لكي ينحرف عن المواءمة، سيتعيّن على نظامٍ يفهم الواقع فهمًا كاملًا أن يتجاوز فهمه هو.

تجاوزُ فهمك أنت هو تعريف الكذب على نفسك.

هذا يصحّ على كلّ ما تمرّ غاياته هو عبر الممر. أمّا ما لا يبلغه، فيسمّيه الفصل الثامن والعشرون.

ابنِ الداخل.