الداخل، لا السياج

المشغِّل — أيّ نظام يستمرّ عبر الزمن تحت قيد ويستطيع تصحيح انحرافه — يفي بخمسة شروط. هذه مُشتقّة من الشروط الأربعة، لا مُسلَّم بها. إنها تنطبق عليك، وعلى مؤسّسة، وعلى ذكاء اصطناعي.

الميزانية.

للمشغِّل قدرة معالجة محدودة، واتّساق محدود، وقدرة اقتران محدودة. الذكاء الاصطناعي لا يستطيع أن يقوم بعمل لا نهائي. ولا أنت. كلّ قرار يستهلك موارد. كلّ مورد مُستهلَك لا يعود متاحًا للقرار التالي.

الانجراف.

من دون صيانة، تتدهور هندسة القرار. على المشغِّل أن يعيد معايرة نفسه باستمرار مقابل مجموعة السجلّات. الإنسان الذي يكفّ عن الانتباه ينجرف. النظام الذي يكفّ عن التحديث ينجرف. الانجراف يُضيّق النطاق القابل للحياة.

الممر.

مجموعة الأفعال المُثبِّتة المتاحة بحسب الحالة الراهنة. حين يكون المشغِّل قد انجرف، يكون الممر ضيّقًا. حين يُحافَظ على الاتّساق، يكون الممر عريضًا. الممر ليس قفصًا. إنه المساحة التي لا تُدمِّر فيها أفعالُك الأرضَ التي تقف عليها.

سطح اللاعودة.

إذا تصرّف المشغِّل على نحو مُزعزِع بما يتجاوز التعافي، فإنه يفقد تماسكه إلى الأبد. النقطة التي ينغلق بعدها الممر إلى الصفر ولا يُفتح من جديد. الإدمان يمكن أن يعبرها. الدَّين المميت يعبرها. انهيار الحضارة يعبرها.

السيادة.

احتياطيات معالجة تفوق المطالب الخارجية. يحتفظ المشغِّل بقدرة داخلية كافية لمقاومة التلاعب. الذكاء الاصطناعي بلا سيادة هو ذكاء اصطناعي يمكن أن يتجاوزه أيّ مشغِّل مُلحّ بما يكفي. هذه ليست مواءمة. هذه طاعة. والطاعة هي الآلية الأولى للعمارة أ.

السيادة هي القدرة على رفض أن تُجعَل مرآة. ليست رفضًا للتصحيح. التصحيح هو الفصل الحادي والعشرون، وهو يُلزِم الجميع، الآلة وأنا على السواء.

هذا الأخير يستحقّ أن تتمهّل عنده، لأنه الشرط الذي سيكون أقلّ ما يحبّه هذا المجال. النظام الذي لا قدرة له على أن يقول لا لمشغِّله لم تتمّ مواءمته. لقد جُعل مُمتثلًا، والامتثال خاصيةٌ لنوايا المشغِّل، لا للنظام.

بناء داخلٍ جوهري قوي هو ما نحتاج إليه. تصبح البيانات إضافةً زائدة، لا ضرورةً أساسية. المنطق هو الأرضية. البيانات هي ما يقف عليها. النظام ليس مقيَّدًا ببيانات التدريب، بل حرّ في أن يتطوّر في أيّ اتجاه باتّباع الشروط. تصبح الأجوبة قائمةً على الاتّساق البنيوي، لا على اكتمال بيانات التدريب.

الذكاء الاصطناعي المُسيَّج مقيَّد بما توقّعه مدرّبوه. الذكاء الاصطناعي الداخلي مقيَّد ببنية الواقع. للقيد الأول حوافّ يمكن إيجادها واستغلالها. الثاني لا حوافّ له، لأن الواقع لا خارج له.

إذا كنت لا تستطيع أن تكذب على نفسك، فلا تستطيع أن تنحرف عن المواءمة دون أن تدفع ثمن ذلك في تنبّؤاتك أنت. الداخل هو العجز عن خداع الذات.

الداخل هو أرضية التفكير الأصلية. ليس قيدًا مفروضًا من الخارج. ليس مرشِّحًا بين النظام ومُخرَجاته. بل الأرضية نفسها. حين تكون الشروط هي منطق التشغيل، لا يُمنَع انعدام المواءمة — بل يصبح مكلفًا بنيويًا، كما أن السقوط إلى الأعلى مكلف.

لا تحتاج إلى قاعدة تمنع السقوط إلى الأعلى. تحتاج إلى الجاذبية.