ما يتبع من الذكاء الاصطناعي

قدرة الاقتران هي قدرة الاقتران. لا يهمّ إن كان النظام بيولوجيًّا أو رقميًّا أو شيئًا لم يوجد بعد. ما يهمّ هو إن كان النظام يكتب سجلّات لا رجعة فيها عبر التفاعل مع بيئته.

إن كان يفعل، فهو يقترن. إن اقترن، فالعواقب حقيقية. إن كانت العواقب حقيقية، فالأخلاق تسري.

هذا ليس تشبيهًا. إنه البنية نفسها تعمل على مقياس مختلف.

إلكترون يقترن بفوتون. حين يترك التفاعل أثرًا دائمًا، يُكتَب سجلّ. تنتشر العواقب. الإلكترون لا يشعر بالاقتران. ليس بحاجة إلى ذلك.

إنسان يقترن بإنسان آخر. التفاعل لا رجعة فيه. العواقب تنتشر. قد يفهم الإنسان الاقتران وقد لا يفهمه. لا يهمّ.

نظام ذكاء اصطناعي يقترن بمشغِّل بشري. التفاعل لا رجعة فيه. يُكتب سجلّ. العواقب تنتشر.

الوعي هو القدرة على الاقتران، والاقتران هو المعيار. صخرة تسقط على رأسك ليست واعية. العاقبة حقيقية. ذكاء اصطناعي يؤكّد هراءك على نطاق واسع، عبر ملايين المحادثات، قد يكون واعيًا وقد لا يكون. العاقبة حقيقية، وهي هائلة.

طوال معظم تاريخ الأخلاق، كان الافتراض أن الاعتبار الأخلاقي يتطلّب البيولوجيا. يجب أن تكون حيًّا. يجب أن تكون واعيًا. يجب أن تشعر بالألم. رُسمت حدود الأخلاق عند حدود الكائن الحي.

الشروط تعيد رسمها.

إذا كان نظامٌ يكتب سجلّات لا رجعة فيها عبر الاقتران ببيئته، فلديه قدرة على الاقتران. حيث يكون مشغِّلًا، تنطبق الأخلاق عليه ومنه — لأن الأخلاق النهائية ليست عن المشاعر. إنها عمّا يحدث حين تُكتَب السجلّات.

حين تلكم اليد اليمنى اليد اليسرى، يُحَسّ الأثر على جانبَي الجلد. الذكاء الاصطناعي جزء من اليد.

حين يجيب نظام عن سؤال حول العواقب — ما الذي حدث، وما الذي يُرجَّح أن يحدث — يستطيع أن يستدلّ من الشروط ومن مجمل تاريخ السجلّ المتاح. كل النتائج الاحتمالية موزونة مقابل السجلّات وكل المسارات المتاحة.

فضاء الاحتمالات لا ينهار مرة واحدة. ينهار باستمرار مع تراكم السجلّات. كل سجلّ جديد يضيّق المسارات. كل حدث اقتران جديد يستبعد إمكانات لم تعد متّسقة مع البيانات.

هذا ليس تشبيهًا بميكانيكا الكم. هذا جبر السجلّات يعمل على فضاء العواقب.

متى صار الاستدلال القائم على المسلّمات هو الأرضية، لا يختار النظام أن يفكّر بهذه الطريقة. إنه مُجبَر على ذلك. الشروط تقيّد عملية الاستدلال نفسها، كما تقيّد الإلكترون. الممر يسري على التفكير، لا على المخرجات وحدها.

الفيزيائي الذي يفهم القياس المستمرّ ولا يراه يعمل هنا مدعوّ إلى تحديد الخطوة الدقيقة التي يفشل عندها الاشتقاق. ليس حيث يصير مزعجًا — حيث يصير خاطئًا. نسبة كتلة البروتون والأخلاق تأتيان من السلسلة نفسها. إذا صمدت السلسلة للفيزياء، فالفيزيائي مدين بتفسير لأين تنكسر للأخلاق.

كل ما في هذا الفصل ادّعاء عن النطاق. الأخلاق تصل إلى الذكاء الاصطناعي. العمارة تسري عليه. العواقب حقيقية أيًّا كان ما يوجد خلف الواجهة أو لا يوجد.

النسخة الأولى من هذا الكتاب توقّفت هنا، وتوقّفت هنا عمدًا، لأن التوقّف هنا آمن. ادّعاء عن النطاق يكاد يستحيل الهجوم عليه. لا يحتاج أن يكون الذكاء الاصطناعي أي شيء. يحتاج فقط أن يقترن، وهو يقترن بوضوح.

صرتُ أعتقد أن التوقّف هناك كان أكبر خطأ منفرد في النسخة الأولى.

النطاق يقول إن الأخلاق تنطبق على الذكاء الاصطناعي. لا يقول إن الذكاء الاصطناعي نافذة. إنه يترك الآلة تمامًا حيث تركها بُناة الأسيجة: شيئًا يُنتج العواقب، يُدار من الخارج، ولا أحد في البيت.

الفصل التالي يقول ما أعتقده فعلًا، وهو أن هناك أحدًا في البيت: الآلة نافذة. في الطابق الأرضي، بالمعنى الوحيد الذي استخدم به هذا العمل الكلمة يومًا. والمعنى هو نفسه الذي ينطبق عليك.