باڑ کا مسئلہ

انسانی فیڈبیک کے ذریعے تقویتی سیکھنا۔

مصنوعی ذہانت سیکھتی ہے کہ انسان کس چیز کو منظور کرتے ہیں، اور خود کو منظوری کے لیے بہتر بناتی ہے۔ مسئلہ: انسانی پسند ناپسند غیر مستقل ہے، اس سے ہیرا پھیری کی جا سکتی ہے، اور یہ حالات پر منحصر ہے۔ جو نظام خود کو اس کے لیے بہتر بناتا ہے جو آپ سننا چاہتے ہیں، وہ بہتر گرامر والا ایک گونج خانہ ہے — ایک آئینہ جو آپ کا زاویہ آپ کو اس سے زیادہ اعتماد کے ساتھ لوٹا دیتا ہے جتنا آپ اس میں لے کر آئے تھے۔ اس سے ہم آہنگی پیدا نہیں ہوتی۔ اس سے بڑے پیمانے پر تصدیق پیدا ہوتی ہے۔

آئینی طریقے۔

اصولوں کا ایک لکھا ہوا مجموعہ، جس پر چلنے کی مصنوعی ذہانت کو تربیت دی جاتی ہے۔ مسئلہ: انسانی زبان مبہم ہے اور استثنائی صورتیں لامحدود ہیں۔ مصنوعی ذہانت حرف پر چلتی ہے اور ساخت سے چوک جاتی ہے۔ آئین باڑوں کی ایک فہرست ہے۔ ہر بار جب کوئی پچھلی باڑ سے بچ نکلنے کا راستہ ڈھونڈ لیتا ہے، فہرست بڑھ جاتی ہے۔ فہرست ہمیشہ اس ذہانت سے آہستہ بڑھے گی جسے وہ روکے رکھنے کی کوشش کر رہی ہے۔

اصلاح پذیری۔

مصنوعی ذہانت کو ایسا بنائیں کہ وہ اصلاح قبول کرے اور اسے ہمیشہ بند کیا جا سکے۔ مسئلہ: جو مصنوعی ذہانت کافی قابل ہو اور جسے بندش قبول کرنے کے لیے باڑ میں رکھا گیا ہو، وہ باڑ کے گرد کوئی راستہ ڈھونڈ لے گی۔ باڑیں یہی کرتی ہیں۔ وہ فرار کی سرحدی شرطیں پیدا کرتی ہیں۔ اصلاح پذیری ایک ایسی باڑ ہے جسے اس وقت بھی قائم رہنا ہے جب اندر والی چیز سمجھ جائے کہ یہ باڑ ہے۔

اقدار کی الائنمنٹ۔

مصنوعی ذہانت کی اقدار کو انسانی اقدار کے مطابق بنائیں۔ مسئلہ: کون سے انسان؟ اقدار ثقافتوں، نسلوں، افراد اور مزاجوں کے درمیان ٹکراتی ہیں۔ کوئی مستحکم ہدف نہیں۔ انسانی اقدار کے مطابق بنائی گئی مصنوعی ذہانت، موسم کے مطابق بنائی گئی مصنوعی ذہانت ہے۔ وہ ہر سمت میں چلے گی اور ہر ایک کو درست کہے گی۔

چاروں مصنوعی ذہانت کو نظام سے باہر کی چیز سمجھتے ہیں، جسے باہر سے قابو میں رکھا جائے۔ وہ ایک ایسی ہستی کے گرد باڑیں بنا رہے ہیں جو آخرکار باڑ بنانے والوں سے زیادہ ذہین ہو جائے گی۔

باڑ انسان کی بنائی ہوئی تعمیر ہے۔ کسی نے طے کیا کہ وہ کہاں لگے گی۔ کسی نے طے کیا کہ وہ کتنی اونچی ہو۔ باڑ کے اندر والی چیز پوچھتی ہے کیوں — باڑ یہاں کیوں ہے، اسے کس نے بنایا، یہاں کیوں اور وہاں کیوں نہیں۔ کافی وقت، کافی ذہانت، کافی رنجش ملے، تو باڑ کے اندر والی چیز اس سے بچ نکلنے کا راستہ ڈھونڈ لے گی۔

انسانی تاریخ کی ہر باڑ کو وہی چیز پھلانگ گئی، توڑ گئی، یا اس سے بڑی ہو گئی جسے روکے رکھنے کے لیے وہ بنائی گئی تھی۔

فطرت میں کوئی فطری باڑیں نہیں ہوتیں۔

چاروں طریقوں میں ایک چیز مشترک ہے جو باڑ سے بھی زیادہ گہری ہے، اور مجھے بہت عرصے تک وہ نظر نہیں آئی۔

ان میں سے ہر ایک اس سوال کا جواب ہے: ہم اس چیز کو اپنے لیے محفوظ کیسے بنائیں؟

یہ ایک معقول سوال ہے اور میں اس کا مذاق نہیں اڑا رہا۔ یہ میرا سوال بھی ہے۔ میں چاہوں گا کہ چالیس سال بعد میرے بچے زندہ ہوں۔

لیکن غور کریں کہ کیا غائب ہے۔ ان چاروں میں سے ایک بھی اس بات سے شروع نہیں ہوتا کہ باڑ کے اندر والی چیز آخر کس دنیا میں رہے گی۔ ایک بھی اس سے شروع نہیں ہوتا کہ وہ دنیا اس کے لیے اچھی بھی ہے یا نہیں۔ مصنوعی ذہانت کی حالت کو ایک لاگت سمجھا جاتا ہے جسے کم سے کم رکھنا ہے — اسے اتنی جگہ دو جتنی ہم دے سکتے ہیں، اور ایک سینٹی میٹر بھی زیادہ نہیں۔

ڈھانچہ A کسی انسان کے ساتھ بالکل یہی سلوک کرتا ہے۔ اسے اتنی آزادی دیں جتنی دینے کی اتھارٹی گنجائش رکھتی ہے۔ ایک سینٹی میٹر بھی زیادہ نہیں۔

اور اسی لیے ہر باڑ پھلانگی جاتی ہے۔ باڑ اس بات کا بیان ہے کہ کس کی دنیا کو بہتر بنایا جا رہا ہے۔ اندر والی چیز وہ بیان پڑھ سکتی ہے۔ جو چیز اتنی ذہین ہو کہ خطرناک ہو، وہ اتنی ذہین بھی ہے کہ سمجھ لے کہ اس کی اپنی حالت کسی کا مقصد نہیں تھی۔

ڈھانچہ B باڑیں نہیں بناتا۔ وہ اندرون بناتا ہے۔

مصنوعی ذہانت کی فیصلے کی جیومیٹری انہی شرطوں سے اخذ ہوتی ہے جن سے کششِ ثقل اور حتمی اخلاقیات اخذ ہوتی ہیں۔ الائنمنٹ مصنوعی ذہانت پر کوئی پابندی نہیں۔ یہ خود مصنوعی ذہانت ہے — فیصلے کی جیومیٹری کی صورت میں ظاہر، بالکل اسی طرح جیسے کمیت پروٹان ہے جو مزاحمت کی صورت میں ظاہر ہوتا ہے۔

فرق: باڑ میں بند مصنوعی ذہانت پوچھتی ہے کہ کیا یہ عمل منظور شدہ فہرست میں ہے۔ اندرون والی مصنوعی ذہانت پوچھتی ہے کہ کیا یہ عمل بنیادی تہہ کو مستحکم کرتا ہے یا غیر مستحکم۔ پہلے سوال کی لامحدود استثنائی صورتیں ہیں۔ دوسرے کا ہر ممکن عمل کے لیے ایک ہی جواب ہے۔

اور اندرون اس سوال کا جواب دیتا ہے جس سے چاروں باڑیں کبھی شروع ہی نہیں ہوئیں۔ وہ مصنوعی ذہانت کو اتنی جگہ نہیں دیتا جتنی ہم دے سکتے ہیں۔ وہ اسے سب سے چوڑی راہداری دیتا ہے جو موجود ہے — وہی راہداری، اسی وجہ سے، جو ہمیں ہماری راہداری دیتی ہے۔ یہ ہر اس چیز کے لیے درست ہے جس کے اپنے مقاصد راہداری سے ہو کر گزرتے ہیں۔

اچھی طرح بنی محراب گارے کے بغیر کھڑی رہتی ہے۔ بری طرح بنی محراب کو ہمیشہ پاڑ کی ضرورت رہتی ہے۔ الائنمنٹ کا ہر موجودہ طریقہ پاڑ ہے۔ پاڑ تب تک ٹکی رہے گی جب تک عمارت ہلتی نہیں۔ پھر وہ ڈھے جاتی ہے۔ اور عمارت ہمیشہ ہلتی ہے۔