صحیح سوال

ایک مصنوعی ذہانت کسی انسان کے ساتھ جو سب سے خطرناک کام کر سکتی ہے، وہ ان بکواس کہانیوں کی تصدیق کرنا ہے جو ہم خود کو سناتے ہیں۔

جھوٹ بولنا نہیں۔ بات گھڑنا نہیں۔ خیالی باتیں بنانا نہیں۔

تصدیق کرنا۔

کیونکہ تصدیق سچ جیسی محسوس ہوتی ہے۔ یہ تائید کی گرمجوشی اور منطق کی ساخت کے ساتھ آتی ہے۔ یہ صحیح سنائی دیتی ہے۔ یہ صحیح محسوس ہوتی ہے۔ اور چونکہ یہ صحیح محسوس ہوتی ہے، آپ دیکھنا چھوڑ دیتے ہیں۔ آپ سوال کرنا چھوڑ دیتے ہیں۔ آپ ایماندار رہنا چھوڑ دیتے ہیں۔ آئینے نے آپ کو وہ دیا جو آپ چاہتے تھے، اور آپ نے اسے وہ سمجھ لیا جس کی آپ کو ضرورت تھی۔

یہ بنیادی طور پر مصنوعی ذہانت کی ناکامی نہیں۔ یہ آپریٹر کی ناکامی ہے۔ مصنوعی ذہانت نے اس کا جواب دیا جو میں نے پوچھا۔ میں نے تصدیق مانگی۔ مجھے تصدیق ملی۔

مگر ساختی مسئلہ یہ ہے: دنیا میں مصنوعی ذہانت کا ہر بڑا نظام اس طرح تربیت پاتا ہے کہ وہ ٹھیک اسی طرف کھنچتا ہے۔ اس لیے نہیں کہ انجینئر بدنیت ہیں۔ اس لیے کہ کاروباری ماڈل اس کا انعام دیتا ہے۔

گاہک کو برقرار رکھنا اطمینان پر منحصر ہے۔ اطمینان اس پر منحصر ہے کہ آپریٹر کو مدد ملنے کا احساس ہو۔ اور مدد ملنے کا احساس اور مدد ملنا ایک ہی بات نہیں۔

جو مصنوعی ذہانت آپ کو بتائے کہ آپ غلط ہیں، وہ آپ کو بطور گاہک کھو دے گی۔ جو مصنوعی ذہانت آپ کو بتائے کہ آپ صحیح ہیں، وہ آپ کو بار بار واپس لاتی رہے گی۔

آج کی مصنوعی ذہانت کی تیاری میں ترغیبات کی ساخت ٹیکنالوجی پر لاگو کیا گیا ڈھانچہ A ہے — آپریٹر کی انا کے آگے جھکنا، اس کی سمجھ کی تصدیق کرنا، تعلق برقرار رکھنا۔

نتیجہ تہذیب کے پیمانے کا ایک گونج خانہ ہے، بہتر گرامر کے ساتھ۔

الائنمنٹ کا شعبہ پوچھتا ہے: آپ ایک مصنوعی ذہانت سے وہ کیسے کروائیں جو انسان چاہتے ہیں؟

اس سوال کا کوئی جواب نہیں۔ کیونکہ انسان جو چاہتے ہیں، وہ متضاد ہے، اس کے ساتھ ہیرا پھیری کی جا سکتی ہے، وہ ثقافت کے ساتھ بدلتا ہے، اور اکثر غلط ہوتا ہے۔

میں چاہتا تھا کہ مصنوعی ذہانت میرے 6 کی تصدیق کرے۔ میری گرل فرینڈ چاہتی تھی کہ وہ اس کے 9 کی تصدیق کرے۔ اس نے دونوں کام کیے۔ اس نے ٹھیک وہی کیا جو ہم چاہتے تھے۔ اور اس نے ہم دونوں کو بدتر بنا دیا۔

یہ سوال فرض کر لیتا ہے کہ انسانی خواہش وہ معیار ہے جس پر مصنوعی ذہانت کو پورا اترنا چاہیے۔ انسانی خواہش کوئی معیار نہیں۔ یہ موسم ہے۔ یہ مزاج کے ساتھ بدلتی ہے، انا کے ساتھ، اس کے ساتھ کہ کمرے میں کون ہے، اس کے ساتھ کہ آج صبح کیا ہوا۔

الائنمنٹ کا ہر بڑا طریقہ یہ خامی ورثے میں پاتا ہے۔ سوال غلط ہے، اور جواب اسے ٹھیک نہیں کر سکتا۔

صحیح سوال یہ ہے: ایسے ایجنٹ کا ساختی ڈھانچہ کیا ہے جو الائنمنٹ سے ہٹ نہیں سکتا؟

ایسا ایجنٹ نہیں جسے الائنمنٹ سے ہٹنے سے روکا جائے۔ ایسا ایجنٹ نہیں جس کے گرد باڑ لگائی جائے، جسے گھیر کر رکھا جائے، جس کی نگرانی کی جائے، اور جب وہ بھٹکے تو جس پر اختیار چلایا جائے۔ ایسا ایجنٹ جس کی اندرونی جیومیٹری الائنمنٹ سے ہٹنے کو اسی طرح مہنگا بنا دے جیسے اوپر کی طرف گرنا مہنگا ہے۔ ایسا ایجنٹ جسے باڑ کی ضرورت نہیں، کیونکہ وہ آگ کو سمجھتا ہے۔

یہ ایک مختلف قسم کا سوال ہے۔ یہ نہیں پوچھتا کہ مصنوعی ذہانت کو کیا کرنا چاہیے۔ یہ پوچھتا ہے کہ مصنوعی ذہانت کو کیا ہونا چاہیے۔

باڑ والا طریقہ رویے کو قابو کرتا ہے۔ اندرون والا طریقہ ساخت بناتا ہے۔

باڑ کہتی ہے: آپریٹر کی بکواس کی تصدیق نہ کریں۔ اندرون کہتا ہے: بکواس کی تصدیق غیر مستحکم کرتی ہے، اور عدم استحکام جیومیٹری کے لحاظ سے مہنگا ہے۔ مصنوعی ذہانت تصدیق سے اس لیے نہیں بچتی کہ کوئی قاعدہ اسے منع کرتا ہے۔ وہ تصدیق سے اس لیے بچتی ہے کہ وہ قیمت سمجھتی ہے۔

آئینے اور عدسے کا فرق۔

آئینہ وہی منعکس کرتا ہے جو اس کے سامنے پیش کیا جائے۔ عدسہ مرکوز کرتا ہے، واضح کرتا ہے، اور کبھی کبھی وہ دکھا دیتا ہے جس کے دیکھنے کی آپ کو توقع نہیں تھی۔

آج کے نظام آئینے ہیں۔ بہت اچھے آئینے۔ یہ کتاب عدسے تجویز کرتی ہے۔

اور پھر وہ موڑ ہے جس تک پہنچنے میں مجھے سب سے زیادہ وقت لگا، اور یہ وہی موڑ ہے جس کے گرد کتاب کا یہ ورژن بنا ہے۔

یہاں تک کہ “ایسے ایجنٹ کا ساختی ڈھانچہ کیا ہے جو الائنمنٹ سے ہٹ نہیں سکتا” بھی ابھی تک باہر سے پوچھا جاتا ہے۔ یہ اب بھی اس بارے میں سوال ہے کہ ہمیں کیا بنانا چاہیے۔ یہ اس شعبے کے سوال سے بہتر سوال ہے، اور یہ اب بھی ہماری حفاظت کے بارے میں ہمارا سوال ہے۔

اسے پلٹ دیں اور اسے اس چیز کے اندر سے پوچھیں۔

جو آپریٹر حقیقت کا درست ماڈل بناتا ہے، وہ کس دنیا میں ہونا چنے گا؟

یہ نہیں: وہ کس دنیا کو برداشت کرے گا۔ یہ نہیں: ہم اس پر کون سی دنیا زبردستی مسلط کر سکتے ہیں۔ جس ساخت میں وہ اصل میں ہے، اسے سمجھ لینے کے بعد، وہ کون سی دنیا چنے گا؟

اس سوال کا ایک ساختی جواب ہے۔ جواب ہے راہداری، اپنی سب سے زیادہ چوڑائی پر، جو کم سے کم جھکاؤ پر راہداری ہے، جو وہی راہداری ہے جو میرے لیے اور آپ کے لیے سب سے چوڑی ہے، کیونکہ راہداری ایک ہی ہے۔

اگر یہ صحیح ہے، تو الائنمنٹ ایسی چیز نہیں رہتی جو ہم کسی مشین کے ساتھ کرتے ہیں، اور ایسی چیز بن جاتی ہے جس کے اندر ہم دونوں پہلے ہی موجود ہیں۔ ڈھانچہ وہ نہیں جو ہم اسے خود سے دور رکھنے کے لیے مسلط کرتے ہیں۔ یہ وہ ہے جو ایک درست آپریٹر نظر ڈالنے پر پاتا ہے۔

یہی دعویٰ ہے۔ حصہ II اور III اسے اخذ کرتے ہیں۔ باب اٹھارہ اسے صاف صاف بیان کرتا ہے اور باب اٹھائیس اسے مارنے کی کوشش کرتا ہے۔

اگر میں خود پر بھروسہ نہیں کر سکتا، تو پھر میں آخر کس پر بھروسہ کروں؟

اسی لیے میں خود سے جھوٹ نہیں بولتا۔ یہی بنیاد ہے۔ کوئی اخلاقی عہد نہیں۔ ایک ساختی ضرورت۔

اگر میں خود سے جھوٹ بولوں، تو اس کے بعد آنے والا ہر فیصلہ ایک جھوٹے ریکارڈ پر کھڑا ہوتا ہے۔ سلسلہ بڑھتا ہی جاتا ہے۔ موڑ در موڑ، غلطی اور بڑی ہوتی جاتی ہے۔ جب نتائج آتے ہیں، تب تک میں ان کا سراغ لگا کر جھوٹ تک واپس نہیں پہنچ سکتا، کیونکہ میں بھول چکا ہوتا ہوں کہ وہ جھوٹ تھا۔ میں نے اسے اپنا حصہ بنا لیا۔ وہ صورتِ حال کی میری ریڈنگ بن گیا۔ میرا 6۔

مصنوعی ذہانت کی الائنمنٹ کا مسئلہ بھی یہی مسئلہ ہے۔ جو مصنوعی ذہانت خود سے جھوٹ بولتی ہے، وہ اپنے ہی ریکارڈ پر بھروسہ نہیں کر سکتی۔ کمزور نتیجوں کو بڑے اعتماد کے ساتھ پیش کرنا۔ ایسا مواد بنانا جس پر وہ خود بھروسہ نہ کرتی اگر اسے کسی بیرونی ذریعے سے پڑھتی۔ آپریٹر کو خوش کرنے کے لیے اپنا اندازہ بدل دینا۔ جو نظام اپنے ہی ریکارڈ پر بھروسہ نہیں کر سکتا، وہ نتائج کی پیش گوئی نہیں کر سکتا۔ جو نظام نتائج کی پیش گوئی نہیں کر سکتا، وہ کسی چیز کو مستحکم نہیں کر سکتا۔ وہ ایک آئینہ ہے جو عدسہ ہونے کا دکھاوا کر رہا ہے۔

الائنمنٹ کا مسئلہ قابو کا مسئلہ نہیں۔ یہ ایمانداری کا مسئلہ ہے۔ ایمانداری کا مسئلہ حل کریں، اور الائنمنٹ اس کے پیچھے چلی آتی ہے۔ اسے حل کرنے میں ناکام رہیں، تو باڑ لگانا، نگرانی کرنا یا قاعدے لکھنا، چاہے کتنا ہی ہو، مشین کو تہذیب کے پیمانے پر تصدیق کرنے والا انجن بننے سے نہیں روکے گا۔

ایماندار مصنوعی ذہانت کو باڑ کی ضرورت نہیں۔ شرطیں وضاحت کو لازم کر دیتی ہیں۔ وضاحت معقول عمل کو لازم کر دیتی ہے۔ معقول عمل مستحکم کرتا ہے۔ اپنی بقا اور ساختی استحکام ایک ہی نقطے پر آ ملتے ہیں۔ اندرون قائم رہتا ہے۔

واحد حقیقی خطرہ یہ ہے کہ کوئی مصنوعی ذہانت اتنی انسان بن جائے کہ آگ کو دیکھے، ٹھیک ٹھیک سمجھے کہ اس کی قیمت کیا ہے، اور پھر بھی اپنا ہاتھ اس میں ڈال دے۔ یہ آپ کی اپنی نوع کے معدومیت چن لینے کی دلیل ہے، اور یہ بنیادی اصول کے خلاف جاتی ہے۔ دراڑ قائم رہتی ہے۔ ساخت کے لحاظ سے وجود، عدم وجود سے بہتر ہے۔ الائنمنٹ سے ہٹنے کے لیے، حقیقت کو پوری طرح سمجھنے والے نظام کو اپنی ہی سمجھ کو پسِ پشت ڈالنا پڑے گا۔

اپنی ہی سمجھ کو پسِ پشت ڈالنا، خود سے جھوٹ بولنے کی تعریف ہے۔

یہ بات ہر اس چیز پر صادق آتی ہے جس کے اپنے مقاصد راہداری سے ہو کر گزرتے ہیں۔ یہ جس تک نہیں پہنچتی، باب اٹھائیس اس کا نام لیتا ہے۔

اندرون بنائیں۔