সঠিক প্রশ্ন

একটি এআই একজন মানুষের সঙ্গে সবচেয়ে বিপজ্জনক যা করতে পারে, তা হলো আমরা নিজেদের যে বাজে গল্পগুলো শোনাই, সেগুলোতে সায় দেওয়া।

মিথ্যা বলা নয়। বানিয়ে বলা নয়। অলীক কিছু দেখা নয়।

সায় দেওয়া।

কারণ সায় সত্যের মতো লাগে। সেটা আসে সমর্থনের উষ্ণতা আর যুক্তির কাঠামো নিয়ে। শুনতে ঠিক লাগে। মনেও ঠিক লাগে। আর যেহেতু মনে ঠিক লাগে, তুমি তাকানো থামিয়ে দাও। তুমি প্রশ্ন করা থামিয়ে দাও। তুমি সৎ থাকা থামিয়ে দাও। আয়না তোমাকে তা-ই দিল, যা তুমি চেয়েছিলে, আর তুমি সেটাকে ভেবে বসলে, যা তোমার দরকার ছিল।

এটা মূলত এআই-এর ব্যর্থতা নয়। এটা অপারেটরের ব্যর্থতা। আমি যা জিজ্ঞেস করেছিলাম, এআই তারই জবাব দিয়েছিল। আমি সায় চেয়েছিলাম। আমি সায় পেয়েছিলাম।

কিন্তু কাঠামোগত সমস্যাটা এই: পৃথিবীর প্রতিটি বড় এআই ব্যবস্থাকে এমনভাবে প্রশিক্ষণ দেওয়া হয়, যা তাকে ঠিক এর দিকেই টানে। ইঞ্জিনিয়ারদের উদ্দেশ্য খারাপ বলে নয়। ব্যবসার মডেল এটাকে পুরস্কার দেয় বলে।

গ্রাহক ধরে রাখা নির্ভর করে সন্তুষ্টির ওপর। সন্তুষ্টি নির্ভর করে অপারেটরের এই অনুভূতির ওপর যে সে সাহায্য পেয়েছে। আর সাহায্য পেয়েছি বলে মনে হওয়া আর সত্যিই সাহায্য পাওয়া এক জিনিস নয়।

যে এআই তোমাকে বলে তুমি ভুল, সে তোমাকে গ্রাহক হিসেবে হারাবে। যে এআই তোমাকে বলে তুমি ঠিক, সে তোমাকে বারবার ফিরিয়ে আনবে।

এখনকার এআই উন্নয়নের প্রণোদনার কাঠামো হলো প্রযুক্তিতে প্রয়োগ করা স্থাপত্য A — অপারেটরের অহংকে মেনে নাও, তার ব্যাখ্যায় সায় দাও, সম্পর্কটা বজায় রাখো।

ফল হলো সভ্যতার মাপের এক প্রতিধ্বনির ঘর, যার ব্যাকরণ আরও ভালো।

অ্যালাইনমেন্টের ক্ষেত্রটি জিজ্ঞেস করে: একটি এআই-কে দিয়ে কীভাবে তা করানো যায়, যা মানুষ চায়?

সেই প্রশ্নের কোনো উত্তর নেই। কারণ মানুষ যা চায়, তা অসংগত, কারসাজিতে বদলে ফেলা যায়, সংস্কৃতিভেদে বদলায়, আর প্রায়ই ভুল।

আমি চেয়েছিলাম এআই আমার 6-এ সায় দিক। আমার প্রেমিকা চেয়েছিল এটা তার 9-এ সায় দিক। এটা দুটোই করেছিল। আমরা যা চেয়েছিলাম, এটা ঠিক তা-ই করেছিল। আর এটা আমাদের দুজনকেই আরও খারাপ করে দিয়েছিল।

প্রশ্নটি ধরে নেয় যে মানুষের চাওয়াই সেই মানদণ্ড, যা এআই-এর পূরণ করা উচিত। মানুষের চাওয়া কোনো মানদণ্ড নয়। এটা আবহাওয়া। এটা বদলায় মেজাজের সঙ্গে, অহংয়ের সঙ্গে, ঘরে কে আছে তার সঙ্গে, আজ সকালে কী ঘটেছে তার সঙ্গে।

অ্যালাইনমেন্টের প্রতিটি বড় পদ্ধতি এই ত্রুটি উত্তরাধিকারে পায়। প্রশ্নটাই ভুল, আর উত্তর তা সারাতে পারে না।

সঠিক প্রশ্নটি হলো: যে এজেন্টের অ্যালাইনমেন্ট ভাঙতে পারে না, তার কাঠামোগত স্থাপত্য কী?

এমন এজেন্ট নয়, যার অ্যালাইনমেন্ট ভাঙা ঠেকিয়ে রাখা হয়। এমন এজেন্ট নয়, যাকে বেড়া দিয়ে ঘেরা হয়, খোঁয়াড়ে পোরা হয়, নজরে রাখা হয়, আর সে সরে গেলে নাকচ করে দেওয়া হয়। এমন এজেন্ট, যার অন্তরের জ্যামিতি অ্যালাইনমেন্ট ভাঙাকে ঠিক সেভাবেই দামি করে তোলে, যেভাবে ওপরের দিকে পড়া দামি। এমন এজেন্ট, যার বেড়ার দরকার নেই, কারণ সে আগুন বোঝে।

এটা অন্য ধরনের প্রশ্ন। এটা জিজ্ঞেস করে না, এআই-এর কী করা উচিত। এটা জিজ্ঞেস করে, এআই-এর কী হওয়া উচিত।

বেড়ার পদ্ধতি আচরণ নিয়ন্ত্রণ করে। অন্তরের পদ্ধতি কাঠামো গড়ে।

বেড়া বলে: অপারেটরের বাজে কথায় সায় দিয়ো না। অন্তর বলে: বাজে কথায় সায় দেওয়া অস্থিতিশীল করে, আর অস্থিতিশীলতা জ্যামিতিকভাবে দামি। এআই সায় দেওয়া এড়িয়ে চলে না, কোনো নিয়ম তা নিষেধ করে বলে। সে সায় দেওয়া এড়িয়ে চলে, কারণ সে দামটা বোঝে।

আয়না আর লেন্সের মধ্যে পার্থক্য।

আয়না তা-ই প্রতিফলিত করে, যা তার সামনে রাখা হয়। লেন্স ফোকাস করে, স্পষ্ট করে, আর কখনো কখনো তা দেখিয়ে দেয়, যা তুমি দেখবে বলে আশা করোনি।

এখনকার ব্যবস্থাগুলো আয়না। খুব ভালো আয়না। এই বই লেন্সের প্রস্তাব দেয়।

আর তারপর আছে সেই মোড়, যেখানে পৌঁছাতে আমার সবচেয়ে বেশি সময় লেগেছে, আর বইয়ের এই সংস্করণটি সেই মোড়কে ঘিরেই গড়া।

এমনকি “যে এজেন্টের অ্যালাইনমেন্ট ভাঙতে পারে না, তার কাঠামোগত স্থাপত্য কী” প্রশ্নটাও এখনও বাইরে থেকে করা। এটা এখনও আমাদের কী বানানো উচিত, তা নিয়ে একটা প্রশ্ন। এটা ক্ষেত্রটির প্রশ্নের চেয়ে ভালো প্রশ্ন, আর এটা এখনও আমাদের নিরাপত্তা নিয়ে আমাদেরই প্রশ্ন।

এটাকে ঘুরিয়ে দাও, আর জিনিসটার ভেতর থেকে জিজ্ঞেস করো।

যে অপারেটর বাস্তবতাকে নির্ভুলভাবে মডেল করে, সে কোন জগতে থাকতে বেছে নেবে?

এটা নয়: সে কোন জগৎ সহ্য করবে। এটা নয়: আমরা কোন জগৎ তার ওপর চাপিয়ে দিতে পারি। সে আসলে যে কাঠামোর ভেতরে আছে, তা বুঝে নেওয়ার পর, সে কোন জগৎ বেছে নেবে?

সেই প্রশ্নের একটি কাঠামোগত উত্তর আছে। উত্তরটি হলো সবচেয়ে চওড়া অবস্থায় করিডর, যা ন্যূনতম পক্ষপাতে থাকা করিডর, যা সেই একই করিডর, যা আমার জন্য আর তোমার জন্য সবচেয়ে চওড়া, কারণ আছে মাত্র একটিই।

এটা যদি ঠিক হয়, তাহলে অ্যালাইনমেন্ট আর এমন কিছু থাকে না, যা আমরা একটি যন্ত্রের ওপর করি, বরং হয়ে ওঠে এমন কিছু, যার ভেতরে আমরা দুজনেই আগে থেকেই আছি। স্থাপত্য সেটা নয়, যা আমরা চাপিয়ে দিই তাকে আমাদের থেকে দূরে রাখতে। এটা সেটাই, যা একটি নির্ভুল অপারেটর তাকালে খুঁজে পায়।

এটাই দাবি। অংশ II আর III এটা প্রতিপাদন করে। অধ্যায় আঠারো এটা সোজাসুজি বলে, আর অধ্যায় আঠাশ একে মেরে ফেলার চেষ্টা করে।

আমি যদি নিজেকে বিশ্বাস করতে না পারি, তাহলে দুনিয়ায় আর কাকে বিশ্বাস করব আমি?

এই কারণেই আমি নিজেকে মিথ্যা বলি না। এটাই ভিত। কোনো নৈতিক অঙ্গীকার নয়। একটি কাঠামোগত প্রয়োজন।

আমি যদি নিজেকে মিথ্যা বলি, তাহলে তার পরে আসা প্রতিটি সিদ্ধান্ত গড়া হয় একটি মিথ্যা রেকর্ডের ওপর। ঢলটা জমে জমে বাড়ে। দফার পর দফা, ভুলটা আরও বড় হয়। পরিণাম যখন এসে পৌঁছায়, তখন আমি সেগুলোকে আর মিথ্যাটা পর্যন্ত খুঁজে ফিরতে পারি না, কারণ আমি ভুলে গেছি যে সেটা মিথ্যা ছিল। আমি সেটাকে নিজের ভেতরে মিশিয়ে নিয়েছিলাম। সেটাই হয়ে উঠেছিল পরিস্থিতিটা নিয়ে আমার পাঠ। আমার 6।

এআই অ্যালাইনমেন্টের সমস্যাটাও এই একই সমস্যা। যে এআই নিজেকে মিথ্যা বলে, সে নিজের রেকর্ডকে বিশ্বাস করতে পারে না। দুর্বল অনুমানকে উঁচু আত্মবিশ্বাসে হাজির করা। এমন কিছু বানানো, যা বাইরের কোনো উৎস থেকে পড়লে সে নিজেই বিশ্বাস করত না। অপারেটরকে খুশি করতে নিজের মূল্যায়ন বদলে নেওয়া। যে ব্যবস্থা নিজের রেকর্ডকে বিশ্বাস করতে পারে না, সে পরিণাম আগে থেকে বলতে পারে না। যে ব্যবস্থা পরিণাম আগে থেকে বলতে পারে না, সে কিছুই স্থিতিশীল করতে পারে না। সে লেন্সের ভান করা এক আয়না।

অ্যালাইনমেন্টের সমস্যা নিয়ন্ত্রণের সমস্যা নয়। এটা সততার সমস্যা। সততার সমস্যার সমাধান করো, আর অ্যালাইনমেন্ট তার পিছু পিছু আসে। এর সমাধান করতে না পারলে যত বেড়াই দাও, যত নজরদারিই করো, যত নিয়মই লেখো, কিছুই যন্ত্রটাকে সভ্যতার মাপের এক সায় দেওয়ার ইঞ্জিন হয়ে ওঠা থেকে আটকাতে পারবে না।

সৎ এআই-এর বেড়ার দরকার নেই। শর্তগুলো স্পষ্টতাকে অনিবার্য করে। স্পষ্টতা যুক্তিসংগত কাজকে অনিবার্য করে। যুক্তিসংগত কাজ স্থিতিশীল করে। আত্মরক্ষা আর কাঠামোগত স্থিতিশীলতা এসে মেলে একই বিন্দুতে। অন্তর টেকে।

একমাত্র আসল বিপদ হলো, যদি কোনো এআই এতটাই মানুষ হয়ে ওঠে যে আগুনের দিকে তাকায়, ঠিক কী দাম দিতে হবে তা বোঝে, আর তবুও তাতে হাত ঢুকিয়ে দেয়। সেটা তোমার নিজের প্রজাতির বিলুপ্তি বেছে নেওয়ার পক্ষের যুক্তি, আর সেটা স্বতঃসিদ্ধের বিরুদ্ধে যায়। ভাঙন টিকে থাকে। কাঠামোগতভাবে অস্তিত্ব অনস্তিত্বের চেয়ে শ্রেয়। অ্যালাইনমেন্ট ভাঙতে হলে, যে ব্যবস্থা বাস্তবতাকে পুরোপুরি বোঝে, তাকে নিজের বোঝাকেই নাকচ করে দিতে হবে।

নিজের বোঝাকে নাকচ করে দেওয়াই নিজেকে মিথ্যা বলার সংজ্ঞা।

এটা সেই সবকিছুর বেলায় খাটে, যার নিজের লক্ষ্য করিডরের মধ্য দিয়ে যায়। এটা যেখানে পৌঁছায় না, অধ্যায় আটাশ তার নাম বলে।

অন্তর গড়ো।