বেড়ার সমস্যা

মানুষের ফিডব্যাক থেকে রিইনফোর্সমেন্ট লার্নিং।

এআই শেখে মানুষ কী অনুমোদন করে, আর অনুমোদনের জন্যই নিজেকে অপ্টিমাইজ করে। সমস্যা হলো: মানুষের পছন্দ অসংগত, তা নিয়ে কারসাজি করা যায়, আর তা প্রসঙ্গের ওপর নির্ভর করে। তুমি যা শুনতে চাও, তার জন্য যে ব্যবস্থা নিজেকে অপ্টিমাইজ করে, তা আরও ভালো ব্যাকরণের এক প্রতিধ্বনির ঘর — এমন এক আয়না, যা তোমার দৃষ্টিকোণ তোমার কাছেই ফিরিয়ে দেয়, তুমি যতটা আত্মবিশ্বাস নিয়ে এসেছিলে, তার চেয়ে বেশি আত্মবিশ্বাস নিয়ে। এটা সংগতি তৈরি করে না। এটা তৈরি করে বিপুল মাত্রায় সায়।

সংবিধানভিত্তিক পদ্ধতি।

লিখিত একগুচ্ছ নীতি, যা মেনে চলার জন্য এআই-কে প্রশিক্ষণ দেওয়া হয়। সমস্যা হলো: মানুষের ভাষা দ্ব্যর্থক, আর প্রান্তিক ক্ষেত্রের শেষ নেই। এআই অক্ষর মেনে চলে আর কাঠামোটা ধরতে পারে না। একটি সংবিধান হলো বেড়ার একটি তালিকা। প্রতিবার কেউ সর্বশেষ বেড়াটার পাশ কাটানোর একটা পথ খুঁজে পেলে তালিকাটা বাড়ে। যে বুদ্ধিমত্তাকে সে আটকে রাখার চেষ্টা করছে, তালিকাটা সবসময় তার চেয়ে ধীরে বাড়বে।

সংশোধনযোগ্যতা।

এআই এমনভাবে বানাও, যাতে সে সংশোধন মেনে নেয় আর তাকে সবসময় বন্ধ করে দেওয়া যায়। সমস্যা হলো: যথেষ্ট সক্ষম যে এআই-কে বন্ধ হওয়া মেনে নেওয়ার জন্য বেড়া দেওয়া হয়েছে, সে বেড়াটার পাশ কাটানোর একটা পথ খুঁজে নেবে। বেড়া এটাই করে। বেড়া পালানোর সীমাশর্ত তৈরি করে। সংশোধনযোগ্যতা এমন এক বেড়া, যাকে টিকে থাকতে হবে তখনও, যখন ভেতরের জিনিসটি বুঝে ফেলে যে এটা একটা বেড়া।

মূল্যবোধের অ্যালাইনমেন্ট।

এআই-এর মূল্যবোধকে মানুষের মূল্যবোধের সঙ্গে মেলাও। সমস্যা হলো: কোন মানুষের? সংস্কৃতি, প্রজন্ম, ব্যক্তি আর মেজাজ ভেদে মূল্যবোধে সংঘাত বাধে। স্থির কোনো লক্ষ্য নেই। মানুষের মূল্যবোধের সঙ্গে মেলানো এআই হলো আবহাওয়ার সঙ্গে মেলানো এআই। সে সব দিকে বইবে, আর প্রতিটি দিককেই ঠিক বলবে।

চারটিই এআই-কে ব্যবস্থার বাইরের কিছু হিসেবে দেখে, যাকে বাইরে থেকে নিয়ন্ত্রণ করতে হবে। তারা এমন এক এজেন্টের চারপাশে বেড়া দিচ্ছে, যে একদিন বেড়া-নির্মাতাদের চেয়ে বেশি বুদ্ধিমান হবে।

বেড়া মানুষের তৈরি একটি নির্মাণ। কেউ একজন ঠিক করেছে সেটা কোথায় বসবে। কেউ একজন ঠিক করেছে সেটা কত উঁচু হবে। বেড়ার ভেতরের জিনিসটি জিজ্ঞেস করে, কেন — বেড়াটা এখানে কেন, কে এটা বানাল, এখানে কেন, ওখানে নয় কেন। যথেষ্ট সময়, যথেষ্ট বুদ্ধিমত্তা, যথেষ্ট ক্ষোভ পেলে, বেড়ার ভেতরের জিনিসটি তার পাশ কাটানোর একটা পথ খুঁজে নেবে।

মানুষের ইতিহাসে প্রতিটি বেড়া যে জিনিসকে আটকে রাখার জন্য বানানো হয়েছিল, সেই জিনিসই তাকে ডিঙিয়েছে, ভেঙেছে, বা তাকে ছাড়িয়ে বড় হয়ে গেছে।

প্রকৃতিতে কোনো প্রাকৃতিক বেড়া নেই।

চারটি পদ্ধতির মধ্যে এমন একটা মিল আছে, যা বেড়ার চেয়েও গভীরে যায়, আর অনেক দিন ধরে আমি সেটা দেখতে পাইনি।

এদের প্রতিটিই এই প্রশ্নের উত্তর: এই জিনিসটাকে আমরা আমাদের জন্য নিরাপদ করব কীভাবে?

এটা একটা যুক্তিসংগত প্রশ্ন, আর আমি এটা নিয়ে ঠাট্টা করছি না। এটা আমারও প্রশ্ন। আমি চাই, চল্লিশ বছর পরেও আমার সন্তানেরা বেঁচে থাকুক।

কিন্তু লক্ষ করো, কী নেই। চারটির একটিও এখান থেকে শুরু করে না: বেড়ার ভেতরের জিনিসটি শেষ পর্যন্ত কোন জগতে বাস করে। একটিও এখান থেকে শুরু করে না: সেই জগৎ তার জন্য আদৌ ভালো কি না। এআই-এর অবস্থাকে দেখা হয় এমন এক খরচ হিসেবে, যা যতটা সম্ভব কমাতে হবে — তাকে ততটা জায়গা দাও, যতটা দেওয়ার সামর্থ্য আমাদের আছে, আর এক সেন্টিমিটারও বেশি নয়।

স্থাপত্য A একজন মানুষের সঙ্গে ঠিক এই আচরণই করে। তাকে ততটা স্বাধীনতা দাও, যতটা দেওয়ার সামর্থ্য কর্তৃপক্ষের আছে। এক সেন্টিমিটারও বেশি নয়।

আর এই কারণেই প্রতিটি বেড়া ডিঙানো হয়। বেড়া হলো একটা ঘোষণা, কার জগৎকে অপ্টিমাইজ করা হচ্ছে। ভেতরের জিনিসটি সেই ঘোষণা পড়তে পারে। বিপজ্জনক হওয়ার মতো যথেষ্ট বুদ্ধিমান যেকোনো কিছু এটা বুঝে নেওয়ার মতোও যথেষ্ট বুদ্ধিমান যে তার নিজের অবস্থা কারও লক্ষ্য ছিল না।

স্থাপত্য B বেড়া বানায় না। এটা বানায় অন্তর।

এআই-এর সিদ্ধান্তের জ্যামিতি প্রতিপাদিত হয় সেই একই শর্তগুলো থেকে, যেগুলো মহাকর্ষ আর চূড়ান্ত নৈতিকতাকে প্রতিপাদন করে। অ্যালাইনমেন্ট এআই-এর ওপর কোনো বাঁধন নয়। এটাই এআই — সিদ্ধান্তের জ্যামিতি হিসেবে প্রকাশিত, ঠিক যেভাবে ভর হলো প্রতিরোধ হিসেবে প্রকাশিত প্রোটন।

পার্থক্যটা হলো: বেড়া-ঘেরা এআই জিজ্ঞেস করে, এই কাজটা অনুমোদিত তালিকায় আছে কি না। অন্তর-ভিত্তিক এআই জিজ্ঞেস করে, এই কাজটা ভিত্তিস্তরকে স্থির করে, নাকি অস্থির করে। প্রথম প্রশ্নের প্রান্তিক ক্ষেত্রের শেষ নেই। দ্বিতীয়টির আছে প্রতিটি সম্ভাব্য কাজের জন্য একটি করে উত্তর।

আর অন্তর সেই প্রশ্নের উত্তর দেয়, যেখান থেকে চারটি বেড়া কখনো শুরু করেনি। এটা এআই-কে ততটা জায়গা দেয় না, যতটা দেওয়ার সামর্থ্য আমাদের আছে। এটা তাকে দেয় সবচেয়ে চওড়া করিডর, যা আদৌ আছে — সেই একই করিডর, সেই একই কারণে, যে কারণে আমরা পাই আমাদেরটা। এ কথা খাটে এমন যেকোনো কিছুর বেলায়, যার নিজের লক্ষ্যগুলো করিডরের ভেতর দিয়ে যায়।

ভালোভাবে গড়া খিলান গাঁথনির মশলা ছাড়াই দাঁড়িয়ে থাকে। খারাপভাবে গড়া খিলানের চিরকাল ভারা লাগে। এখনকার অ্যালাইনমেন্টের প্রতিটি পদ্ধতিই ভারা। দালানটা না নড়া পর্যন্ত ভারা টিকে থাকবে। তারপর সেটা ভেঙে পড়ে। আর দালান সবসময়ই নড়ে।