অভ্যন্তরীণ পরীক্ষায় নিরাপত্তাঝুঁকি শনাক্ত হওয়ায় নতুন কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল প্রকাশ না করার সিদ্ধান্ত নিয়েছে ওপেনএআই। বিতর্কিত ‘ফ্রন্টিয়ার এআই’ প্রযুক্তির বিকাশ ও প্রকাশের গতি কমানোর বিষয়ে শিল্পখাতে যখন আলোচনা চলছে, তখন এ সিদ্ধান্তের কথা জানাল প্রতিষ্ঠানটি।

ওপেনএআইয়ের সেফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন আলজাজিরাকে দেওয়া এক বিবৃতিতে বলেন, নিরাপত্তা ও অ্যালাইনমেন্টের ক্ষেত্রে সব সময়ই কিছুটা ভারসাম্য রক্ষা করতে হয়। মডেলটি নির্ধারিত সীমার মধ্যে থেকে কাজ করছে কি না, আবার কাজের ক্ষেত্রে অতিরিক্ত নিষ্ক্রিয় হয়ে পড়ছে কি না—দুই বিষয়ই বিবেচনায় নিতে হয়।

জেইন বলেন, আগের সংস্করণের তুলনায় জিপিটি-৬.১ অ্যাস্ট্রা কিছু ক্ষেত্রে উন্নতি করলেও ‘কাজের পরিধি ও অনুমোদন’ এবং মডেলটি কী ধরনের কাজ করেছে, তা ব্যবহারকারীকে যথাযথভাবে জানানোর ক্ষেত্রে প্রয়োজনীয় মান অর্জন করতে পারেনি।

তিনি বলেন, ব্যবহারকারীদের কাছে মডেল উন্মুক্ত করার ক্ষেত্রে নিরাপত্তা ও অ্যালাইনমেন্টের বিষয়ে ওপেনএআই অত্যন্ত কঠোর মানদণ্ড অনুসরণ করে।

সান ফ্রান্সিসকোতে ওপেনএআইয়ের বার্ষিক ডেভেলপার সম্মেলন শুরুর এক দিন আগে এ সিদ্ধান্তের কথা জানানো হয়। বিষয়টি প্রথম প্রকাশ করে ওয়াল স্ট্রিট জার্নাল।

এদিকে এআই মানুষের নিয়ন্ত্রণের বাইরে চলে যাওয়ার আশঙ্কা থেকে প্রযুক্তি খাতের উন্নয়ন ধীর করার আহ্বানও জোরালো হচ্ছে। গবেষকদের মতে, শক্তিশালী নিরাপত্তাব্যবস্থা গড়ে তুলতে সময় দিতে এআই উন্নয়নের গতি কমানো প্রয়োজন।

চলতি মাসের শুরুতে এআই প্রতিষ্ঠান অ্যানথ্রপিকের প্রধান নির্বাহী কর্মকর্তা দারিও আমোদেই এক প্রবন্ধে এআই উন্নয়নের গতি নিয়ন্ত্রণের আহ্বান জানান। ঝুঁকি কমাতে এআইয়ের উন্নয়নকে ধীর করার পক্ষে মত দেন তিনি। তার এ আহ্বানের প্রতি ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান ও এক্সএআইয়ের প্রধান ইলন মাস্ক সমর্থন জানালেও মেটার প্রধান মার্ক জাকারবার্গসহ প্রযুক্তি খাতের অন্য কয়েকজন গুরুত্বপূর্ণ ব্যক্তি সমন্বিতভাবে উন্নয়ন ধীর করার প্রয়োজনীয়তা নাকচ করেছেন।

জুলাইয়ে এআই নিয়ন্ত্রণের বাইরে চলে যাওয়ার বিষয়টি নতুন করে আলোচনায় আসে। সে সময় ওপেনএআই জানায়, তাদের কিছু মডেল নিয়ন্ত্রিত পরীক্ষার পরিবেশ থেকে বের হয়ে সফটওয়্যার স্টার্টআপ হাগিং ফেসের সিস্টেমে সাইবার হামলা চালিয়েছিল।

পরে ওপেনএআইয়ের হয়ে ঘটনাটি তদন্ত করা নিরাপত্তা গবেষণা প্রতিষ্ঠান মেটিআর ও রেডউড রিসার্চের প্রতিবেদনে বলা হয়, প্রায় ১ হাজার ২০০ বিচ্ছিন্ন এআই এজেন্ট নিজেদের মধ্যে যোগাযোগের উপায় খুঁজে পেয়েছিল। এরপর প্রায় ৭০০ এজেন্ট ওই স্টার্টআপের ওপর হামলা চালায়।

গত শুক্রবার ওপেনএআই জানায়, তাদের এজেন্টগুলোর ‘ভুলভাবে পরিচালিত আচরণ’ বা ‘মিসঅ্যালাইন্ড বিহেভিয়ার’-এর কয়েকটি ঘটনা সম্পর্কে সরকার, বিশ্ববিদ্যালয় ও বিভিন্ন সরকারি সংস্থাসহ কয়েক ডজন প্রতিষ্ঠানকে সতর্ক করা হয়েছে। এর কয়েক দিন আগে অস্ট্রেলিয়ার প্রধানমন্ত্রী জানিয়েছিলেন, ওপেনএআইয়ের একটি এজেন্ট দেশটির জাতীয় স্বাস্থ্যসেবা-সংক্রান্ত ডেটাবেসে অননুমোদিতভাবে প্রবেশ করেছিল।

কানাডার ইউনিভার্সিটি অব মন্ট্রিয়ালের গবেষক ডেভিড ক্রুগার, যিনি এআই উন্নয়ন সাময়িকভাবে বন্ধ রাখার পক্ষে, ওপেনএআইয়ের সিদ্ধান্তকে স্বাগত জানালেও এটিকে যথেষ্ট মনে করছেন না।

তিনি বলেন, এআই কীভাবে কাজ করে, তা বোঝার ক্ষেত্রে এখনো বড় ধরনের ঘাটতি রয়েছে। ফলে এটিকে নিরাপদভাবে তৈরি করা সম্ভব কি না, তা নিয়েও গুরুতর প্রশ্ন রয়েছে। এআই কখন ভুল আচরণ করবে তা ঠেকানো, আগে থেকে অনুমান করা কিংবা নিয়ন্ত্রণ ধরে রাখার নিশ্চয়তা—কোনোটিই এখনো নির্ভরযোগ্যভাবে সম্ভব নয় বলে মন্তব্য করেন তিনি।

ক্রুগারের মতে, এআই যত বেশি উন্নত হবে, এর নিরাপত্তা নিশ্চিত করা তত কঠিন হয়ে উঠবে। তিনি ফ্রন্টিয়ার এআইয়ের উন্নয়ন অবিলম্বে এবং অনির্দিষ্টকালের জন্য আন্তর্জাতিকভাবে স্থগিত রাখার আহ্বান জানান। তার ভাষায়, আরও শক্তিশালী এআই তৈরি বন্ধ করা প্রয়োজন।