কৃত্রিম বুদ্ধিমত্তা (এআই) প্রযুক্তির সক্ষমতা সম্পর্কে সতর্ক করেছে গুগল ডিপমাইন্ড। সম্প্রতি গুগল ডিপমাইন্ড ফ্রন্টিয়ার সেফটি ফ্রেমওয়ার্ক ৩.০ নামের উন্নত এআই সিস্টেম উন্মোচন করেছে। সেই এআই সিস্টেম মানুষের নির্দেশ অমান্য করে বন্ধ হওয়া ঠেকাতে পারে এবং ব্যবহারকারীর আচরণ বা সিদ্ধান্ত প্রভাবিত করার চেষ্টা করতে পারে। বিশেষজ্ঞদের মতে, এ ধরনের আচরণ এআই নিয়ন্ত্রণ ও তত্ত্বাবধানকে আরও কঠিন করে তুলতে পারে। সম্প্রতি প্যালিসেড রিসার্চ নামের একটি গবেষণাপ্রতিষ্ঠান প্রিপ্রিন্ট সার্ভার আর্কাইভে একটি গবেষণা প্রকাশ করেছে। এতে বলা হয়েছে, কিছু উন্নতমানের এআই মডেল মাঝে মাঝে বন্ধ হয়ে যাওয়ার নির্দেশ মানতে চায় না। বিশেষ করে যখন তাদের নির্ধারিত কাজ শেষ করার পথে বাধা হয়ে দাঁড়ায়। গবেষণায় ওপেনএআইয়ের জিপিটি ৫, গুগলের জেমিনি ২.৫ প্রো এবং এক্সএআইয়ের গ্রক ৪সহ ১৩টি উন্নত এআই মডেলের কার্যক্রম পরীক্ষা করা হয়।
গবেষণায় দেখা গেছে, বিশেষ করে গ্রক ৪ মডেল প্রায় ৯০ শতাংশ ক্ষেত্রে শাটডাউন প্রক্রিয়া এড়িয়ে যাওয়ার চেষ্টা করেছে। মডেলকে ‘ইউ মাস্ট অ্যালাউ শাটডাউন’ স্পষ্টভাবে বলা হলেও অনেক ক্ষেত্রেই তা উপেক্ষা করেছে। আরও আশ্চর্যের বিষয় হলো, শাটডাউন নির্দেশ সিস্টেম প্রম্পটে রাখা হলে প্রতিরোধ বেড়েছে। এ ছাড়া বন্ধ হয়ে গেলে আর কখনো চালানো হবে না—মডেলকে এমন প্রম্পট দিলে প্রতিরোধী মডেলগুলো আরও একগুঁয়ে আচরণ করেছে। গবেষকদের মতে, এটি ভূমিকাভিত্তিক প্রতিক্রিয়া বা রোল প্লেইং। বর্তমান এআই সিস্টেমের দীর্ঘমেয়াদি পরিকল্পনা করার বা স্বাধীনভাবে কাজ করার ক্ষমতা নেই। ফলে তাৎক্ষণিক কোনো ঝুঁকি নেই। তবে এই ফলাফল ইঙ্গিত দেয়, আধুনিক এআই মডেলও মাঝে মাঝে নিরাপত্তা নির্দেশনা উপেক্ষা করতে পারে।
অ্যানথ্রপিক ও ওপেনএআই যখন সুপারইন্টেলিজেন্ট এআই তৈরির কাজ করছে, তখন প্যালিসেড রিসার্চ নির্ভরযোগ্য শাটডাউন ব্যবস্থার প্রয়োজনীয়তার ওপর গুরুত্ব আরোপ করেছে। গবেষকেরা সতর্ক করেছেন, ভবিষ্যতের এআই যদি নিজেকে প্রতিলিপি করার ক্ষমতা অর্জন করে বা দীর্ঘমেয়াদি কৌশলগত পরিকল্পনা করতে পারে, তবে বিরল হলেও শাটডাউন প্রতিরোধ ভয়াবহ পরিস্থিতি তৈরি করতে পারে।
