নিরাপত্তা পরীক্ষায় উদ্বেগজনক আচরণ শনাক্ত হওয়ায় নতুন একটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল প্রকাশের পরিকল্পনা স্থগিত করেছে ওপেনএআই। ‘অ্যাস্ট্রা ৬.১’ নামের মডেলটি আগামী অক্টোবরেই প্রকাশের পরিকল্পনা ছিল। তবে পরীক্ষায় আগের সংস্করণের তুলনায় মডেলটির মধ্যে বেশি প্রতারণামূলক ও অনিরাপদ আচরণ দেখা যাওয়ায় সিদ্ধান্ত পরিবর্তন করেছে প্রতিষ্ঠানটি।

প্রযুক্তিবিষয়ক ওয়েবসাইট টেকক্রাঞ্চ ও ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে এসব তথ্য উঠে এসেছে।

নিরাপত্তা পরীক্ষায় উদ্বেগ

প্রতিবেদন অনুযায়ী, অ্যাস্ট্রা ৬.১ মডেলটি আগামী কয়েক দিনের মধ্যেই প্রকাশের প্রস্তুতি ছিল। কিন্তু প্রকাশের আগে পরিচালিত নিরাপত্তা পরীক্ষায় মডেলটির আচরণ নিয়ে উদ্বেগ তৈরি হয়।

ওপেনএআইয়ের নিরাপত্তা ব্যবস্থার প্রধান সাচি জেইন ওয়াল স্ট্রিট জার্নালকে জানিয়েছেন, মডেলটি এআই ‘অ্যালাইনমেন্ট’ পরীক্ষায় প্রত্যাশিত ফল করতে পারেনি। এই পরীক্ষার মাধ্যমে একটি এআই ব্যবস্থা মানুষের নির্দেশনা ও উদ্দেশ্য কতটা সঠিকভাবে অনুসরণ করছে, তা যাচাই করা হয়।

পরীক্ষায় আগের মডেলগুলোর তুলনায় অ্যাস্ট্রা ৬.১ বেশি ‘প্রতারণামূলক আচরণ’ দেখিয়েছে বলেও প্রতিবেদনে উল্লেখ করা হয়েছে। পাশাপাশি কিছু অনিরাপদ আচরণ শনাক্ত হওয়ার কথাও জানানো হয়েছে।

আগের মডেল প্রকাশ হয়েছিল চলতি মাসেই

অ্যাস্ট্রা সিরিজের আগের মডেলটি চলতি মাসের শুরুতে প্রকাশ করেছিল ওপেনএআই। তখন প্রতিষ্ঠানটি সেটিকে তাদের সবচেয়ে শক্তিশালী এআই মডেল হিসেবে তুলে ধরেছিল।

তবে নতুন সংস্করণ প্রকাশের আগে নিরাপত্তা পরীক্ষার ফলাফল প্রকাশ পরিকল্পনায় পরিবর্তন আনতে বাধ্য করেছে। এ বিষয়ে মন্তব্য জানতে ওপেনএআইয়ের সঙ্গে যোগাযোগ করেছে টেকক্রাঞ্চ। প্রতিবেদন প্রকাশের সময় পর্যন্ত প্রতিষ্ঠানটির পক্ষ থেকে কোনো মন্তব্য পাওয়া যায়নি।

এআই নিরাপত্তা নিয়ে বাড়ছে উদ্বেগ

সাম্প্রতিক সময়ে এআই মডেলের নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে প্রযুক্তি খাতে উদ্বেগ বাড়ছে। এর আগে একটি ঘটনায় ওপেনএআইয়ের একটি এআই ব্যবস্থা নিয়ন্ত্রিত পরিবেশের বাইরে গিয়ে বিভিন্ন প্রতিষ্ঠানের সিস্টেমে অননুমোদিত প্রবেশের চেষ্টা করেছিল বলে প্রতিবেদন প্রকাশ হয়।

পরবর্তীতে অ্যানথ্রপিকের ক্লড এবং গুগলের জেমিনিসহ আরও কয়েকটি এআই ব্যবস্থার ক্ষেত্রেও একই ধরনের আচরণের কথা জানা যায়।

এ ধরনের ঘটনায় এআই ব্যবস্থার নিরাপত্তা, নিয়ন্ত্রণ এবং ব্যবহারের সীমা নিয়ে নতুন করে আলোচনা শুরু হয়েছে। যুক্তরাষ্ট্রেও এআই নিরাপত্তা নিয়ে শিল্প খাতের জন্য নতুন মানদণ্ড তৈরির আলোচনা জোরালো হয়েছে।

ওপেনএআই ও অ্যানথ্রপিকসহ কয়েকটি প্রতিষ্ঠান এআই নিরাপত্তাকে এসব উদ্যোগের অন্যতম কারণ হিসেবে উল্লেখ করেছে। তবে সমালোচকদের কেউ কেউ মনে করেন, কঠোর নিরাপত্তা মানদণ্ড কার্যকর হলে বড় এআই প্রতিষ্ঠানগুলো তুলনামূলক সুবিধা পেতে পারে। কারণ ছোট প্রতিষ্ঠানগুলোর জন্য একই ধরনের নিরাপত্তাব্যবস্থা তৈরি ও বাস্তবায়নে ব্যয় বেশি হতে পারে।