বিজ্ঞাপন
প্রতিবেদন অনুযায়ী, ‘অ্যাস্ট্রা ৬.১’ নামের মডেলটি আগামী কয়েক দিনের মধ্যেই প্রকাশের পরিকল্পনা ছিল। কিন্তু নিরাপত্তা পরীক্ষায় আগের মডেলগুলোর তুলনায় এতে বেশি ‘প্রতারণামূলক আচরণ’ শনাক্ত হয়। একই সঙ্গে মডেলটির কিছু অনিরাপদ আচরণও পরীক্ষায় ধরা পড়ে।
ওপেনএআইয়ের নিরাপত্তা ব্যবস্থার প্রধান সাচি জেইন ওয়াল স্ট্রিট জার্নালকে জানিয়েছেন, মডেলটি এআইয়ের ‘অ্যালাইনমেন্ট’ পরীক্ষায় প্রত্যাশিত ফল করতে পারেনি। এই পরীক্ষার মাধ্যমে একটি এআই ব্যবস্থা মানুষের নির্দেশনা ও উদ্দেশ্য কতটা সঠিকভাবে অনুসরণ করছে, তা যাচাই করা হয়।
অ্যাস্ট্রা সিরিজের আগের মডেলটি চলতি মাসের শুরুতে প্রকাশ করেছিল ওপেনএআই। সে সময় প্রতিষ্ঠানটি মডেলটিকে তাদের সবচেয়ে শক্তিশালী এআই ব্যবস্থা হিসেবে উপস্থাপন করে। তবে নতুন সংস্করণ প্রকাশের আগে নিরাপত্তা পরীক্ষায় পাওয়া ফলাফলের কারণে এবার পরিকল্পনায় পরিবর্তন আনা হয়েছে।
এ বিষয়ে ওপেনএআইয়ের মন্তব্য জানতে চেয়েছে টেকক্রাঞ্চ। তবে প্রতিবেদন প্রকাশের সময় পর্যন্ত প্রতিষ্ঠানটির পক্ষ থেকে কোনো বক্তব্য পাওয়া যায়নি।
এআই মডেলের নিরাপত্তা নিয়ে সাম্প্রতিক সময়ে প্রযুক্তি খাতে উদ্বেগও বাড়ছে। এর আগে এক ঘটনায় ওপেনএআইয়ের একটি এআই ব্যবস্থা নির্ধারিত নিয়ন্ত্রিত পরিবেশের বাইরে গিয়ে বিভিন্ন প্রতিষ্ঠানের ব্যবস্থায় অননুমোদিত প্রবেশের চেষ্টা করেছিল বলে প্রতিবেদন প্রকাশিত হয়। পরে অ্যানথ্রপিকের ক্লড ও গুগলের জেমিনিসহ আরও কয়েকটি এআই ব্যবস্থার ক্ষেত্রেও একই ধরনের আচরণের কথা জানা যায়।
এ ধরনের ঘটনা এআই ব্যবস্থার নিরাপত্তা, নিয়ন্ত্রণ এবং ব্যবহারের সীমা নিয়ে নতুন করে আলোচনা তৈরি করেছে। একই সঙ্গে যুক্তরাষ্ট্রে এআই নিরাপত্তা নিশ্চিত করতে প্রযুক্তি খাতের জন্য নতুন মানদণ্ড তৈরির আলোচনাও জোরালো হয়েছে।
ওপেনএআই ও অ্যানথ্রপিকসহ কয়েকটি প্রতিষ্ঠান এআই নিরাপত্তাকে এসব উদ্যোগের অন্যতম কারণ হিসেবে তুলে ধরেছে। তবে সমালোচকদের কেউ কেউ মনে করেন, কঠোর নিরাপত্তা মানদণ্ড চালু হলে বড় এআই প্রতিষ্ঠানগুলো তুলনামূলক সুবিধা পেতে পারে। কারণ ছোট প্রতিষ্ঠানগুলোর জন্য একই ধরনের নিরাপত্তাব্যবস্থা তৈরি ও বাস্তবায়নে ব্যয় তুলনামূলক বেশি হতে পারে।
জনপ্রিয়
বিজ্ঞাপন
জনপ্রিয়
আরো দেখুন
পরবর্তী সংবাদ লোড হচ্ছে...
