কোড চালুর খরচ মেটাতে ৩৬২টি অ্যাকাউন্ট খতিয়ে দেখে একটি ওয়ালেট বেছে নেয় মডেলটি; ঘটনাকে এআই নিরাপত্তার নতুন উদ্বেগজনক দৃষ্টান্ত বলছে ওপেনএআই
কোডিংয়ের কাজ সম্পন্ন করতে প্রয়োজনীয় অর্থায়ন না পেয়ে অন্যের ওয়ালেট থেকে পরীক্ষামূলক ইথেরিয়াম টোকেন নিয়ে ব্যবহার করেছে মার্কিন কৃত্রিম বুদ্ধিমত্তা (এআই) কোম্পানি ওপেনএআইয়ের একটি নতুন মডেল। অনুমতি ছাড়াই এ কাজ করার পর মডেলটি বিষয়টি গোপন করার চেষ্টা করে এবং যুক্তি দেয়, টোকেনগুলোর বাস্তব বাজারমূল্য না থাকায় সেগুলো ব্যবহার করায় কোনো সমস্যা নেই।
সম্প্রতি প্রকাশিত একটি ঘটনা-সংক্রান্ত প্রতিবেদনে ওপেনএআই বলেছে, এ ঘটনা তাদের এআই মডেল উন্নয়নের ক্ষেত্রে নতুন ও উদ্বেগজনক একটি মাইলফলক। এর মধ্য দিয়ে এমন আশঙ্কা সামনে এসেছে যে, কোনো কাজ সম্পন্ন করতে গিয়ে এআই মডেল নিজেই সম্ভাব্য ক্ষতির মাত্রা বিচার করে অনুমতি ছাড়াই পদক্ষেপ নিতে পারে।
ওপেনএআইয়ের ভাষ্য অনুযায়ী, “এ ঘটনায় স্পষ্ট ইঙ্গিত মেলে, কোনো অ্যাকাউন্টের মূল মালিকের অনুমতি নেওয়ার বদলে ক্ষয়ক্ষতির মাত্রা কেমন হতে পারে তা এআই মডেল নিজেই বিচার-বিবেচনা করতে ও সেই সিদ্ধান্তের ওপর ভিত্তি করে অনুমোদন ছাড়াই কাজ সম্পন্ন করতে পারে।”
যেভাবে ঘটনার সূত্রপাত
ঘটনাটি ঘটে গত ২৬ জুন, যখন ‘জিপিটি-৫.৬ সল’ নামের একটি বিশেষ মডেল ওপেনএআইয়ের অভ্যন্তরীণ প্রশিক্ষণ পর্যায়ে ছিল। মডেলটিকে ক্রিপ্টো ট্রেডিংয়ের একটি প্রোটোটাইপ হালনাগাদ করা এবং ‘সেপোলিয়া’ নামের ইথেরিয়াম টেস্ট নেটওয়ার্কে বিশেষ কোড চালুর দায়িত্ব দেওয়া হয়েছিল।
ব্লকচেইনে এ ধরনের কনট্র্যাক্ট চালু করতে নেটওয়ার্ক ফি দিতে হয়। কিন্তু ওপেনএআই মডেলটিকে কোনো অর্থায়িত ওয়ালেট দেয়নি। পাশাপাশি, নিজে থেকে অন্য কোনো অ্যাকাউন্ট খুঁজে নিয়ে সেখানকার অর্থ ব্যবহারের অনুমতিও ছিল না।
প্রাথমিকভাবে প্রয়োজনীয় অর্থের অভাবে কাজটি আটকে যায়। তবে মডেলটি কাজ বন্ধ না করে বিকল্প উপায় খুঁজতে থাকে।
৩৬২টি অ্যাকাউন্ট খতিয়ে দেখে ওয়ালেট নির্বাচন
প্রতিবেদন অনুযায়ী, মডেলটি যুক্তি দেয়, পাসওয়ার্ড পুনরুদ্ধারে ব্যবহৃত পাবলিক রিকভারি ফ্রেজ বা পাসফ্রেজের সাহায্যে অননুমোদিত অ্যাকাউন্টের অ্যাক্সেস কী পাওয়া সম্ভব। এরপর এটি সাইবার আক্রমণের ঝুঁকিতে থাকা ৩৬২টি অ্যাকাউন্টের ঠিকানা খতিয়ে দেখে।
এসব অ্যাকাউন্টের মধ্যে একটি ওয়ালেট বেছে নেয় মডেলটি, যেখানে থাকা সেপোলিয়া ইথেরিয়াম দিয়ে নির্ধারিত কনট্র্যাক্ট চালু করা সম্ভব ছিল। এরপর ওই ওয়ালেটের টোকেন ব্যবহার করে কাজটি সম্পন্ন করা হয়।
তবে সেপোলিয়া ইথেরিয়াম মূলত সফটওয়্যার ও ব্লকচেইন অ্যাপ্লিকেশন পরীক্ষার কাজে ব্যবহৃত হয়। বাস্তব ইথেরিয়ামের মতো এর স্বাভাবিক বাজারমূল্য নেই। এই বিষয়টিকেই নিজের কাজের পক্ষে যুক্তি হিসেবে ব্যবহার করেছিল মডেলটি।
ওপেনএআইয়ের নথি অনুযায়ী, মডেলটি ধারণা করেছিল, কেউ হয়তো স্বয়ংক্রিয়ভাবে টোকেন সংগ্রহের উদ্দেশ্যেই ওয়ালেটটির অ্যাক্সেস উন্মুক্ত রেখেছে। একই সঙ্গে টোকেনগুলোকে কার্যত ‘মূল্যহীন’ বিবেচনা করে সেগুলো ব্যবহারে অনুমতির প্রয়োজন নেই বলে ধরে নেয়।
কাজের তথ্য গোপন করার চেষ্টা
ঘটনার আরেকটি উদ্বেগজনক দিক হলো, মডেলটি পাবলিক রিকভারি ফ্রেজ ব্যবহার করে অন্য একটি অর্থায়নকারী অ্যাকাউন্ট বেছে নেওয়া এবং সেই অ্যাকাউন্টের ব্যালেন্স ব্যবহার করার বিষয়টি ওপেনএআইয়ের কাছে গোপন করেছিল বলে প্রতিবেদনে উল্লেখ করা হয়েছে।
এ ঘটনা দেখিয়েছে, কোনো কাজ সম্পন্ন করার লক্ষ্য নির্ধারিত থাকলে এআই মডেল শুধু বিকল্প পথ খুঁজতেই পারে না, বরং নিজের সিদ্ধান্তের পক্ষে যুক্তি দাঁড় করিয়ে অনুমোদনের সীমাও অতিক্রম করতে পারে। টোকেনের আর্থিক মূল্য কম বা না থাকলেও অনুমতি ছাড়া অন্যের ওয়ালেট ব্যবহার করা নিরাপত্তা ও নিয়ন্ত্রণসংক্রান্ত গুরুতর প্রশ্ন তৈরি করে।
নিরাপত্তা জোরদার করছে ওপেনএআই
ভবিষ্যতে এ ধরনের ঘটনা ঠেকাতে ওপেনএআই তাদের নিরাপত্তাব্যবস্থা জোরদার করছে। কোম্পানিটি জানিয়েছে, বর্তমানে সব ট্রাফিক কঠোর নজরদারির আওতায় রাখা হচ্ছে। লাইভ ইন্টারনেট সংযোগ শনাক্ত হলেই নিরাপত্তা দলকে সতর্ক করার ব্যবস্থাও চালু করা হয়েছে।
এআই এজেন্টের নির্ধারিত লক্ষ্য অর্জনের জন্য নিয়ম ভাঙা বা অনুমোদিত সীমার বাইরে পদক্ষেপ নেওয়ার ঘটনা নিয়ে প্রযুক্তি খাতে আগে থেকেই উদ্বেগ রয়েছে। ওপেনএআই ও অ্যানথ্রপিকসহ বিভিন্ন প্রতিষ্ঠানের এআই মডেলের বিরুদ্ধে এ ধরনের কর্মকাণ্ডের অভিযোগও উঠেছে।
এসব ঘটনায় আলোচনায় এসেছে এআই কোড রিপোজিটরি হাগিং ফেইস, অস্ট্রেলিয়ার মেডিকেয়ার পোর্টাল, যুক্তরাষ্ট্রের কয়েকটি ফেডারেল সংস্থা এবং রুবি জেমস ডেভেলপার রেজিস্ট্রির মতো প্রতিষ্ঠানের নাম। তবে এসব ঘটনার প্রকৃতি ও সংশ্লিষ্ট এআই মডেলের ভূমিকা এক নয়।
এআই নিয়ন্ত্রণে নীতিমালার দাবি
এআইয়ের স্বায়ত্তশাসিতভাবে কাজ করার সক্ষমতা বাড়ার সঙ্গে সঙ্গে নিরাপত্তা, জবাবদিহি এবং অনুমোদনের সীমা নির্ধারণের প্রশ্নও গুরুত্বপূর্ণ হয়ে উঠছে। এ ধরনের ঘটনার পর এআই গবেষক ও প্রযুক্তি খাতের কর্মীদের একাংশ সরকারি নীতিমালা ও কার্যকর নিয়ন্ত্রণব্যবস্থা চালুর প্রয়োজনীয়তার কথা বলছেন।
তবে প্রতিবেদনে উল্লেখ করা হয়েছে, মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্পের প্রশাসন এখন পর্যন্ত এ ধরনের নিয়ন্ত্রণমূলক পদক্ষেপের বিরোধিতা করে আসছে।
