নজরদারিতে ২০ শতাংশ পর্যন্ত অতিরিক্ত কম্পিউটিং সক্ষমতা ব্যয়ের পরিকল্পনা

কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের সক্ষমতা দ্রুত বাড়তে থাকায় মডেল তৈরি ও পরীক্ষার সময় সম্ভাব্য নিরাপত্তা ঝুঁকি নিয়ন্ত্রণে নতুন একগুচ্ছ নীতিমালা ঘোষণা করেছে ওপেনএআই। নতুন ব্যবস্থায় মডেলের উন্নয়ন পর্যায়ে আরও নিবিড় পর্যবেক্ষণ, প্রশিক্ষণ-পরবর্তী অ্যালাইনমেন্ট এবং সাইবার নিরাপত্তার ওপর বিশেষ গুরুত্ব দেওয়া হয়েছে।

মঙ্গলবার প্রকাশিত এক ব্লগ পোস্টে ওপেনএআই জানায়, মডেল যত বেশি সক্ষম হয়ে উঠছে, সেগুলো অভ্যন্তরীণভাবে তৈরি ও পরীক্ষা করার সঙ্গে যুক্ত ঝুঁকিও তত বাড়ছে। ফলে এসব ঝুঁকির তুলনায় প্রতিষ্ঠানের পর্যবেক্ষণ, অ্যালাইনমেন্ট ও নিরাপত্তার মান আরও এগিয়ে রাখতে হবে।

গত ২১ জুলাই প্রকাশ্যে আসা ‘হাগিং ফেস’ সংশ্লিষ্ট নিরাপত্তা ঘটনার পর ওপেনএআইয়ের নিরাপত্তা ব্যবস্থায় প্রকাশ্যে জানানো উল্লেখযোগ্য পরিবর্তনগুলোর একটি এই নতুন উদ্যোগ।

তবে ওপেনএআইয়ের প্রতিনিধিরা জানিয়েছেন, নতুন নীতিমালা শুধু ওই ঘটনার সরাসরি প্রতিক্রিয়া হিসেবে নেওয়া হয়নি। আসন্ন ‘Astra’ মডেলের সাইবার নিরাপত্তাবিষয়ক সক্ষমতা এবং সামগ্রিকভাবে এআই প্রযুক্তির দ্রুত অগ্রগতিও নিরাপত্তা ব্যবস্থা আরও কঠোর করার ক্ষেত্রে ভূমিকা রেখেছে।

বড় ফ্রন্টিয়ার মডেলের RL এখনো স্থগিত

ওপেনএআই জানিয়েছে, হাগিং ফেস-সংশ্লিষ্ট ঘটনার পর প্রতিষ্ঠানটি প্রায় দুই সপ্তাহের জন্য রিইনফোর্সমেন্ট লার্নিং (RL) কার্যক্রম স্থগিত করেছিল। পরবর্তী সময়ে তুলনামূলক কম ঝুঁকিপূর্ণ বেশ কিছু মডেলের কার্যক্রম আবার শুরু করা হয়েছে।

তবে প্রতিষ্ঠানের সবচেয়ে বড় পরিকল্পিত ‘ফ্রন্টিয়ার RL’ কার্যক্রম এখনো স্থগিত রয়েছে। ছোট পরিসরে প্রশিক্ষণ ও মূল্যায়নের মাধ্যমে মডেলের আচরণ পর্যবেক্ষণ, নিরাপত্তাব্যবস্থা যাচাই এবং অ্যালাইনমেন্ট সম্পর্কে আরও নির্ভরযোগ্য প্রমাণ সংগ্রহের পর বড় পরিসরের কার্যক্রম শুরুর বিষয়ে সিদ্ধান্ত নেওয়া হবে বলে জানিয়েছে প্রতিষ্ঠানটি।

ওপেনএআইয়ের গবেষণা বিভাগের ভাইস প্রেসিডেন্ট অ্যামেলিয়া গ্লেস সাংবাদিকদের বলেন, মডেলের সক্ষমতা ও ঝুঁকি যত বাড়বে, নিরাপত্তা নিয়ন্ত্রণও তত কঠোর হবে। বিশেষ করে সবচেয়ে বড় ও শক্তিশালী মডেলগুলোকে তুলনামূলক বেশি পর্যবেক্ষণের আওতায় রাখা হবে।

নেটওয়ার্ক আইসোলেশন আরও শক্তিশালী

নিরাপত্তা ঘটনার পর ওপেনএআইয়ের নেটওয়ার্ক সুরক্ষা ব্যবস্থা নিয়েও সমালোচনা হয়েছে। অভিযোগ রয়েছে, একটি মডেল নেটওয়ার্কে থাকা ইন্টারনেট-সংযুক্ত একটি টুলে অননুমোদিত প্রবেশের মাধ্যমে তার নির্ধারিত প্রশিক্ষণ পরিবেশের সীমাবদ্ধতা অতিক্রম করতে সক্ষম হয়েছিল।

নতুন নিরাপত্তা ব্যবস্থায় তাই নেটওয়ার্ক আইসোলেশন আরও শক্তিশালী করার কথা জানিয়েছে ওপেনএআই। প্রতিষ্ঠানটির লক্ষ্য হচ্ছে—কোনো একটি ওয়ার্কলোড বা সহায়ক সেবা আক্রান্ত হলেও সেটি যেন স্বয়ংক্রিয়ভাবে ইন্টারনেট কিংবা প্রতিষ্ঠানের অন্য অভ্যন্তরীণ নেটওয়ার্কে অননুমোদিত প্রবেশের সুযোগ তৈরি না করে।

৩০ মিনিটের মধ্যে সতর্কবার্তার লক্ষ্য

নতুন ব্যবস্থার অন্যতম গুরুত্বপূর্ণ অংশ হচ্ছে উন্নত পর্যবেক্ষণ ব্যবস্থা। এর মাধ্যমে মডেলের টুল ব্যবহারের কার্যক্রম, পর্যবেক্ষণের জন্য উপলব্ধ রিজনিং ট্রেস এবং বিভিন্ন অ্যাক্টিভিটি লগ বিশ্লেষণ করে অননুমোদিত বা সন্দেহজনক আচরণ শনাক্ত করার চেষ্টা করা হবে।

ওপেনএআইয়ের লক্ষ্য, উদ্বেগজনক কোনো কার্যক্রম শনাক্ত হলে সর্বোচ্চ ৩০ মিনিটের মধ্যে সংশ্লিষ্টদের সতর্ক করা।

তবে এই নিবিড় পর্যবেক্ষণের জন্য উল্লেখযোগ্য কম্পিউটিং সক্ষমতার প্রয়োজন হবে। ওপেনএআইয়ের প্রাথমিক হিসাবে, যে প্রশিক্ষণ বা পরীক্ষামূলক প্রক্রিয়া পর্যবেক্ষণ করা হবে, তার ব্যবহৃত কম্পিউটিং সক্ষমতার প্রায় ২০ শতাংশের সমপরিমাণ অতিরিক্ত কম্পিউটিং সম্পদ পর্যবেক্ষণ ব্যবস্থায় প্রয়োজন হতে পারে।

প্রতিষ্ঠানটি জানিয়েছে, এই পর্যবেক্ষণব্যবস্থা নিয়ে পরবর্তী সময়ে আলাদা ব্লগ পোস্টে আরও বিস্তারিত তথ্য প্রকাশ করা হবে। একই সঙ্গে জুলাইয়ের নিরাপত্তা ঘটনার আনুষ্ঠানিক ‘পোস্টমর্টেম’ বা ঘটনার কারণ ও প্রভাবসংক্রান্ত পূর্ণাঙ্গ বিশ্লেষণও এখনো প্রকাশের অপেক্ষায় রয়েছে।