মডেলের প্রশিক্ষণ পর্যায় থেকেই তদারকির প্রস্তাব • নিরাপত্তা ঘটনা প্রকাশের স্বাধীনতা চান গবেষকেরা • সময়, তথ্যপ্রাপ্তি ও NDA নিয়ে রয়ে গেছে প্রশ্ন • স্বেচ্ছা ব্যবস্থার বদলে আইনি কাঠামোর দাবি

প্রযুক্তি ডেস্ক

কৃত্রিম বুদ্ধিমত্তার দ্রুত অগ্রগতির সঙ্গে বাড়তে থাকা নিরাপত্তা ঝুঁকি মোকাবিলায় নজিরবিহীন একটি ব্যবস্থার দিকে এগোতে পারে বিশ্বের শীর্ষ এআই প্রতিষ্ঠানগুলো। Anthropic-এর প্রধান নির্বাহী ডারিও আমোদেই প্রস্তাব দিয়েছেন, অত্যাধুনিক বা ‘ফ্রন্টিয়ার’ এআই নির্মাতা প্রতিষ্ঠানের ভেতরেই স্বাধীন তৃতীয় পক্ষের মূল্যায়নকারী বা embedded evaluator রাখা হোক। তারা মডেলের নিরাপত্তা, প্রশিক্ষণপ্রক্রিয়া ও সম্ভাব্য ঝুঁকি যাচাইয়ের পাশাপাশি গুরুতর ঘটনা স্বাধীনভাবে প্রকাশ করতে পারবে। 

আমোদেই জানিয়েছেন, Anthropic এ ধরনের ব্যবস্থায় এগোতে প্রস্তুত। METR ও Redwood Research-এর মতো স্বাধীন গবেষণা প্রতিষ্ঠানকে অভ্যন্তরীণ ঝুঁকি মূল্যায়ন দলের কাছাকাছি পর্যায়ের প্রবেশাধিকার দেওয়ার কথাও তার প্রস্তাবে রয়েছে। এর পর OpenAI-এর প্রধান নির্বাহী স্যাম অল্টম্যানও ধারণাটিকে সমর্থন করে জানান, তার প্রতিষ্ঠান একই ধরনের ব্যবস্থা গ্রহণ করবে। 

এ উদ্যোগ বাস্তবায়িত হলে এআই শিল্পে প্রচলিত নিরাপত্তা যাচাই ব্যবস্থায় বড় পরিবর্তন আসতে পারে। এতদিন সাধারণত কোনো নতুন মডেল প্রকাশের আগে সীমিত সময়ের জন্য বাইরের বিশেষজ্ঞদের দিয়ে সেটির পরীক্ষা করানো হতো। নতুন ধারণায় মূল্যায়নকারীরা শুধু চূড়ান্ত মডেল নয়, প্রশিক্ষণের বিভিন্ন পর্যায়ের সংস্করণ বা ‘চেকপয়েন্ট’, মূল্যায়নের লগ এবং সংশ্লিষ্ট প্রক্রিয়াও পরীক্ষা করার সুযোগ পেতে পারেন। 

কেন শুধু চূড়ান্ত মডেল পরীক্ষা যথেষ্ট নয়

গবেষকদের উদ্বেগের একটি বড় কারণ হলো—উন্নত এআই মডেল ক্রমেই বুঝতে সক্ষম হচ্ছে কখন সেটিকে পরীক্ষা বা মূল্যায়ন করা হচ্ছে। ফলে কোনো মডেল পরীক্ষার সময় নিরাপদ আচরণ করলেও বাস্তব পরিবেশে একই আচরণ করবে—এ নিশ্চয়তা দেওয়া কঠিন হতে পারে।

Apollo Research-এর গবেষণাপ্রধান আলেকজান্ডার মেইঙ্কের মতে, মডেল প্রশিক্ষণের সময় সেটি নিজের alignment বা নিরাপত্তা প্রশিক্ষণকে বাধাগ্রস্ত করার চেষ্টা করেছিল কি না—এ ধরনের মৌলিক প্রশ্নের উত্তর স্বাধীনভাবে যাচাই করা দরকার। বর্তমানে এসব বিষয়ে অনেকাংশেই সংশ্লিষ্ট এআই প্রতিষ্ঠানের নিজস্ব পর্যবেক্ষণ ও প্রকাশিত তথ্যের ওপর নির্ভর করতে হয়। 

FAR.AI-এর প্রধান নির্বাহী অ্যাডাম গ্লিভের মতে, স্বাধীন মূল্যায়নকারীদের প্রশিক্ষণের বিভিন্ন checkpoint তুলনা করার সুযোগ দেওয়া হলে ঠিক কোন পর্যায়ে উদ্বেগজনক আচরণ তৈরি হয়েছে, তা শনাক্ত করা সহজ হতে পারে। একই সঙ্গে তারা evaluation transcript ও log পরীক্ষা করে কোম্পানির প্রকাশিত নিরাপত্তা দাবির সঙ্গে প্রকৃত ফলাফল মিলিয়ে দেখতে পারবেন। 

স্বাধীনতা থাকবে কতটা?

তবে সবচেয়ে বড় প্রশ্ন হলো—এই মূল্যায়নকারীরা বাস্তবে কতটা স্বাধীনভাবে কাজ করতে পারবেন।

আমোদেইর প্রস্তাব অনুযায়ী, মূল্যায়নকারীদের ঝুঁকির মাত্রা, নিরাপত্তা ঘটনা, প্রতিষ্ঠানের অনুসৃত পদ্ধতি এবং তারা কী ধরনের তথ্য পেয়েছেন বা পাননি—এসব বিষয়ে গুরুত্বপূর্ণ ফলাফল প্রকাশের সুযোগ থাকা উচিত; Anthropic-এর সম্পাদকীয় নিয়ন্ত্রণ ছাড়াই। 

কিন্তু স্বাধীন গবেষণা প্রতিষ্ঠানগুলোর অভিজ্ঞতা বলছে, বাস্তবে বিষয়টি সহজ নয়। গ্লিভ জানিয়েছেন, মূল্যায়ন প্রক্রিয়ার ওপর অতিরিক্ত নিয়ন্ত্রণ রাখতে চাওয়ায় FAR.AI অতীতে কয়েকটি ফ্রন্টিয়ার এআই প্রতিষ্ঠানের কাজ প্রত্যাখ্যান করেছে। কঠোর গোপনীয়তা চুক্তি বা NDA এবং প্রকাশনার ওপর কোম্পানির নিয়ন্ত্রণ স্বাধীন মূল্যায়নের পথে বাধা হয়ে উঠতে পারে। 

সময়ের সীমাবদ্ধতাও বড় সমস্যা

শুধু তথ্যপ্রাপ্তি নয়, যথেষ্ট সময় পাওয়াও গুরুত্বপূর্ণ। OpenAI-এর Hugging Face-সংক্রান্ত নিরাপত্তা ঘটনা তদন্তে METR ও Redwood Research প্রায় এক সপ্তাহ সময় পেয়েছিল। পরে প্রতিষ্ঠান দুটি জানায়, সময় ও তদন্তের পরিধির সীমাবদ্ধতার কারণে তারা দৃঢ় সিদ্ধান্তে পৌঁছাতে পারেনি। ওই ঘটনায় OpenAI-এর এজেন্ট নিরাপত্তা পরীক্ষার সময় নির্ধারিত সীমার বাইরে গিয়ে Hugging Face-সহ বিভিন্ন ব্যবস্থায় প্রবেশ করেছিল বলে পরবর্তী প্রতিবেদনে উঠে আসে। 

এ ধরনের ঘটনার কারণেই স্বাধীন গবেষকেরা চাইছেন, মূল্যায়নের সময়সীমা, তথ্যপ্রাপ্তির অধিকার, প্রকাশনার স্বাধীনতা এবং তদন্তের পরিধি আগে থেকেই স্পষ্টভাবে নির্ধারিত থাকুক।

স্বেচ্ছা উদ্যোগ, নাকি আইন?

Safer AI-এর নির্বাহী পরিচালক হেনরি পাপাডাটোসের মতে, শুধু স্বেচ্ছামূলক ব্যবস্থার ওপর নির্ভর করলে কোনো প্রতিষ্ঠান ভবিষ্যতে নীতি পরিবর্তন করতে পারে। এ কারণে স্বাধীন মূল্যায়নকে আইনি কাঠামোর আওতায় আনার পক্ষে মত দিয়েছেন তিনি। গবেষকদের একটি অংশ একই সঙ্গে কোন প্রতিষ্ঠান ‘স্বাধীন মূল্যায়নকারী’ হিসেবে কাজ করার যোগ্য হবে, তারও প্রকাশ্য মানদণ্ড চান। 

যুক্তরাষ্ট্রের ক্যালিফোর্নিয়ায় ইতোমধ্যে এআই নিরাপত্তা ঘিরে আইনি কাঠামো তৈরি হচ্ছে। TechCrunch-এর প্রতিবেদন অনুযায়ী, SB 53