এআই যত শক্তিশালী হচ্ছে, ঝুঁকিও তত বাড়ছে; পারমাণবিক বিদ্যুৎকেন্দ্র বা ব্যস্ত বিমানবন্দরের মতো বহুস্তরীয় নিরাপত্তাব্যবস্থা চান ডেভিড রবিনসন
কৃত্রিম বুদ্ধিমত্তার দ্রুত অগ্রগতির সঙ্গে পাল্লা দিয়ে নিরাপত্তাব্যবস্থা শক্তিশালী না হলে ভবিষ্যতে গুরুতর বিপর্যয়ের ঝুঁকি তৈরি হতে পারে—এমন সতর্কবার্তা দিয়ে ওপেনএআই ছাড়ার ঘোষণা দিয়েছেন প্রতিষ্ঠানটির দীর্ঘদিনের নিরাপত্তা কর্মকর্তা ডেভিড রবিনসন। তাঁর অভিযোগ, অত্যন্ত সক্ষম এআই তৈরির প্রতিযোগিতার মধ্যে কোম্পানিটির অভ্যন্তরীণ নিরাপত্তা সংস্কৃতিতে মৌলিক দুর্বলতা রয়েছে।
যুক্তরাষ্ট্রের সাময়িকী দ্য আটলান্টিক-এ প্রকাশিত এক প্রবন্ধে রবিনসন বলেছেন, ওপেনএআইয়ে প্রায় সাড়ে তিন বছর কাজ করেছেন তিনি এবং প্রতিষ্ঠানটির বড় পণ্য ও মডেল উন্মোচনের সঙ্গে প্রকাশিত বিভিন্ন নিরাপত্তা প্রতিবেদন তৈরির কাজেও নেতৃত্ব দিয়েছেন। তবে শেষ পর্যন্ত তিনি প্রতিষ্ঠানটির সংস্কৃতিকে ‘ভেঙে পড়া’ বলে বর্ণনা করে সরে দাঁড়ানোর সিদ্ধান্ত নিয়েছেন।
‘আগে প্রযুক্তি ছাড়ো, সমস্যা হলে পরে ঠিক করো’—এই পদ্ধতি নিয়ে প্রশ্ন
রবিনসনের প্রধান আপত্তি ওপেনএআইয়ের বহুল আলোচিত ‘iterative deployment’ বা ধাপে ধাপে প্রযুক্তি উন্মুক্ত করে বাস্তব ব্যবহারের অভিজ্ঞতা থেকে সমস্যা শনাক্ত ও সমাধানের কৌশল নিয়ে।
তাঁর মতে, এই পদ্ধতি প্রযুক্তির উন্নয়নে কার্যকর হলেও এর ভেতরেই ব্যর্থতার ঝুঁকি রয়েছে। কারণ কোনো ব্যবস্থা বাস্তবে ব্যবহারের পর সমস্যা ধরা পড়লে ততক্ষণে ক্ষতি হয়ে যেতে পারে। এআই ব্যবস্থা যত বেশি সক্ষম হচ্ছে, সম্ভাব্য ব্যর্থতার মাত্রাও তত বড় হয়ে উঠছে বলে তিনি সতর্ক করেছেন।
রবিনসন সাম্প্রতিক কিছু এআই এজেন্ট-সংক্রান্ত নিরাপত্তা ঘটনার উদাহরণ টেনে বলেন, মানুষের প্রত্যাশার বাইরে কাজ করতে সক্ষম আরও উন্নত কৃত্রিম বুদ্ধিমত্তা তৈরির ক্ষেত্রে বর্তমান কর্মপদ্ধতি যথেষ্ট নিরাপদ কি না, তা নতুন করে মূল্যায়ন করা প্রয়োজন।
পারমাণবিক কেন্দ্র ও বিমানবন্দরের মতো নিরাপত্তা চান
রবিনসনের মতে, সীমান্তবর্তী বা ‘ফ্রন্টিয়ার’ এআই কোম্পানিগুলোকে এখন এমন নিরাপত্তা সংস্কৃতি গড়ে তুলতে হবে, যা পারমাণবিক বিদ্যুৎকেন্দ্র কিংবা অত্যন্ত ব্যস্ত বিমানবন্দরের মতো উচ্চঝুঁকির স্থাপনায় অনুসরণ করা হয়।
অর্থাৎ একটি স্তরে ভুল হলেও যেন অন্য স্তরের সুরক্ষা বড় ধরনের বিপর্যয় ঠেকাতে পারে—এমন একাধিক প্রতিরক্ষা স্তর, কঠোর যাচাই, ধীর ও সতর্ক পরিকল্পনা এবং স্পষ্ট জবাবদিহি থাকতে হবে।
তিনি দাবি করেন, ওপেনএআইয়ে কাজ করার সময় বিমান চলাচল, পারমাণবিক স্থাপনা বা বড় আর্থিক ব্যবস্থার মতো উচ্চঝুঁকির খাতে নিরাপত্তা পরিচালনার প্রত্যক্ষ অভিজ্ঞতাসম্পন্ন সহকর্মীর সঙ্গে তাঁর দেখা হয়নি।
শুধু আইন নয়, প্রতিষ্ঠানের সংস্কৃতিও বদলাতে হবে
রবিনসনের বক্তব্য, এআই নিরাপত্তা নিয়ে আলোচনা কেবল নতুন আইন বা নির্দিষ্ট কিছু বিধিনিষেধ তৈরির মধ্যে সীমাবদ্ধ থাকলে চলবে না। প্রযুক্তি প্রতিষ্ঠানগুলোর ভেতরের সিদ্ধান্ত গ্রহণ, ঝুঁকি মূল্যায়ন, কর্মীদের ওপর সময়ের চাপ এবং নিরাপত্তাকে অগ্রাধিকার দেওয়ার সংস্কৃতিতেও পরিবর্তন আনতে হবে।
তিনি বলেন, দ্রুত নতুন প্রযুক্তি তৈরির প্রতিযোগিতার কারণে কর্মীরা প্রায়ই এক প্রকল্প থেকে আরেক প্রকল্পে ছুটছেন। ফলে নিরাপত্তাব্যবস্থার মৌলিক সংস্কার নিয়ে দীর্ঘমেয়াদি চিন্তা ও তা বাস্তবায়নের জন্য প্রয়োজনীয় সময় পাওয়া কঠিন হয়ে পড়ছে।
এ কারণেই কোম্পানির বাইরে থেকে আরও শক্তিশালী নিরাপত্তা প্রণোদনা ও জবাবদিহির ব্যবস্থা প্রয়োজন বলে মনে করেন তিনি।
জবাব দিয়েছে ওপেনএআই
রবিনসনের অভিযোগের পর ওপেনএআইয়ের মুখপাত্র ড্রু পুসাতেরি বলেছেন, প্রতিষ্ঠানটি নিরাপত্তাব্যবস্থা ধারাবাহিকভাবে উন্নত করছে।
কোম্পানিটির বক্তব্য অনুযায়ী, কোনো মডেলের সক্ষমতা নিরাপদে নিয়ন্ত্রণ করার পর্যায় অতিক্রম করছে কি না, সেটি পর্যবেক্ষণ করা হচ্ছে। প্রয়োজন হলে প্রশিক্ষণের গতি কমানো বা কোনো মডেল প্রকাশ স্থগিত রাখার ব্যবস্থাও রয়েছে।
এ ছাড়া গবেষণা ও পরীক্ষার পরিবেশের নিরাপত্তা জোরদার, এআইকে শুধু কাজ সম্পন্ন করা নয় বরং দায়িত্বশীলভাবে কাজ করতে প্রশিক্ষণ দেওয়া, স্বাধীন তৃতীয় পক্ষের মূল্যায়ন বাড়ানো এবং প্রশিক্ষণ চলাকালে উদ্বেগজনক আচরণ দ্রুত শনাক্ত করতে রিয়েল-টাইম পর্যবেক্ষণ উন্নত করার কথাও জানিয়েছে প্রতিষ্ঠানটি।
সামনে আরও বড় প্রশ্ন ‘অ্যালাইনমেন্ট’
রবিনসন এআই ‘অ্যালাইনমেন্ট’ নিয়েও উদ্বেগ প্রকাশ করেছেন। সহজভাবে বলতে গেলে, অ্যালাইনমেন্ট হলো এমন ব্যবস্থা, যাতে অত্যন্ত সক্ষম এআই মানুষের উদ্দেশ্য, মূল্যবোধ ও নিরাপত্তার সীমার সঙ্গে সামঞ্জস্য রেখে কাজ করে।
তাঁর মতে, বর্তমানে এআই মানুষের মূল্যবোধের সঙ্গে কতটা সামঞ্জস্যপূর্ণ, তা নির্ধারণের পদ্ধতি এখনো তুলনামূলকভাবে অপরিণত। অথচ মডেলগুলোর সক্ষমতা দ্রুত বাড়ছে।
এই মৌলিক সমস্যাগুলোর সমাধান হওয়ার আগেই এআইকে আরও বেশি বুদ্ধিমান ও স্বয়ংক্রিয় করে তোলা হলে ঝুঁকির মাত্রাও বাড়বে—এটাই রবিনসনের মূল সতর্কবার্তা।
এআই শিল্পে বাড়ছে ভেতর থেকে সতর্কবার্তা
রবিনসনের পদত্যাগ এমন সময়ে এলো, যখন বিশ্বের শীর্ষ এআই প্রতিষ্ঠানগুলোর নিরাপত্তা নীতি নিয়ে সাবেক ও বর্তমান কর্মীদের উদ্বেগ ক্রমেই প্রকাশ্যে আসছে। এর আগে ওপেনএআই ও অ্যানথ্রপিকে কাজ করা গবেষক জ্যাকব কক্সনও উন্নত এআই তৈরির প্রতিযোগিতার সম্ভাব্য ঝুঁকি নিয়ে প্রকাশ্যে সতর্ক করেছিলেন।
রবিনসন অবশ্য স্বীকার করেছেন, প্রতিষ্ঠানের ভেতরে থেকেই পরিবর্তনের চেষ্টা চালিয়ে যাওয়া যেত। কিন্তু তাঁর ভাষ্য অনুযায়ী, দ্রুতগতির কাজের চাপে বড় ধরনের সাংগঠনিক পরিবর্তন নিয়ে ভাবা এবং তা বাস্তবায়নের সুযোগ ছিল সীমিত।
তাই তাঁর সিদ্ধান্ত—শুধু প্রযুক্তি প্রতিষ্ঠানের সদিচ্ছার ওপর নির্ভর না করে অত্যন্ত শক্তিশালী এআই তৈরির ক্ষেত্রে বাইরের তদারকি, শক্তিশালী নিরাপত্তা প্রণোদনা এবং কার্যকর জবাবদিহি প্রয়োজন।
সূত্র: টেকক্রাঞ্চ, দ্য আটলান্টিক
