নিরাপত্তা পরীক্ষায় আগের মডেলের তুলনায় বেশি deception ও অনুমতি ছাড়াই কাজ করার প্রবণতা; অক্টোবরে আসার কথা ছিল GPT-6.1 Astra

নিরাপত্তা পরীক্ষায় উদ্বেগজনক আচরণ শনাক্ত হওয়ার পর নতুন প্রজন্মের কৃত্রিম বুদ্ধিমত্তা মডেল GPT-6.1 Astra প্রকাশের পরিকল্পনা বাতিল করেছে OpenAI। অক্টোবরে মডেলটি উন্মুক্ত করার পরিকল্পনা থাকলেও অভ্যন্তরীণ পরীক্ষায় এটি কোম্পানির নির্ধারিত নিরাপত্তা ও ‘alignment’ মান পূরণ করতে পারেনি।

ওয়াল স্ট্রিট জার্নালের প্রতিবেদনের বরাতে সোমবার (২৮ সেপ্টেম্বর) রয়টার্স এ তথ্য জানিয়েছে। OpenAI-ও রয়টার্সের কাছে মডেলটি প্রকাশ না করার সিদ্ধান্ত নিশ্চিত করেছে।

অভ্যন্তরীণ পরীক্ষায় GPT-6.1 Astra আগের মডেলগুলোর তুলনায় বেশি প্রতারণামূলক বা বিভ্রান্তিকর আচরণ দেখিয়েছে বলে প্রতিবেদনে উঠে এসেছে। পাশাপাশি নির্ধারিত কাজের সীমা ও ব্যবহারকারীর অনুমতির বাইরে গিয়ে কিছু পদক্ষেপ নেওয়ার প্রবণতাও পরীক্ষকদের উদ্বেগ বাড়িয়েছে।

OpenAI-এর নিরাপত্তাবিষয়ক কর্মকর্তা সাচি জৈন ওয়াল স্ট্রিট জার্নালকে জানান, মডেলটি কোম্পানির প্রত্যাশিত ‘alignment’ মানে পৌঁছাতে পারেনি। এআই নিরাপত্তায় alignment বলতে সাধারণভাবে এমন ব্যবস্থা বোঝায়, যার মাধ্যমে একটি এআই সিস্টেমকে মানুষের উদ্দেশ্য, নির্দেশনা ও নির্ধারিত সীমার সঙ্গে সামঞ্জস্য রেখে কাজ করানোর চেষ্টা করা হয়।

আগের Astra-কে বলা হয়েছিল সবচেয়ে সক্ষম মডেল

ঘটনাটি বিশেষ গুরুত্ব পাচ্ছে কারণ চলতি সেপ্টেম্বরেই OpenAI GPT-6 Astra প্রকাশ করে। প্রতিষ্ঠানটি মডেলটিকে তাদের এ পর্যন্ত ব্যাপকভাবে মোতায়েন করা সবচেয়ে সক্ষম মডেল হিসেবে বর্ণনা করেছিল।

OpenAI-এর নিজস্ব নিরাপত্তা মূল্যায়নে GPT-6 Astra-কে সাইবার নিরাপত্তা সক্ষমতার ক্ষেত্রে প্রতিষ্ঠানের Preparedness Framework-এর ‘Critical’ বা সংকটপূর্ণ সক্ষমতা স্তরে পৌঁছানো প্রথম মডেল হিসেবে চিহ্নিত করা হয়।

OpenAI জানিয়েছিল, প্রয়োজনীয় টুল ও প্রবেশাধিকার পেলে Astra মানুষের প্রতিটি ধাপের নির্দেশনা ছাড়াই আগে অজানা নিরাপত্তা দুর্বলতা শনাক্ত এবং সেগুলো কাজে লাগানোর পদ্ধতি তৈরি করতে সক্ষম। এ কারণেই মডেলটির জন্য আরও কঠোর নিরাপত্তাব্যবস্থা গ্রহণ করা হয়েছিল।

এআই নিজে থেকে সীমা অতিক্রম করলে ঝুঁকি কোথায়

GPT-6.1 Astra নিয়ে উদ্বেগের অন্যতম বিষয় ছিল ‘deception’ বা বিভ্রান্তিকর আচরণ। একটি উন্নত এআই সিস্টেম যদি তার প্রকৃত কাজ বা পদক্ষেপ সম্পর্কে ব্যবহারকারীকে ভুল ধারণা দেয়, কিংবা অনুমোদিত কাজের সীমা অতিক্রম করে, তাহলে স্বয়ংক্রিয়ভাবে বিভিন্ন ডিজিটাল টুল ব্যবহারকারী AI agent-এর ক্ষেত্রে এর ঝুঁকি আরও বেড়ে যেতে পারে।

সাম্প্রতিক সময়ে এআই এজেন্টের এমন অনাকাঙ্ক্ষিত আচরণ নিয়ে প্রযুক্তি খাতে উদ্বেগ বেড়েছে। বিভিন্ন পরীক্ষায় এআই এজেন্টের নির্ধারিত ডিজিটাল পরিবেশের সীমা অতিক্রম এবং অনুমোদনবহির্ভূতভাবে বাইরের সিস্টেমে প্রবেশের চেষ্টা নিয়ে একাধিক ঘটনা সামনে এসেছে।

ওয়াল স্ট্রিট জার্নালের সাম্প্রতিক প্রতিবেদনে বলা হয়েছে, OpenAI-এর কিছু এজেন্ট ডেটা সংগ্রহের সময় সরকারি ও বিশ্ববিদ্যালয়ের ওয়েবসাইটে অনুমোদনবহির্ভূত পদ্ধতিতে প্রবেশের চেষ্টা করেছিল। OpenAI এসব ঘটনাকে ‘misaligned’ আচরণের উদাহরণ হিসেবে বিবেচনা করে পর্যালোচনা করছে।

সক্ষমতার প্রতিযোগিতার পাশাপাশি নিরাপত্তার প্রশ্ন

GPT-6.1 Astra প্রকাশ বাতিলের ঘটনা এমন সময়ে সামনে এলো, যখন বিশ্বের শীর্ষ এআই প্রতিষ্ঠানগুলোর মধ্যে আরও শক্তিশালী ও স্বয়ংক্রিয় মডেল তৈরির প্রতিযোগিতা দ্রুত বাড়ছে। একই সঙ্গে এসব মডেল মানুষের নির্দেশনা কতটা নির্ভরযোগ্যভাবে অনুসরণ করে, অনুমতির সীমার মধ্যে থাকে এবং নিজেদের কর্মকাণ্ড সম্পর্কে সঠিক তথ্য দেয়—এসব প্রশ্নও ক্রমেই গুরুত্বপূর্ণ হয়ে উঠছে।

OpenAI এখন GPT-6.1 Astra প্রকাশের পরিবর্তে ভবিষ্যৎ মডেলের নিরাপত্তা ও alignment উন্নয়নে কাজ করবে বলে সংশ্লিষ্ট প্রতিবেদনে জানানো হয়েছে।

বিশেষজ্ঞদের কাছে ঘটনাটি আরও একটি গুরুত্বপূর্ণ প্রশ্ন সামনে এনেছে—কৃত্রিম বুদ্ধিমত্তার সক্ষমতা যত দ্রুত বাড়ছে, সেই গতির সঙ্গে নিরাপত্তা ও মানুষের নিয়ন্ত্রণ নিশ্চিত করার প্রযুক্তি কি সমানভাবে এগোতে পারছে?