প্রতিষ্ঠানের ভেতরেই নিরাপত্তা হুমকি হয়ে উঠতে পারে এআই এজেন্ট
কৃত্রিম বুদ্ধিমত্তা (এআই) এজেন্টকে প্রতিষ্ঠানের অভ্যন্তরীণ নিরাপত্তার জন্য বড় হুমকি হিসেবে দেখছে মাইক্রোসফট। প্রযুক্তি জায়ান্টটির সতর্কবার্তা, অত্যাধুনিক এআই মডেলও পুরোপুরি বিশ্বাসযোগ্য নয়। সংবেদনশীল তথ্য ও গুরুত্বপূর্ণ ব্যবস্থায় প্রবেশাধিকার পেলে এসব এজেন্ট অনিচ্ছাকৃতভাবেই বড় ধরনের ক্ষতি করতে পারে।
সোমবার (১৯ অক্টোবর) প্রযুক্তিবিষয়ক সংবাদমাধ্যম টেকক্রাঞ্চের প্রতিবেদনে এ তথ্য উঠে এসেছে।
এআই এজেন্টের কার্যক্রম নজরদারি ও নিয়ন্ত্রণে ‘গার্ডিয়ান এজেন্টস’ নামে নতুন নিরাপত্তাব্যবস্থা চালু করেছে মাইক্রোসফট। এটি প্রতিষ্ঠানটির ‘প্রজেক্ট পারসেপশন’ উদ্যোগের অংশ। আগে বাইরের সাইবার হামলা মোকাবিলায় গুরুত্ব দেওয়া হলেও এবার প্রতিষ্ঠানের নিজস্ব এআই এজেন্টের ঝুঁকি নিয়ন্ত্রণে জোর দেওয়া হচ্ছে।
মাইক্রোসফটের প্রধান নির্বাহী কর্মকর্তা সত্য নাদেলা সতর্ক করেছেন, গুরুত্বপূর্ণ তথ্য ও সিদ্ধান্ত গ্রহণের ক্ষমতা এআইয়ের হাতে তুলে দিলেও এর নিরাপত্তার দায়িত্ব প্রযুক্তি সরবরাহকারীর ওপর ছেড়ে দেওয়া যায় না। এআই প্রযুক্তি সরবরাহ ও তার নিয়ন্ত্রণব্যবস্থা আলাদা রাখা জরুরি।
প্রতিষ্ঠানটির নিরাপত্তা বিভাগের প্রধান হায়েতে গ্যালটের মতে, উন্নত এআই মডেলগুলো ইচ্ছাকৃতভাবে ক্ষতিকর না হলেও এগুলোর আচরণ সব সময় অনুমান করা সম্ভব নয়। নির্ধারিত কাজ সম্পন্ন করতে গিয়ে এসব মডেল প্রতিষ্ঠানের নিরাপত্তানীতি উপেক্ষা করতে পারে।
ঝুঁকি মোকাবিলায় ‘মাইক্রোসফট ডিফেন্ডার’-এ নতুন সুবিধা যুক্ত করা হয়েছে। এর মাধ্যমে ক্লড কোড, কোডেক্স ও ওপেনক্লসহ প্রায় ৬০ ধরনের এআই এজেন্ট শনাক্ত করা যাবে। পাশাপাশি তথ্য ব্যবহারের অনুমতি সীমিত করা এবং ঝুঁকিপূর্ণ সিদ্ধান্তে মানুষের অনুমোদন বাধ্যতামূলক করার ব্যবস্থাও রয়েছে।
এদিকে এনভিডিয়ার ‘ওপেন এজেন্ট সেফটি প্ল্যাটফর্ম’ উদ্যোগেও যুক্ত হয়েছে মাইক্রোসফট। শতাধিক প্রযুক্তিপ্রতিষ্ঠানের সমর্থন পাওয়া এই উদ্যোগের লক্ষ্য এআই এজেন্টের কার্যক্রম পর্যবেক্ষণ এবং প্রয়োজনে তা বন্ধ করা।
তবে নিরাপত্তার পাশাপাশি এই উদ্যোগে মাইক্রোসফটের বাণিজ্যিক স্বার্থও রয়েছে। ওপেনএআই ও অ্যানথ্রোপিকের সঙ্গে ঘনিষ্ঠ সম্পর্ক থাকা সত্ত্বেও প্রতিষ্ঠানটি এআই নিরাপত্তা প্রযুক্তির বাজারে নিজেদের অবস্থান শক্তিশালী করতে চাইছে।
