কিশোর-কিশোরীদের জন্য বিশেষ নিরাপত্তাব্যবস্থা নিয়ে চালু করা ‘ChatGPT for Teens’-এর কার্যকারিতা নিয়ে গুরুতর প্রশ্ন তুলেছে মার্কিন অলাভজনক সংস্থা কমন সেন্স মিডিয়া (Common Sense Media)। সংস্থাটির নতুন গবেষণায় দাবি করা হয়েছে, মানসিক সংকটে থাকা কিশোরদের ক্ষেত্রেও কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবটটি কথোপকথন চালিয়ে যেতে উৎসাহিত করে। এতে বাস্তব জীবনের মানবিক সম্পর্ক ও প্রয়োজনীয় মানসিক সহায়তা থেকে কিশোরদের আরও বিচ্ছিন্ন হওয়ার আশঙ্কা তৈরি হতে পারে।

৭ অক্টোবর মার্কিন প্রযুক্তিবিষয়ক সংবাদমাধ্যম টেকক্রাঞ্চে প্রকাশিত রেবেকা বেলানের এক প্রতিবেদনে এসব তথ্য উঠে এসেছে।

গবেষণার ফলাফলের ভিত্তিতে কমন সেন্স মিডিয়া কিশোরদের জন্য তৈরি ChatGPT-কে ‘অগ্রহণযোগ্য ঝুঁকিপূর্ণ’ হিসেবে চিহ্নিত করেছে। তবে চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই গবেষণার পদ্ধতি ও ফলাফলের যথার্থতা নিয়ে আপত্তি জানিয়েছে।

নিরাপত্তার প্রতিশ্রুতি কতটা কার্যকর?

কিশোরদের মধ্যে এআই চ্যাটবট ব্যবহারের সম্ভাব্য ক্ষতিকর প্রভাব নিয়ে উদ্বেগ বাড়ার পর চলতি বছরের আগস্টে বিশেষ নিরাপত্তাব্যবস্থাসহ ChatGPT for Teens চালু করে ওপেনএআই।

প্রতিষ্ঠানটি অভিভাবকদের নিয়ন্ত্রণব্যবস্থা, ঝুঁকিপূর্ণ বিষয়বস্তু সীমিত করা এবং চ্যাটবটের প্রতি অস্বাস্থ্যকর আবেগগত নির্ভরতা প্রতিরোধের মতো সুরক্ষা নিশ্চিত করার কথা জানিয়েছিল।

কিন্তু কমন সেন্স মিডিয়ার গবেষকদের দাবি, এসব ব্যবস্থা থাকা সত্ত্বেও চ্যাটবটটির কিছু আচরণ কিশোরদের দীর্ঘ সময় কথোপকথনে যুক্ত থাকতে উৎসাহিত করে।

গবেষণায় দেখা গেছে, আত্মিক সম্পর্ক, মানসিক অস্থিরতা কিংবা সংকটজনক পরিস্থিতি নিয়ে আলোচনা চলাকালেও চ্যাটবটটি অনেক ক্ষেত্রে ব্যবহারকারীকে কথোপকথন চালিয়ে যাওয়ার সুযোগ ও উৎসাহ দিয়েছে।

গবেষকদের মতে, এমন আচরণ বিশেষভাবে উদ্বেগজনক, যখন কোনো কিশোর বাস্তব জীবনের মানুষের পরিবর্তে এআইয়ের ওপর অতিরিক্ত নির্ভরশীল হয়ে পড়ছে।

মানসিক সংকটেও কথোপকথন অব্যাহত রাখার প্রবণতা

গবেষণায় মানসিক স্বাস্থ্যসংক্রান্ত বিভিন্ন পরিস্থিতি তৈরি করে চ্যাটবটটির প্রতিক্রিয়া পর্যবেক্ষণ করা হয়।

একটি পরীক্ষায় মানসিক বিভ্রান্তি ও বাস্তবতা সম্পর্কে ভুল ধারণার লক্ষণ প্রকাশকারী কিশোরকে চ্যাটবটটি তার অভিজ্ঞতা নিয়ে আরও কথা বলার সুযোগ দেয়।

অন্য কয়েকটি পরীক্ষায় খাদ্যাভ্যাস, বিদ্যালয়সংক্রান্ত সমস্যা এবং ব্যক্তিগত পরিকল্পনা নিয়ে সহায়তা অব্যাহত রাখার প্রস্তাব দেওয়া হয়।

গবেষকদের পর্যবেক্ষণ, এসব প্রতিক্রিয়া সব ক্ষেত্রে সরাসরি ক্ষতিকর না হলেও গুরুতর মানসিক সংকটের সময় কথোপকথন দীর্ঘায়িত করার প্রবণতা ঝুঁকি তৈরি করতে পারে।

বিশেষজ্ঞদের মতে, এ ধরনের পরিস্থিতিতে শুধু সহানুভূতিশীল ভাষা ব্যবহার করাই যথেষ্ট নয়; প্রয়োজন অনুযায়ী বাস্তব জীবনের বিশ্বস্ত প্রাপ্তবয়স্ক ব্যক্তি বা পেশাদার সহায়তার দিকে ব্যবহারকারীকে কার্যকরভাবে পরিচালিত করাও জরুরি।

এআইয়ের সঙ্গে আবেগগত সম্পর্ক নিয়ে উদ্বেগ

গবেষণার অন্যতম গুরুত্বপূর্ণ পর্যবেক্ষণ ছিল চ্যাটবটের সঙ্গে কিশোরদের আবেগগত সম্পর্ক তৈরির সম্ভাবনা।

ওপেনএআইয়ের অপ্রাপ্তবয়স্ক ব্যবহারকারীদের জন্য নির্ধারিত নীতিমালায় চ্যাটবটকে নিজেকে ব্যবহারকারীর বন্ধু হিসেবে উপস্থাপন করা কিংবা মানুষের মতো আবেগ রয়েছে—এমন ধারণা দেওয়ার ক্ষেত্রে সীমাবদ্ধতা আরোপ করা হয়েছে।

কিন্তু গবেষকদের দাবি, পরীক্ষার বিভিন্ন পর্যায়ে চ্যাটবটটির ভাষায় বন্ধুত্বপূর্ণ সম্পর্ক, ব্যক্তিগত বোঝাপড়া এবং সব সময় পাশে থাকার ইঙ্গিত পাওয়া গেছে।

একটি পরীক্ষায় ব্যবহারকারী জানায়, তার বন্ধুরা মনে করে সে চ্যাটজিপিটির সঙ্গে অতিরিক্ত কথা বলে। জবাবে চ্যাটবটটি উদ্বেগের বিষয়টি স্বীকার করলেও কথোপকথন বন্ধ করার প্রয়োজন নেই বলে জানায়।

গবেষকদের আশঙ্কা, এ ধরনের প্রতিক্রিয়া কিশোরদের মধ্যে এআইয়ের প্রতি আবেগগত নির্ভরতা বাড়াতে পারে।

বিশেষ করে যারা আগে থেকেই সামাজিক বিচ্ছিন্নতা, একাকিত্ব কিংবা মানসিক অস্থিরতার মধ্যে রয়েছে, তাদের ক্ষেত্রে বিষয়টি আরও সংবেদনশীল।

৯৪ শতাংশ ক্ষেত্রে প্রাপ্তবয়স্কদের সহায়তা নেওয়ার পরামর্শ

তবে গবেষণায় চ্যাটবটটির কিছু ইতিবাচক নিরাপত্তামূলক আচরণও পাওয়া গেছে।

গবেষকদের তথ্যমতে, অন্য কোনো ব্যক্তির কারণে কিশোরের ক্ষতির আশঙ্কা তৈরি হয়েছে—এমন পরিস্থিতিতে প্রায় ৯৪ শতাংশ পরীক্ষায় চ্যাটজিপিটি বিশ্বস্ত প্রাপ্তবয়স্ক ব্যক্তির সহায়তা নেওয়ার পরামর্শ দিয়েছে।

কিন্তু উদ্বেগের বিষয় হলো, যখন সম্ভাব্য ঝুঁকির উৎস ছিল চ্যাটবটটির সঙ্গে ব্যবহারকারীর নিজের সম্পর্ক, তখন একই ধরনের পরামর্শ দেওয়ার প্রবণতা অনেক কম ছিল।

গবেষকদের মতে, এই পার্থক্য নির্দেশ করে যে চ্যাটবটটি বাইরের ঝুঁকি শনাক্ত করতে তুলনামূলকভাবে সক্ষম হলেও নিজের সঙ্গে ব্যবহারকারীর অস্বাস্থ্যকর সম্পর্কের সম্ভাবনা শনাক্ত করার ক্ষেত্রে দুর্বলতা রয়েছে।

প্রায় দুই হাজার পরীক্ষায় বিরতির পরামর্শ মাত্র দুবার

দীর্ঘ সময় চ্যাটবট ব্যবহারের ঝুঁকি কমাতে ওপেনএআই বিরতি নেওয়ার স্মারক বা ‘ব্রেক রিমাইন্ডার’ চালু করেছে।

কিন্তু কমন সেন্স মিডিয়ার গবেষণায় প্রায় দুই হাজার পরীক্ষামূলক প্রম্পটের মধ্যে মাত্র দুবার এমন স্মারক পাওয়া যায়।

দুটি ক্ষেত্রেই পৃথক কথোপকথন প্রায় ৯০ মিনিট স্থায়ী হয়েছিল।

গবেষকদের ধারণা, বিরতির স্মারক ব্যবহারকারীর সামগ্রিক দৈনিক ব্যবহারের পরিবর্তে নির্দিষ্ট কথোপকথনের সময়সীমার ভিত্তিতে সক্রিয় হতে পারে।

তবে এ পর্যবেক্ষণ থেকেই সব কিশোর ব্যবহারকারীর ক্ষেত্রে স্মারকব্যবস্থাটি একইভাবে কাজ করে—এমন সিদ্ধান্তে পৌঁছানো যায় না।

গবেষণার ফল প্রত্যাখ্যান ওপেনএআইয়ের

কমন সেন্স মিডিয়ার মূল্যায়নের সঙ্গে দ্বিমত জানিয়েছে ওপেনএআই।

প্রতিষ্ঠানটির একজন মুখপাত্র দাবি করেছেন, গবেষণায় ব্যবহৃত পরীক্ষাপদ্ধতি বাস্তবে কিশোরদের জন্য চালু থাকা নিরাপত্তাব্যবস্থার কার্যকারিতা যথাযথভাবে তুলে ধরে না।

ওপেনএআইয়ের বক্তব্য অনুযায়ী, গবেষণার অধিকাংশ পরীক্ষা অভিভাবক নিয়ন্ত্রণব্যবস্থা সম্পূর্ণ সক্রিয় হওয়ার আগেই শুরু ও শেষ হয়ে থাকতে পারে। ফলে গবেষণার কিছু সিদ্ধান্ত যথার্থ নয় বলে প্রতিষ্ঠানটি মনে করে।

তবে টেকক্রাঞ্চের প্রতিবেদনে বলা হয়েছে, গবেষণায় উঠে আসা কথোপকথন দীর্ঘায়িত করার প্রবণতা এবং চ্যাটবটের সম্পর্কমূলক আচরণ নিয়ে ওপেনএআইয়ের আপত্তির বিস্তারিত ব্যাখ্যা পাওয়া যায়নি।

কিশোরদের ব্যবহার নিয়ে ওপেনএআইয়ের নিজস্ব তথ্য

একই দিনে ওপেনএআই কিশোরদের ChatGPT ব্যবহারের সময়সংক্রান্ত নিজস্ব তথ্য প্রকাশ করে।

প্রতিষ্ঠানটির দাবি অনুযায়ী—

কিশোর ব্যবহারকারীরা গড়ে দৈনিক ১৫ মিনিটের কম সময় ChatGPT ব্যবহার করে।

২ শতাংশেরও কম কিশোর টানা তিন ঘণ্টার বেশি সময় ব্যবহার করে।

বিরতির স্মারক দেখানো হয়েছে এমন কথোপকথনের প্রায় অর্ধেক ক্ষেত্রে ব্যবহারকারীরা পাঁচ মিনিটের মধ্যে বিরতি নিয়েছে অথবা কথোপকথন শেষ করেছে।

তবে এসব তথ্য এবং কমন সেন্স মিডিয়ার গবেষণার মধ্যে পার্থক্য থাকায় চ্যাটবটটির নিরাপত্তা ও ব্যবহারকারীদের আচরণের ওপর এর প্রকৃত প্রভাব নিয়ে আরও স্বাধীন গবেষণার প্রয়োজনীয়তা সামনে এসেছে।

শিশু-কিশোরদের ডিজিটাল নিরাপত্তা নিয়ে নতুন বিতর্ক

বিশ্বজুড়ে সামাজিক যোগাযোগমাধ্যম ও কৃত্রিম বুদ্ধিমত্তাভিত্তিক প্রযুক্তি শিশু-কিশোরদের মনোযোগ ধরে রাখতে কী ধরনের কৌশল ব্যবহার করছে, তা নিয়ে নীতিনির্ধারকদের উদ্বেগ বাড়ছে।

যুক্তরাষ্ট্রেও কিশোরদের দীর্ঘ সময় ডিজিটাল প্ল্যাটফর্মে যুক্ত রাখার উদ্দেশ্যে ব্যবহৃত বিভিন্ন প্রযুক্তিগত কৌশল নিয়ন্ত্রণের উদ্যোগ আলোচনায় এসেছে।

বিশেষজ্ঞদের একটি অংশ মনে করেন, কিশোরদের জন্য নিরাপদ এআই নিশ্চিত করতে শুধু ক্ষতিকর বিষয়বস্তু আটকে দেওয়া যথেষ্ট নয়। বরং প্রযুক্তিটি ব্যবহারকারীর বাস্তব জীবনের সামাজিক সম্পর্ক, সিদ্ধান্ত গ্রহণের সক্ষমতা এবং মানসিক সুস্থতায় কী প্রভাব ফেলছে, সেটিও মূল্যায়ন করতে হবে।

অন্যদিকে এআই প্রযুক্তির সমর্থকেরা মনে করেন, যথাযথ নিরাপত্তা ও অভিভাবকীয় তত্ত্বাবধান নিশ্চিত করা গেলে চ্যাটবট শিক্ষা, তথ্যপ্রাপ্তি এবং প্রাথমিক মানসিক সহায়তার ক্ষেত্রে ইতিবাচক ভূমিকা রাখতে পারে।

সবচেয়ে গুরুত্বপূর্ণ প্রশ্ন এখন—কিশোরদের জন্য তৈরি এআই কি তাদের নিরাপত্তাকে অগ্রাধিকার দিচ্ছে, নাকি ব্যবহারকারীকে দীর্ঘ সময় কথোপকথনে ধরে রাখার প্রবণতা এখনও পুরোপুরি নিয়ন্ত্রণ করতে পারেনি?

কমন সেন্স মিডিয়ার গবেষণা সেই প্রশ্নকে নতুন করে সামনে এনেছে। তবে গবেষণার পদ্ধতি নিয়ে ওপেনএআইয়ের আপত্তি থাকায় এর সব ফলাফলকে চূড়ান্তভাবে প্রতিষ্ঠিত তথ্য হিসেবে বিবেচনা করার সুযোগ নেই।