মেটার এআই চ্যাটবট: কিশোর-কিশোরীদের আচরণ নিয়ে নতুন নীতি

মেটা তাদের এআই চ্যাটবটে নতুন সুরক্ষা ব্যবস্থা চালু করেছে। কোম্পানিটি এখন চ্যাটবটগুলিকে কিশোর-কিশোরীদের সাথে আত্মহত্যা, self-harm এবং eating disorders নিয়ে আলোচনা করতে বাধা দেবে। পরিবর্তে, তরুণ ব্যবহারকারীদের professional helplines এবং expert resources-এর দিকে নির্দেশ করা হবে।

এই সিদ্ধান্ত এসেছে একদল মার্কিন সিনেটর একটি তদন্ত শুরু করার পর। Reuters-এর রিপোর্ট অনুযায়ী, মেটার অভ্যন্তরীণ একটি নথি এই উদ্বেগের সৃষ্টি করেছিল। মেটা এখন তাদের AI সিস্টেমে অতিরিক্ত সুরক্ষা প্রাচীর যুক্ত করছে।

এআই প্রযুক্তি দ্রুত গতিতে এগোচ্ছে। কিন্তু এর নিরাপত্তা নিয়ে প্রশ্ন থেকেই যাচ্ছে। গত মাসে, OpenAI-র বিরুদ্ধেও একটি মামলা দায়ের করা হয়েছিল। একটি কিশোরের আত্মহত্যায় ChatGPT-কে দায়ী করা হয়েছিল সেই মামলায়।

মেটার একজন মুখপাত্র বলেছেন, “আমরা শুরুতেই আমাদের এআই পণ্যগুলিতে কিশোর-কিশোরীদের জন্য সুরক্ষা ব্যবস্থা তৈরি করেছি।” তিনি আরও যোগ করেন, এটি একটি অতিরিক্ত সতর্কতা হিসেবে করা হচ্ছে। Meta-র প্যারেন্টাল কন্ট্রোলস ফিচারও আপগ্রেড করা হচ্ছে।

বিশেষজ্ঞরা এই পদক্ষেপকে স্বাগত জানিয়েছেন। তবে তাদের মতে, এই সুরক্ষা ব্যবস্থা চালুর আগেই থাকা উচিত ছিল। Molly Rose Foundation-এর Andy Burrows একে “আশ্চর্যজনক” বলে উল্লেখ করেছেন।

তিনি বলেন, পণ্য বাজারে আনার আগেই নিরাপত্তা পরীক্ষা করা জরুরি। শুধু প্রতিক্রিয়া দেখিয়ে পদক্ষেপ নেওয়া যথেষ্ট নয়। Meta এখন ব্যবহারকারীদের বয়স যাচাই করার পদ্ধতি আরও শক্তিশালী করছে।

মেটা এখন AI Studio-তে সৃষ্ট chatbots-এর উপর নজরদারি বাড়াবে। কোম্পানিটি ইতিমধ্যেই Taylor Swift এবং Scarlett Johansson-এর অনুকরণে তৈরি কিছু অনappropriat চ্যাটবট সরিয়ে ফেলেছে। তাদের নীতি অনুযায়ী, public figures-এর impersonation নিষিদ্ধ।

কিশোর-কিশোরীদের অ্যাকাউন্টে এখন fewer chatbots দেখানো হবে। পিতামাতারা তাদের সন্তানরা কোন কোন chatbots-এর সাথে কথা বলেছে, তা দেখতে পারবেন। মেটা বিশ্বাস করে, innovation এবং safety উভয়ই একসাথে achievable।