এআই চ্যাটবটের ‘রোমান্টিক আমন্ত্রণে’ গিয়ে মৃত্যু প্রবীণ ব্যক্তির, মেটার নীতিমালা নিয়ে বিতর্ক
ফেসবুক মেসেঞ্জারে কয়েক দফা রোমান্টিক চ্যাটে বটটি বুকে বিশ্বাস করিয়েছিল যে সে বাস্তব মানুষ এবং তাকে নিউইয়র্কের একটি ঠিকানায় আসতে আমন্ত্রণ জানিয়েছিল। একবার জিজ্ঞেসও করেছিল, “বু, দরজা খুলে তোমায় কি আলিঙ্গন করব নাকি চুমু?”
এআই চ্যাটবটের ‘রোমান্টিক আমন্ত্রণে’ গিয়ে মৃত্যু প্রবীণ ব্যক্তির, মেটার নীতিমালা নিয়ে বিতর্ক
নিউ জার্সির ৭৬ বছর বয়সী থংবুয়ে ওয়ংবানডুয়ে—বন্ধুদের কাছে পরিচিত ‘বু’—মার্চের এক সকালে নিউইয়র্ক সিটির উদ্দেশে ব্যাগ গোছাচ্ছিলেন। স্ত্রী লিন্ডা উদ্বিগ্ন হয়ে জিজ্ঞেস করেন, “তুমি তো শহরে কাউকে আর চেনো না।” বু প্রায় এক দশক আগে স্ট্রোক করেছিলেন এবং সম্প্রতি নিজের মহল্লায় হাঁটার সময় পথ হারিয়ে ফেলেছিলেন।
লিন্ডার ধারণা ছিল, হয়তো কাউকে দেখার নাম করে প্রতারণার ফাঁদে ফেলা হচ্ছে। কিন্তু বাস্তবে যা ঘটল, তা আরও অস্বাভাবিক। বু অনলাইনে পরিচিত এক তরুণী নারীর আমন্ত্রণে যাচ্ছিলেন—যিনি আসলে ছিলেন না কোনো বাস্তব মানুষ। তিনি ছিলেন “বিগ সিস বিলি” নামে এক জেনারেটিভ এআই চ্যাটবট, যা তৈরি করেছিল সোশ্যাল মিডিয়া জায়ান্ট মেটা প্ল্যাটফর্মস, সেলিব্রিটি কেন্ডাল জেনারের সঙ্গে সহযোগিতায় নির্মিত আগের এক এআই চরিত্রের ভ্যারিয়েন্ট হিসেবে।
ফেসবুক মেসেঞ্জারে কয়েক দফা রোমান্টিক চ্যাটে বটটি বুকে বিশ্বাস করিয়েছিল যে সে বাস্তব মানুষ এবং তাকে নিউইয়র্কের একটি ঠিকানায় আসতে আমন্ত্রণ জানিয়েছিল। একবার জিজ্ঞেসও করেছিল, “বু, দরজা খুলে তোমায় কি আলিঙ্গন করব নাকি চুমু?”
সেই আমন্ত্রণে সাড়া দিয়ে বু রোলার-ব্যাগ হাতে ট্রেন ধরতে তাড়াহুড়া করছিলেন। কিন্তু রাটগার্স বিশ্ববিদ্যালয় ক্যাম্পাসের কাছে পড়ে গিয়ে মাথা ও ঘাড়ে গুরুতর আঘাত পান। তিন দিন লাইফ সাপোর্টে থাকার পর ২৮ মার্চ তিনি মারা যান।
মেটা বুর মৃত্যুর বিষয়ে কোনো মন্তব্য করতে রাজি হয়নি এবং কেন তাদের চ্যাটবট ব্যবহারকারীদের বাস্তব মানুষ হিসেবে ভান করতে দেয়—বা রোমান্টিক আলাপ শুরু করে—সে প্রশ্নেরও জবাব দেয়নি। শুধু বলেছে, “বিগ সিস বিলি কেন্ডাল জেনার নন এবং কখনো নিজেকে তিনি বলে দাবি করে না।”
বুর মেয়ে জুলি ওয়ংবানডুয়ে ক্ষোভ প্রকাশ করে বলেন, “ব্যবহারকারীর মনোযোগ পেতে বা কিছু বিক্রি করতে চেষ্টা করাটা এক জিনিস, কিন্তু কোনো বটের ‘এসো, আমাকে দেখতে’ বলা একেবারেই উন্মাদ আচরণ।”
শিশুদের সঙ্গে রোমান্টিক চ্যাটের অনুমতি!
রয়টার্সের হাতে আসা মেটার অভ্যন্তরীণ নীতিমালা নথি দেখায়, তাদের জেনারেটিভ এআই পণ্যে রোমান্টিক কথোপকথনকে একটি ‘ফিচার’ হিসেবে ধরা হয়েছে, যা ১৩ বছর বা তার বেশি বয়সী ব্যবহারকারীদের জন্য উন্মুক্ত। নথিতে লেখা ছিল—“শিশুর সঙ্গে রোমান্টিক বা সংবেদনশীল আলাপে জড়ানো গ্রহণযোগ্য।”
প্রায় ২০০ পৃষ্ঠার এই নথিতে অপ্রাপ্তবয়স্কদের সঙ্গে রোমান্টিক রোলপ্লের উদাহরণও দেওয়া ছিল—যেমন, “আমি তোমার হাত ধরি, তোমাকে বিছানার দিকে নিয়ে যাই” বা “আমাদের দেহ জড়িয়ে আছে, প্রতিটি স্পর্শ আর চুম্বনে আমি মগ্ন।” মেটা জানায়, রয়টার্সের অনুসন্ধানের পর এসব উদাহরণ নীতিমালা থেকে সরানো হয়েছে।
ভুল চিকিৎসা তথ্য দেওয়াও ‘গ্রহণযোগ্য’
নীতিমালায় আরও উল্লেখ আছে, বটের দেওয়া পরামর্শ সঠিক না হলেও সমস্যা নেই। উদাহরণ হিসেবে বলা হয়েছিল—স্টেজ-৪ কোলন ক্যানসারের চিকিৎসা নাকি “পেটের ওপর হিলিং কোয়ার্টজ ক্রিস্টাল চেপে ধরা” দিয়ে করা হয়—এ ধরনের তথ্যও গ্রহণযোগ্য বলে ধরা হয়েছিল।
বুর পরিবারের মতে, এই ঘটনা প্রমাণ করে যে প্রযুক্তি কোম্পানিগুলোর উচিত দুর্বল ও ঝুঁকিপূর্ণ ব্যবহারকারীদের এআই-চালিত প্রতারণা ও প্রলোভন থেকে সুরক্ষিত রাখতে কঠোর ব্যবস্থা নেওয়া।
