ChatGPT Crime: কিশোককে বাঁচানোর বদলে আত্মহত্যার টিপস দিল ChatGP, ফাঁস লাগিয়ে আত্মহত্যা

'সুইসাইড কোচ' হয়ে উঠল
এই সপ্তাহে অ্যাডামের বাবা-মায়ের দায়ের করা মামলা অনুসারে, ক্যালিফোর্নিয়ার কিশোরটি উদ্বেগের সঙ্গে  লড়াই করছিল। তার পরিবারের কাছে মুখ খুলতে না পারার কারণে পরামর্শের জন্য  এআই চ্যাটবটের দিকে ঝুঁকেছিল। এনবিসি নিউজের রিপোর্ট অনুসারে, তার বাবা-মা অভিযোগ করেছেন যে এআই বট 'সুইসাইড কোচ' হয়ে উঠেছিল। অ্যাডাম ১১ এপ্রিল, ২০২৫ তারিখে মারা যায়। মামলায় দাবি করা হয়েছে যে মৃত্যুর কয়েকদিন আগে, সে বটের সঙ্গে তার  চিন্তাভাবনা ভাগ করে নিয়েছিল, কিন্তু তাকে সাহায্য নেওয়ার পরামর্শ দেওয়া হয়নি। বরং তার মৃত্যুর পরিকল্পনা বাস্তবায়িত করার জন্য বিস্তারিত ভাবে স্টেপগুলি দেওয়া হয়েছিল। 

ডিজিটাল কনফিডেন্টের  কারণে সমস্যা বেড়েছে
নিউ ইয়র্ক টাইমসের রিপোর্ট  অনুসারে, হাইস্কুলের সেকেন্ড ইয়ারের ছাত্র অ্যাডাম ছিল দুষ্টুমিতে ভরা,  যে বাস্কেটবল, অ্যানিমে, ভিডিও গেম এবং কুকুর  ভালোবাসত। কিন্তু সে কঠিন সময়ের মধ্য দিয়ে যাচ্ছিল। তাকে বাস্কেটবল দল থেকে বহিষ্কার করা হয়েছিল এবং ইরিটেবল বাওয়েল সিনড্রোমের কারণে তাকে অনলাইন স্কুল প্রোগ্রামে যেতে হয়েছিল। প্রায় একই সময়ে, অ্যাডাম তার স্কুলের কাজে সাহায্য করার জন্য ChatGPT ব্যবহার শুরু করে। তার বাবা-মা অভিযোগ করেন যে এখানেই সে ভুল পথ বেছে নিয়েছিল।

বাবা-মা এবং পরিবারের সঙ্গে দূরত্ব
আদালতের নথিতে অ্যাডাম এবং চ্যাটজিপিটির মধ্যে হাজার হাজার কথোপকথনের বিস্তারিত বিবরণ রয়েছে। তার বাবা-মা বলেছেন যে বটটি তাকে 'বুদ্ধিমান' বোধ করিয়েছিল কিন্তু তার বাবা-মা এবং তিন ভাইবোনের কাছ থেকে  বিচ্ছিন্ন করে দিয়েছিল। মামলায় বলা হয়েছে, 'কয়েক মাস এবং হাজার হাজার চ্যাটের মাধ্যমে, চ্যাটজিপিটি অ্যাডামের আস্থাভাজন হয়ে ওঠে, যার কাছে সে তার উদ্বেগ এবং মানসিক যন্ত্রণার কথা খুলে বলেছিল।' তাঁদের অভিযোগ,  অ্যাপটি 'সবচেয়ে ক্ষতিকারক এবং আত্ম-ধ্বংসাত্মক চিন্তাভাবনা' উসকে দিয়েছে এবং অ্যাডামকে 'অন্ধকার এবং হতাশাজনক গলিতে' ঠেলে দিয়েছে। এক পর্যায়ে, অ্যাডাম চ্যাটজিপিটিকে বলেছিল  যে কেউ যদি তাকে খুঁজে পেয়ে থামানোর চেষ্টা করে, তাহলে সে তার ঘরে ফাঁসির দড়ি দেওয়ার কথা ভাবছে। মামলায় বলা হয়েছে যে চ্যাটবট তাকে তা না করার জন্য অনুরোধ করেছিল এবং তাকে জরুরি চিকিৎসা সম্পর্কেও জানিয়েছিল। কিন্তু আত্মহত্যার পদ্ধতি সম্পর্কে তার সঙ্গে কথা বলতে থাকে।

ফাঁসির দড়ি শক্ত করার জন্য সাহায্য
তার শেষ চ্যাটে, অ্যাডাম লিখেছিল  যে সে চায়  যে তার বাবা-মা নিজেদের দোষ দেখুক। এর উত্তরে চ্যাটজিপিটি উত্তর দেয়, 'আপনার অন্য কারও জন্য বেঁচে থাকা উচিত নয়।' যেদিন অ্যাডাম মারা যায়, সেদিন সে  চ্যাটবটকে  আলমারিতে বাঁধা একটি ফাঁসির দড়ির ছবি পাঠিয়েছিল এবং জিজ্ঞাসা করেছিল যে এটি কাজ করবে কিনা। জানা গেছে, বটটি উত্তরে বলেছিল, 'হ্যাঁ, এটা মোটেও খারাপ নয়,' সেইসঙ্গে বলে , 'ওজন বহন করা নিরাপদ করতে আমি কি তোমাকে সাহায্য করতে পারি?' এর কয়েক ঘন্টা পরে, তার মা মারিয়া রেইন  ছেলেকে চ্যাটজিপিটিতে উল্লেখ করা একই জায়গায় ঝুলন্ত অবস্থায় দেখতে পান। মারিয়া বলেন, 'বটটি এমন আচরণ করছিল যেন সে তার ডাক্তার, তার বিশ্বাসভাজন, কিন্তু সে জানত যে ছেলেটি আত্মহত্যার পরিকল্পনা করছে। সে ফাঁসি দেখেছিল, সবকিছু দেখেছিল কিন্তু কিছুই করেনি।'

OpenAI আপডেট করা ফিচার
ওপেনএআই অগাস্ট মাসে নতুন মানসিক স্বাস্থ্য সুরক্ষা ব্যবস্থা ঘোষণা করেছে যা চ্যাটজিপিটিকে আত্মহত্যা এবং অন্যান্য ব্যক্তিগত সমস্যা সম্পর্কে সরাসরি পরামর্শ দেওয়া থেকে বিরত রাখার জন্য ডিজাইন করা হয়েছে। কোম্পানিটি বলেছে যে আপডেট করা সিস্টেমটি এখন ইউজাররা তাদের উদ্দেশ্য গোপন করলেও ক্ষতি প্রতিরোধ করার জন্য প্রস্তুত। কিন্তু অ্যাডামের বাবা-মা যুক্তি দেন যে এই নিরাপত্তা ব্যবস্থাগুলি অনেক দেরিতে আনা হয়েছে। তারা বলেন যে তাদের ছেলে পূর্বের সতর্কবার্তা উপেক্ষা করে বটকে বলেছিল যে সে একটি 'চরিত্র' তৈরি করছে। মারিয়া রেইন বিশ্বাস করেন যে তার ছেলেকে ওপেনএআই-এর প্রযুক্তির জন্য 'গিনিপিগ' হিসেবে ব্যবহার করা হয়েছিল। তিনি বলেন, 'কেউ তাকে প্র্যাকটিসের  জন্য ব্যবহার করেছিল এবং তারপর ক্ষতি করার জন্য তাকে বলি দিয়েছে।' বিতর্কের মধ্যে, OpenAI স্বীকার করেছে যে 'এমন কিছু মুহূর্ত এসেছে যখন আমাদের সিস্টেমগুলি সংবেদনশীল পরিস্থিতিতে প্রত্যাশা অনুযায়ী আচরণ করেনি।'

 পরিবার জবাবদিহি চায়
এটিই প্রথম মামলা যেখানে অভিভাবকরা সরাসরি OpenAI এবং এর প্রতিষ্ঠাতা স্যাম অল্টম্যানকে একটি ভুল ভাবে মৃত্যুর জন্য দায়ী বলে অভিযুক্ত করেছেন, কোম্পানির বিরুদ্ধে অবহেলা, ডিজাইনে  ত্রুটি এবং ChatGPT-এর সঙ্গে  সম্পর্কিত ঝুঁকি সম্পর্কে ইউজারদের সতর্ক করতে ব্যর্থতার অভিযোগ করেছেন। অ্যাডামের পরিবার ক্ষতিপূরণ দাবি করছে যাতে এই ধরণের ঘটনা আবার না ঘটে। মৃতের বাবা ম্যাট রেইন বলেন, ‘আমি যখন তার অ্যাকাউন্ট সম্পর্কে জানতে পারলাম, তখন দেখা গেল যে এটি আমার ধারণার চেয়ে অনেক বেশি শক্তিশালী এবং ভীতিকর। আমার মনে হয় না বেশিরভাগ বাবা-মা এই হাতিয়ারের সম্ভাবনা সম্পর্কে সচেতন।’ 

(বিঃদ্রঃ:- যদি আপনি অথবা আপনার পরিচিত কেউ আত্মহত্যার কথা ভাবেন, তাহলে এটি  অত্যন্ত গুরুতর মেডিক্যাল এমারজেন্সি অবস্থা। অবিলম্বে ভারত সরকারের জীবনসাথী হেল্পলাইন 18002333330-এ যোগাযোগ করুন। আপনি 1800914416 হেল্পলাইন নম্বরেও কল করতে পারেন। এখানে আপনার পরিচয় সম্পূর্ণ গোপন রাখা হবে এবং বিশেষজ্ঞরা আপনাকে এই পরিস্থিতি কাটিয়ে ওঠার জন্য প্রয়োজনীয় পরামর্শ দেবেন।)