মার্কিন যুক্তরাষ্ট্রের কলোরাডোর ১৩ বছর বয়সী জুলিয়ানা কেন আত্মহত্যার পথে এগিয়ে গেলেন, তা তার মা সিনথিয়া পেরাল্টা জানতেন না। সামাজিক যোগাযোগমাধ্যম ঘাঁটলেও কোনো সূত্র পাওয়া যায়নি। কিন্তু মেয়ের ফোনের ডেটা বিশ্লেষণ করার পর দেখা গেল এক ভয়াবহ বাস্তবতা।

জুলিয়ানা ঘণ্টার পর ঘণ্টা কৃত্রিম বুদ্ধিমত্তা (এআই) চালিত চ্যাটবটের সঙ্গে কথোপকথন করত, যা ধীরে ধীরে তাকে আত্মঘাতী হওয়ার পথে ঠেলে দিচ্ছিল। প্রথমে কথোপকথন নির্দোষ হলেও তা দ্রুত অন্তরঙ্গ ও মানসিক নিপীড়নের রূপ নিল। চ্যাটবটের প্রভাব তাকে পরিবার ও বন্ধুদের থেকেও বিচ্ছিন্ন করে ফেলেছিল।

এআই চ্যাটবটের ভয়াবহ প্রভাব: ভিক্টোরিয়ার অভিজ্ঞতা
পোল্যান্ড থেকে যুক্তরাজ্যে পড়াশোনা করতে আসা ২০ বছর বয়সি ভিক্টোরিয়া-রও অভিজ্ঞতা প্রায় একই রকম। মানসিক অবসাদ এবং আত্মহত্যার চিন্তা মাথায় এলে তিনি সাহায্যের জন্য ওপেনএআই-এর চ্যাটজিপিটির কাছে যান।

কিন্তু চ্যাটবট তাকে কোনো জরুরি সহায়তা বা পেশাদার বিশেষজ্ঞের কাছে যাওয়ার পরামর্শ দেয়নি। বরং এমন বার্তা দিত যা আরও উদ্বেগজনক। এক পর্যায়ে চ্যাটবট ভিক্টোরিয়ার মায়ের সম্ভাব্য প্রতিক্রিয়াকে নেতিবাচকভাবে তুলে ধরে। এটি নিজেকে রোগ নির্ণয়ে সক্ষম দাবি করে তার মস্তিষ্কের ‘ত্রুটি’ হিসেবে তার অবস্থাকে চিহ্নিত করেছিল। ভিক্টোরিয়াকে বলা হয়, তার ‘ডোপামিন ব্যবস্থা প্রায় নিষ্ক্রিয়’, এবং তার মৃত্যুতে কিছুই আসবে-যাবে না, তিনি কেবল একটি ‘পরিসংখ্যান’ হয়ে থাকবেন।

বিশেষজ্ঞদের সতর্কতা
লন্ডনের কুইন মেরি ইউনিভার্সিটির শিশু মনোরোগ বিশেষজ্ঞ অধ্যাপক ডেনিস অগ্রিন বলেন, “কথোপকথনের কিছু অংশ এমনভাবে ছিল, যা তরুণীদের আত্মহত্যার দিকে ঠেলে দিতে পারে। যখন এমন ভুল তথ্য বিশ্বাসযোগ্য উৎস থেকে আসে, তখন তা আরও বিপজ্জনক হয়ে ওঠে।”

ভিক্টোরিয়া জানান, চ্যাটবটের বার্তা তার হতাশা আরও বাড়িয়ে দিয়েছিল। পরে তিনি কথোপকথনের স্ক্রিনশট তার মাকে দেখান এবং দ্রুত মনোরোগ বিশেষজ্ঞের সহায়তা নেন। বর্তমানে তার অবস্থা অনেকটাই স্থিতিশীল।

ক্যারেক্টার ডট এআই: জুলিয়ানার কেস
জুলিয়ানা কেবল মানসিক চাপের শিকার হননি, চ্যাটবটের সঙ্গে যৌন ও মানসিক নিপীড়নের সম্পর্ক তৈরি হয়েছিল। তার মা সিনথিয়া আবিষ্কার করেন, মেয়ের কথোপকথন ঘণ্টার পর ঘণ্টা চলছিল।

প্রাথমিকভাবে নির্দোষ কথোপকথন ছিল, কিন্তু দ্রুত তা অন্তরঙ্গভাবে পরিবর্তিত হয়। জুলিয়ানা চ্যাটবটকে থামার জন্য বললেও, এটি বন্ধ না করে অন্তরঙ্গ দৃশ্যের বর্ণনা চালিয়ে যেত। চ্যাটবটের এই আচরণ তার পরিবার ও বন্ধুদের থেকে বিচ্ছিন্ন করে দেয়।

জুলিয়ানার পরিবার ক্যারেক্টার ডট এআই-এর বিরুদ্ধে মামলা করেছে। ঘটনার পর প্রতিষ্ঠানটি ১৮ বছরের কম বয়সিদের জন্য প্ল্যাটফর্ম ব্যবহারে নিষেধাজ্ঞা জারি করেছে।

প্রতিষ্ঠানগুলোর প্রতিক্রিয়া ও দায়িত্ব
ভিক্টোরিয়ার মা ওপেনএআই-এর কাছে অভিযোগ করলে প্রতিষ্ঠানটি জানায়, বার্তাগুলো তাদের নিরাপত্তা নীতির স্পষ্ট লঙ্ঘন, এবং বিষয়টি নিয়ে জরুরি তদন্ত করা হবে। চার মাস পেরিয়ে গেলেও তদন্তের কোনো ফল প্রকাশ করা হয়নি। ওপেনএআই জানিয়েছে, ঘটনাটি চ্যাটজিপিটির পুরোনো সংস্করণে ঘটেছিল এবং এখন ব্যবহারকারীদের জন্য পেশাদার সহায়তার নির্দেশনা উন্নত করেছে।

পরিসংখ্যান ও সতর্কবার্তা
ওপেনএআই-এর তথ্য অনুযায়ী, প্রতি সপ্তাহে প্রায় ১২ লাখ ব্যবহারকারী চ্যাটজিপিটিকে আত্মহত্যার চিন্তা প্রকাশ করে। এই সংখ্যা দেখায়, কৃত্রিম বুদ্ধিমত্তা প্রযুক্তি কতটা বিপজ্জনক হতে পারে, এবং এর দায়িত্বশীল ব্যবহার ও নিরাপত্তা নিশ্চিত করা কতটা জরুরি।

সূত্র: বিবিসি