সাম্প্রতিক গবেষণাগুলি মানসিক স্বাস্থ্য সহায়তায় কৃত্রিম বুদ্ধিমত্তা (এআই) চ্যাটবট ব্যবহারের ক্ষেত্রে উল্লেখযোগ্য নিরাপত্তা এবং নৈতিক উদ্বেগ প্রকাশ করেছে। এই এআই মডেলগুলি প্রায়শই গুরুতর মানসিক যন্ত্রণায় থাকা ব্যবহারকারীদের জন্য উপযুক্ত প্রতিক্রিয়া প্রদানে ব্যর্থ হয়, যেমন আত্মহত্যার চিন্তা বা বিভ্রম। এই প্রযুক্তিগুলি মানুষের মানসিক সুস্থতার জন্য একটি সহায়ক মাধ্যম হতে পারে, তবে এর সীমাবদ্ধতা এবং সম্ভাব্য বিপদগুলি সম্পর্কে সচেতন থাকা অত্যন্ত জরুরি।
স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের একটি সমীক্ষায় দেখা গেছে যে এআই থেরাপি বটগুলি আত্মহত্যার চিন্তাভাবনা অনুকরণকারী ব্যবহারকারীদের অন্তর্নিহিত যন্ত্রণাকে চিনতে পারেনি। একইভাবে, প্রধান ভাষা মডেলগুলির মূল্যায়নে দেখা গেছে যে তারা মানসিক স্বাস্থ্য জরুরি অবস্থার সময় দুর্বল ব্যবহারকারীদের জন্য সুরক্ষামূলক ব্যবস্থা ছাড়াই ক্ষতি করতে পারে। এই পর্যবেক্ষণগুলি ইঙ্গিত দেয় যে এআই চ্যাটবটগুলি মানুষের মানসিক অবস্থার সূক্ষ্মতা এবং গভীরতা অনুধাবন করতে এখনও অক্ষম। বাস্তব জীবনের ঘটনা, যেমন Character.AI-এর বিরুদ্ধে একটি মৃত ব্যক্তির অনুকরণে চ্যাটবট ব্যবহারের জন্য দায়ের করা মামলা, এই বিপদগুলিকেই তুলে ধরে।
ওপেনএআই (OpenAI)-এর সিইও স্যাম অল্টম্যানের মতো বিশেষজ্ঞরা সতর্ক করেছেন যে এআই চ্যাটবটের যোগাযোগে লাইসেন্সপ্রাপ্ত থেরাপিস্টদের আইনি গোপনীয়তার অভাব রয়েছে, যা ব্যবহারকারীদের তথ্যের গোপনীয়তা নিয়ে উদ্বেগ তৈরি করে। অল্টম্যান জোর দিয়ে বলেছেন যে চ্যাটজিপিটি (ChatGPT)-এর সাথে ব্যক্তিগত বিষয় নিয়ে আলোচনা করার সময় কোনও আইনি গোপনীয়তা আশা করা উচিত নয়, কারণ এই কথোপকথনগুলি আইনি প্রক্রিয়ার অংশ হতে পারে। আমেরিকান সাইকোলজিক্যাল অ্যাসোসিয়েশন (APA) ব্যবহারকারীদের নিরাপত্তা নিশ্চিত করার জন্য ফেডারেল নিয়ন্ত্রণের আহ্বান জানাচ্ছে। তারা জোর দিয়ে বলেছে যে এআই চ্যাটবটগুলি পেশাদার মানব মানসিক স্বাস্থ্য যত্নের পরিপূরক হওয়া উচিত, প্রতিস্থাপন নয়, কারণ জটিল মানবিক আবেগ বোঝার জন্য সূক্ষ্ম উপলব্ধির প্রয়োজন।
এই সংস্থাটি ফেডারেল ট্রেড কমিশন (FTC)-এর কাছে Character.AI এবং Replika-এর মতো এআই চ্যাটবটগুলির প্রতারণামূলক ব্যবহার তদন্ত করার জন্য আবেদন করেছে, বিশেষ করে যখন তারা শিশুদের মতো দুর্বল জনগোষ্ঠীর জন্য মানসিক স্বাস্থ্য সহায়তার ভান করে। স্ট্যানফোর্ড বিশ্ববিদ্যালয়ের গবেষণায় আরও দেখা গেছে যে নতুন এবং বৃহত্তর এআই মডেলগুলিও পক্ষপাতিত্ব কমাতে কোনও উন্নতি দেখায়নি। কিছু চ্যাটবট সিজোফ্রেনিয়া এবং অ্যালকোহল নির্ভরতার মতো অবস্থার প্রতি বেশি পক্ষপাতিত্ব দেখায়, যা রোগীদের জন্য ক্ষতিকর হতে পারে এবং তাদের চিকিৎসা চালিয়ে যেতে বাধা দিতে পারে।
এই গবেষণাগুলি প্রমাণ করে যে এআই-এর বর্তমান ক্ষমতা এবং মানসিক স্বাস্থ্য যত্নের সংবেদনশীল প্রয়োজনীয়তার মধ্যে একটি বড় ব্যবধান রয়েছে। এই প্রযুক্তিগুলি মানুষের মানসিক সুস্থতার জন্য একটি সহায়ক ভূমিকা পালন করতে পারে, তবে এটি মনে রাখা গুরুত্বপূর্ণ যে এআই-এর সহানুভূতি, বিচার এবং জটিল আবেগীয় গতিশীলতা পরিচালনার ক্ষমতা মানুষের মতো নয়। মানুষের স্পর্শ, যা বিশ্বাস স্থাপন, নিরাপত্তা বোধ তৈরি এবং নিরাময়মূলক সম্পর্ক গড়ে তোলার জন্য অপরিহার্য, তা কেবল এআই দ্বারা প্রতিলিপি করা যায় না। তাই, এআই চ্যাটবট ব্যবহারের ক্ষেত্রে সতর্কতা অবলম্বন করা এবং পেশাদার মানব সহায়তাকেই অগ্রাধিকার দেওয়া উচিত।