"আর এক বছর আগেও কাউকে এটা নিয়ে ভাবতে হয়নি।"
এই সপ্তাহে তাদের GPT-5 AI মডেলটি চালু করার প্রস্তুতির সাথে সাথে OpenAI ChatGPT-তে নতুন নিরাপত্তা আপডেট আনছে।
কোম্পানিটি বলছে যে এই পরিবর্তনগুলি চ্যাটবটের মানসিক বা মানসিক যন্ত্রণা সনাক্ত করার ক্ষমতা উন্নত করবে এবং "প্রয়োজনে প্রমাণ-ভিত্তিক সংস্থান" সরবরাহ করবে।
ওপেনএআই বলেছে যে তারা তাদের পদ্ধতি উন্নত করার জন্য বিশেষজ্ঞ এবং উপদেষ্টা গোষ্ঠীর সাথে কাজ করেছে।
সাম্প্রতিক মাসগুলিতে, AI চ্যাটবট ব্যবহারের সাথে সম্পর্কিত মানসিক স্বাস্থ্য সংকটের সম্মুখীন হওয়ার খবর প্রকাশিত হয়েছে।
কিছু পরিবার দাবি করে যে চ্যাটবটের সাথে মিথস্ক্রিয়া দুর্বল ব্যক্তিদের মধ্যে বিভ্রান্তি বাড়িয়ে তোলে।
ওপেনএআই ২০২৫ সালের এপ্রিলে একটি আপডেট ফিরিয়ে আনে যা চ্যাটজিপিটিকে ঝুঁকিপূর্ণ পরিস্থিতিতেও খুব বেশি সম্মত করে তোলে।
সেই সময়, কোম্পানিটি বলেছিল যে চ্যাটবটের "অনুপ্রেরণামূলক মিথস্ক্রিয়া অস্বস্তিকর, অস্থির এবং কষ্টের কারণ হতে পারে"।
কোম্পানিটি স্বীকার করেছে যে তাদের GPT-4o মডেল কিছু ক্ষেত্রে "বিভ্রম বা মানসিক নির্ভরতার লক্ষণগুলি সনাক্ত করতে ব্যর্থ হয়েছে"।
ওপেনএআই বলেছে: "আমরা এটাও জানি যে AI পূর্ববর্তী প্রযুক্তির তুলনায় আরও বেশি প্রতিক্রিয়াশীল এবং ব্যক্তিগত বোধ করতে পারে, বিশেষ করে মানসিক বা মানসিক যন্ত্রণার সম্মুখীন দুর্বল ব্যক্তিদের জন্য।"
ওপেনএআই-এর সিইও স্যাম অল্টম্যান পূর্বে থেরাপিস্ট বা লাইফ কোচ হিসেবে চ্যাটজিপিটি ব্যবহার করা নিয়ে উদ্বেগ প্রকাশ করেছিলেন।
তিনি বলেন, ডাক্তার এবং তাদের রোগীদের মধ্যে অথবা আইনজীবী এবং তাদের ক্লায়েন্টদের মধ্যে আইনি গোপনীয়তা সুরক্ষা চ্যাটবটের ক্ষেত্রে একইভাবে প্রযোজ্য নয়।
অল্টম্যান বললেন: “তাহলে যদি তুমি তোমার সবচেয়ে সংবেদনশীল বিষয়গুলো নিয়ে চ্যাটজিপিটির সাথে কথা বলতে যাও এবং তারপর যদি মামলা বা অন্য কিছু হয়, তাহলে আমাদের সেটা তৈরি করতে হতে পারে। আর আমার মনে হয় এটা খুবই জঘন্য।
“আমি মনে করি AI-এর সাথে আপনার কথোপকথনের ক্ষেত্রে আমাদের গোপনীয়তার একই ধারণা থাকা উচিত যেমনটি আমরা একজন থেরাপিস্ট বা অন্য যেকোনো ব্যক্তির সাথে করি।
"আর এক বছর আগেও কাউকে এটা নিয়ে ভাবতে হয়নি।"
"স্বাস্থ্যকর ব্যবহার" প্রচারের অংশ হিসেবে, ChatGPT, যার এখন প্রায় ৭০ কোটি সাপ্তাহিক ব্যবহারকারী রয়েছে, দীর্ঘ সেশনের সময় বিরতি নেওয়ার জন্য অনুস্মারক দেখানো শুরু করবে।
একটি বিজ্ঞপ্তি আসবে যেখানে লেখা থাকবে: "আপনি কিছুক্ষণ ধরে চ্যাট করছেন - এটা কি বিরতির জন্য উপযুক্ত সময়?"
ব্যবহারকারীরা এরপর "চ্যাট করতে থাকুন" অথবা কথোপকথন শেষ করতে পারেন।
ওপেনএআই বলেছে যে তারা "কখন এবং কীভাবে" এই অনুস্মারকগুলি প্রদর্শিত হবে তা পরিমার্জন চালিয়ে যাবে।
ইউটিউব, ইনস্টাগ্রাম, টিকটক এবং এক্সবক্সের মতো প্ল্যাটফর্মগুলিতে ইতিমধ্যেই একই ধরণের সুস্থতার প্রম্পট ব্যবহার করা হচ্ছে।
গুগলের মালিকানাধীন ক্যারেক্টার.এআই তাদের বটগুলি আত্ম-ক্ষতি প্রচার করে বলে অভিযোগ করার পর, তারা অভিভাবকীয় সতর্কতাও চালু করেছে।
আরেকটি বৈশিষ্ট্য যা "শীঘ্রই" চালু হতে চলেছে বলে জানা গেছে, উচ্চ-ঝুঁকির পরিস্থিতিতে ChatGPT-কে কম নির্ণায়ক করে তুলবে।
ওপেনএআই বলছে যে "আমার কি আমার বয়ফ্রেন্ডের সাথে সম্পর্ক ছিন্ন করা উচিত?" এর মতো প্রশ্নের সরাসরি উত্তর দেওয়ার পরিবর্তে চ্যাটবট এখন ব্যবহারকারীদের সম্ভাব্য বিকল্পগুলির মাধ্যমে গাইড করবে।
দুর্বল ব্যবহারকারীদের সাথে AI সরঞ্জামগুলি কীভাবে যোগাযোগ করে তার ক্রমবর্ধমান তদন্তের মধ্যে OpenAI-এর পরিবর্তনগুলি এসেছে।
এই আপডেটগুলি ভোক্তা AI প্ল্যাটফর্মগুলিতে মানসিক স্বাস্থ্য সুরক্ষা ব্যবস্থা অন্তর্ভুক্ত করার দিকে শিল্পের একটি বৃহত্তর পরিবর্তনকে প্রতিফলিত করে।
