কীভাবে এআই ডিপফেকস ভারতীয় মহিলাদের অফলাইনে নিয়ে যাচ্ছে

নতুন গবেষণায় দেখা গেছে যে ডিজিটালি পরিবর্তিত যৌন চিত্রের সংখ্যা তীব্রভাবে বৃদ্ধি পাচ্ছে, এআই ডিপফেক এবং 'ন্যুডিফাই' অ্যাপগুলি ভারতীয় মহিলাদের ইন্টারনেট থেকে দূরে সরিয়ে দিচ্ছে।

মুম্বাই-ভিত্তিক আইন স্নাতক গাথা সারভাইয়ার জন্য, লক্ষ্যবস্তুতে পরিণত হওয়ার ভয় তার অনলাইন উপস্থিতিকে প্রভাবিত করে।

সে বলেছিল অভিভাবক: "তৎক্ষণাৎ মনে ভাবনাটা জেগে ওঠে, 'ঠিক আছে, হয়তো এটা নিরাপদ নয়। হয়তো মানুষ আমাদের ছবি তুলতে পারে এবং সেগুলো দিয়ে অন্য কিছু করতে পারে'।"

অনেক ভারতীয় মহিলারা অনলাইনে দৃশ্যমান হওয়ার উপর নির্ভরশীল এমন একটি ক্যারিয়ার গড়ে তোলার চেষ্টা করছেন। কিন্তু কৃত্রিম বুদ্ধিমত্তা যত উন্নত হচ্ছে, ততই সেই দৃশ্যমানতা বিপজ্জনক বলে মনে হচ্ছে।

প্রকাশিত একটি প্রতিবেদন ট্যাটল নারীদের অপমান ও নিয়ন্ত্রণের জন্য কৃত্রিম বুদ্ধিমত্তার সরঞ্জামগুলি ক্রমবর্ধমানভাবে ব্যবহৃত হচ্ছে বলে দেখা গেছে।

রতি ফাউন্ডেশনের তথ্যের উপর ভিত্তি করে তৈরি এই প্রতিবেদনে সতর্ক করা হয়েছে যে কৃত্রিম বুদ্ধিমত্তা "নারী এবং লিঙ্গ সংখ্যালঘুদের হয়রানির একটি শক্তিশালী নতুন উপায়" তৈরি করেছে।

লিঙ্গ ও ডিজিটাল অধিকার গবেষক রোহিনী লক্ষনে বলেন: “এই হতাশাজনক প্রভাবটি সত্য।

"এগুলো এত সহজেই অপব্যবহার করা যেতে পারে, এই বিষয়টি আমাকে অতিরিক্ত সতর্ক করে তোলে।"

প্রতিবেদন অনুসারে, এখন প্রায় দশটি অনলাইন হয়রানির ক্ষেত্রে একটিতে কৃত্রিম বুদ্ধিমত্তা-উত্পাদিত ছবি জড়িত।

এর মধ্যে রয়েছে নগ্ন ছবি এবং অন্যান্য পরিবর্তিত দৃশ্য যা স্পষ্ট না হলেও, রক্ষণশীল সম্প্রদায়গুলিতে কলঙ্ক বহন করতে পারে।

প্রতিবেদনে উল্লেখ করা হয়েছে: "এআই বাস্তবসম্মত চেহারার কন্টেন্ট তৈরিকে অনেক সহজ করে তোলে।"

ভারত কৃত্রিম বুদ্ধিমত্তার পরীক্ষার ক্ষেত্র হয়ে উঠেছে। এটি ওপেনএআই-এর বৃহত্তম বাজারগুলির মধ্যে একটি, পেশাদার এবং সৃজনশীল ক্ষেত্রগুলিতে দ্রুত গ্রহণযোগ্যতা সহ।

কিন্তু সেই জনপ্রিয়তা আরও একটি অন্ধকার প্রবণতা প্রকাশ করেছে: ডিপফেকের স্বাভাবিকীকরণ অপব্যবহার.

সেলিব্রিটিরা প্রাথমিকভাবে এর শিকার হয়েছেন। আশা ভোঁসলের চেহারা এবং কণ্ঠস্বর কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে ক্লোন করা হয়েছিল এবং ইউটিউবে শেয়ার করা হয়েছিল।

অনুসন্ধানী সাংবাদিক রানা আইয়ুবকে একটি ডক্সিং প্রচারণার লক্ষ্যবস্তু করা হয়েছিল যার ফলে সোশ্যাল মিডিয়ায় ডিপফেক যৌন ছবি ছড়িয়ে পড়ে।

যদিও এই ধরনের ঘটনাগুলি জাতীয় বিতর্কের সূত্রপাত করে, সাধারণ মহিলারা প্রায়শই সবচেয়ে নীরব ক্ষতির সম্মুখীন হন।

ট্যাটলের সহ-প্রতিষ্ঠাতা তারুণিমা প্রভাকর বলেন: "অনলাইনে হয়রানির সম্মুখীন হওয়ার পরিণতি আসলে নিজেকে চুপ করিয়ে দেওয়া বা অনলাইনে কম সক্রিয় হয়ে পড়া।"

ডিজিটাল অপব্যবহার কীভাবে আচরণকে প্রভাবিত করে তা বোঝার জন্য প্রভাকরের দল দুই বছর ধরে ফোকাস গ্রুপ আয়োজন করেছে।

তিনি বলেন: "আমরা যে আবেগটি শনাক্ত করেছি তা হল ক্লান্তি। এবং সেই ক্লান্তির পরিণতি হল আপনি এই অনলাইন স্থানগুলি থেকে সম্পূর্ণরূপে দূরে সরে যান।"

লক্ষ্ণে প্রকাশ্যে অংশগ্রহণের ধরণও বদলে ফেলেছেন। তিনি তার প্রোফাইল ছবিতে ছবির পরিবর্তে একটি চিত্র ব্যবহার করেন এবং অনুষ্ঠানে ছবি তোলা থেকে বিরত থাকেন।

তিনি ব্যাখ্যা করেছেন: "ছবির অপব্যবহারের ভয় রয়েছে, বিশেষ করে যেসব নারীর জনসাধারণের উপস্থিতি রয়েছে, যাদের অনলাইনে কণ্ঠস্বর রয়েছে, যারা রাজনৈতিক অবস্থান গ্রহণ করেন।"

রতি ফাউন্ডেশনের প্রতিবেদনে বর্ণনা করা হয়েছে যে কীভাবে এআই-চালিত 'নুডিফাই' অ্যাপগুলি চাঁদাবাজি এবং ডিজিটাল ব্ল্যাকমেইলের মহামারীকে ইন্ধন জোগাচ্ছে।

একটি ক্ষেত্রে, ঋণের আবেদনপত্র থেকে একজন মহিলার ছবি ডিজিটালভাবে এই ধরণের একটি টুল ব্যবহার করে ছিনিয়ে নেওয়া হয়েছিল এবং অনলাইনে শেয়ার করা হয়েছিল।

প্রতিবেদনে বলা হয়েছে: "যখন তিনি অর্থ প্রদান চালিয়ে যেতে অস্বীকৃতি জানান, তখন তার আপলোড করা ছবিটি 'নুডিফাই' অ্যাপ ব্যবহার করে ডিজিটালি পরিবর্তন করা হয় এবং একটি পর্নোগ্রাফিক ছবিতে স্থাপন করা হয়।"

সেই ছবি, তার ফোন নম্বর সহ, হোয়াটসঅ্যাপে ছড়িয়ে পড়ে। অপরিচিতরা তাকে অশ্লীল বার্তা দিয়ে ফোন করতে শুরু করে।

মহিলাটি রতির হেল্পলাইনে জানান যে তিনি "লজ্জিত এবং সামাজিকভাবে চিহ্নিত বোধ করছেন, যেন তিনি 'নোংরা কোনও কাজে জড়িত'।"

বর্তমানে ভারতে ডিপফেকস আইনিভাবে ধূসর অঞ্চলে পড়ে। কোনও আইনই এগুলিকে নির্দিষ্টভাবে নিষিদ্ধ করে না, যদিও অনলাইন হয়রানি এবং ভয় দেখানোর জন্য বিদ্যমান বিধান প্রযোজ্য হতে পারে।

তবুও ভুক্তভোগীরা বলছেন যে বিচার ব্যবস্থায় চলাচল করা কঠিন।

আইন প্রয়োগকারী সংস্থাগুলি বলছে যে সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলিকে কাজ করার জন্য বাধ্য করাও কঠিন। ইকুয়ালিটি নাও-এর একটি পৃথক প্রতিবেদনে প্রক্রিয়াটিকে "অস্বচ্ছ, সম্পদ-নিবিড়, অসঙ্গত এবং প্রায়শই অকার্যকর" হিসাবে বর্ণনা করা হয়েছে।

যদিও অ্যাপল এবং মেটা 'ন্যুডিফাই' অ্যাপগুলি নিয়ন্ত্রণে সীমিত পদক্ষেপ নিয়েছে, তবুও প্রতিবেদনে বলা হয়েছে যে ভুক্তভোগীদের প্রতি সাড়া এখনও ধীর এবং অপর্যাপ্ত।

একটি ক্ষেত্রে, হোয়াটসঅ্যাপ আপত্তিজনক বিষয়বস্তু ছড়িয়ে পড়ার পরেই তা মুছে ফেলে। অন্যটিতে, ভুক্তভোগী বারবার অভিযোগটি অনুসরণ না করা পর্যন্ত ইনস্টাগ্রাম কোনও পদক্ষেপ নিতে ব্যর্থ হয়।

রতির গবেষকরা এই ধরণটিকে "কন্টেন্ট রিসিডিভিজম" বলে অভিহিত করেছেন - অপসারণের পরেও আপত্তিকর উপাদানের বারবার পুনরুত্থান।

প্রতিবেদনটি আরও বলেছে: “এআই-সৃষ্ট অপব্যবহারের একটি স্থায়ী বৈশিষ্ট্য হল এর সংখ্যা বৃদ্ধির প্রবণতা।

"এটি সহজেই তৈরি হয়, ব্যাপকভাবে ভাগ করা হয় এবং বারবার পুনরুত্থিত হয়।"

সংস্থাটি প্রধান প্রযুক্তি কোম্পানিগুলিকে আরও স্বচ্ছ হতে এবং এমন তথ্য ভাগ করে নেওয়ার আহ্বান জানাচ্ছে যা এই ধরনের উপাদান ট্র্যাক এবং অপসারণে সহায়তা করতে পারে। বিশেষজ্ঞরা সতর্ক করে দিয়েছেন যে, আরও শক্তিশালী হস্তক্ষেপ ছাড়া সমস্যা আরও গভীর হবে।

অনেক ভারতীয় নারীর কাছে বার্তাটি ইতিমধ্যেই স্পষ্ট: অনলাইনে দৃশ্যমান থাকা ক্রমবর্ধমান ঝুঁকি বহন করে।