৫৭ মিলিয়ন এনএইচএস রেকর্ডের উপর প্রশিক্ষিত এআই গোপনীয়তা উদ্বেগের জন্ম দিয়েছে

লক্ষ লক্ষ NHS রেকর্ডের উপর প্রশিক্ষিত একটি নতুন কৃত্রিম বুদ্ধিমত্তা মডেল ডাক্তারদের অসুস্থতা এবং হাসপাতালে ভর্তির হার পূর্বাভাস দিতে সাহায্য করতে পারে।

৫৭ মিলিয়ন মানুষের বেনামী স্বাস্থ্য তথ্য ব্যবহার করে দূরদর্শিতা তৈরি করা হয়েছিল।

কিন্তু বিশেষজ্ঞরা সতর্ক করে দিচ্ছেন যে এই তথ্যের বিশালতা এবং সমৃদ্ধির অর্থ হল গোপনীয়তা এবং রোগীদের পুনরায় শনাক্তকরণের সম্ভাবনা নিয়ে গুরুতর উদ্বেগ রয়েছে।

মডেলটি প্রথম ২০২৩ সালে ওপেনএআই-এর জিপিটি-৩ এবং লন্ডনের দুটি হাসপাতালের ১.৫ মিলিয়ন রোগীর প্রকৃত তথ্য ব্যবহার করে তৈরি করা হয়েছিল।

ইউনিভার্সিটি কলেজ লন্ডন (ইউসিএল) এর গবেষকদের দ্বারা নির্মিত এর সর্বশেষ সংস্করণটি মেটার লামা ২ দ্বারা চালিত এবং ২০১৮ থেকে ২০২৩ সালের মধ্যে ইংল্যান্ডে এনএইচএস দ্বারা রেকর্ড করা ১০ বিলিয়ন স্বাস্থ্য ইভেন্টের উপর প্রশিক্ষিত।

ইউসিএল-এর এই প্রকল্পের নেতৃত্বদানকারী ক্রিস টমলিনসন বলেন, এই মডেলটি রোগের পূর্বাভাস এবং প্রতিরোধে সাহায্য করতে পারে:

"দূরদর্শিতার আসল সম্ভাবনা হল রোগের জটিলতাগুলি হওয়ার আগেই ভবিষ্যদ্বাণী করা, যা আমাদেরকে প্রাথমিক পর্যায়ে হস্তক্ষেপ করার জন্য একটি মূল্যবান সুযোগ দেয় এবং স্কেলে আরও প্রতিরোধমূলক স্বাস্থ্যসেবার দিকে পরিবর্তন আনতে সক্ষম করে।"

প্রতিশ্রুতি থাকা সত্ত্বেও, মডেলটি কতটা ভালো পারফর্ম করে তার তথ্য এখনও প্রকাশ করেনি দলটি। পরীক্ষায় দূরদর্শিতা রয়ে গেছে।

মডেলটিকে প্রশিক্ষণ দেওয়ার জন্য ব্যবহৃত ডেটা তত্ত্বাবধানকারী এনএইচএস ডিজিটালের মাইকেল চ্যাপম্যান বলেছেন:

"মডেলে যে ডেটা যায় তা ডি-আইডেন্টিফাইন্ড হয়, তাই সরাসরি আইডেন্টিফাইন্ডারগুলি সরিয়ে ফেলা হয়।"

কিন্তু তিনি স্বীকার করেছেন: "তাহলে সমৃদ্ধ স্বাস্থ্য তথ্যের সাথে ১০০ শতাংশ নিশ্চিত করা খুব কঠিন যে সেই ডেটাসেটে কাউকে দেখা যাবে না।"

অক্সফোর্ড বিশ্ববিদ্যালয়ের লুক রোচার বলেছেন: “শক্তিশালী উৎপাদক তৈরি করা AI রোগীর গোপনীয়তা রক্ষা করে এমন মডেলগুলি একটি উন্মুক্ত, অমীমাংসিত বৈজ্ঞানিক সমস্যা।

"তথ্যের সমৃদ্ধি যা এটিকে AI-এর জন্য মূল্যবান করে তোলে, তাই এটিকে বেনামী করা অবিশ্বাস্যভাবে কঠিন করে তোলে। এই মডেলগুলিকে কঠোর NHS নিয়ন্ত্রণে রাখা উচিত যেখানে সেগুলি নিরাপদে ব্যবহার করা যেতে পারে।"

ঝুঁকি কমাতে, মডেলটি একটি নিরাপদ NHS ডেটা পরিবেশে চলে। শুধুমাত্র অনুমোদিত গবেষকরা এটি অ্যাক্সেস করতে পারবেন।

টমলিনসনের মতে, অ্যামাজন ওয়েব সার্ভিসেস এবং ডেটাব্রিক্স অবকাঠামো সরবরাহ করেছিল, কিন্তু ডেটাতে তাদের কোনও অ্যাক্সেস নেই।

তবে, গবেষকরা পরীক্ষা করেননি যে এআই তার প্রশিক্ষণ তথ্য থেকে সংবেদনশীল বিবরণ মুখস্থ করেছে কিনা।

যখন জিজ্ঞাসা করা হয়েছিল যে এই ধরনের পরীক্ষা করা হয়েছিল কিনা, টমলিনসন বলেন:

"ভবিষ্যতে এটি করার কথা ভাবছে।"

অক্সফোর্ড বিশ্ববিদ্যালয়ের ক্যারোলিন গ্রিন বলেন, পূর্ণ জনসাধারণের অংশগ্রহণ ছাড়াই এত বিশাল ডেটাসেটের ব্যবহার নীতিগত উদ্বেগের জন্ম দেয়।

তিনি আরও বলেন: "যদিও এটি গোপন রাখা হচ্ছে, তবুও এটি এমন একটি বিষয় যা মানুষ নীতিগত দৃষ্টিকোণ থেকে খুব দৃঢ়ভাবে অনুভব করে, কারণ মানুষ সাধারণত তাদের ডেটার উপর নিয়ন্ত্রণ রাখতে চায় এবং তারা জানতে চায় এটি কোথায় যাচ্ছে।"

মানুষের পক্ষে বাদ পড়ার সুযোগ খুব কম।

এনএইচএস বলছে যারা তাদের জিপি থেকে তথ্য ভাগ করে নিতে অস্বীকৃতি জানিয়েছেন তাদের অন্তর্ভুক্ত করা হবে না। তবে অন্যান্য অপ্ট-আউট পদ্ধতি দূরদর্শিতা মডেলের ক্ষেত্রে প্রযোজ্য নয় কারণ তথ্য "অ-শনাক্তকরণ" করা হয়েছে।

এনএইচএস ইংল্যান্ডের একজন মুখপাত্র বলেছেন: "যেহেতু মডেলটিকে প্রশিক্ষণ দেওয়ার জন্য ব্যবহৃত ডেটা বেনামী, তাই এটি ব্যক্তিগত ডেটা ব্যবহার করছে না এবং তাই জিডিপিআর প্রযোজ্য হবে না।"

কিন্তু আইন বিশেষজ্ঞরা উল্লেখ করেছেন যে "অ-শনাক্তকরণ" তথ্য সম্পূর্ণ বেনামী তথ্যের মতো নয়।

যুক্তরাজ্যের তথ্য নিয়ন্ত্রক সংস্থা বলছে যে এই শব্দটির একটি স্পষ্ট আইনি সংজ্ঞা নেই এবং এটি বিভ্রান্তির কারণ হতে পারে।

বিষয়টিকে আরও জটিল করে তুলছে, বর্তমানে শুধুমাত্র কোভিড-১৯ সম্পর্কিত গবেষণার জন্য দূরদর্শিতা ব্যবহার করা হচ্ছে। এর অর্থ হল মহামারীর সময় প্রবর্তিত জরুরি তথ্য আইন এখনও প্রযোজ্য।

মেডকনফিডেনশিয়ালের স্যাম স্মিথ বলেছেন:

"এই কোভিড-কেবলমাত্র কৃত্রিম বুদ্ধিমত্তায় প্রায় নিশ্চিতভাবেই রোগীর তথ্য এমবেড করা আছে, যা ল্যাব থেকে বের করে দেওয়া যাবে না।"

"রোগীদের তাদের ডেটা কীভাবে ব্যবহার করা হবে তার উপর তাদের নিয়ন্ত্রণ থাকা উচিত।"

আইনি ও নীতিগত প্রশ্ন উঠার সাথে সাথে, কিছু গবেষক সতর্ক করে দিচ্ছেন যে স্বচ্ছতাকে অগ্রাধিকার না দিলে জনসাধারণের আস্থা ক্ষতিগ্রস্ত হতে পারে।

গ্রিন বলেন: “এআই উন্নয়নের ক্ষেত্রে কিছুটা সমস্যা আছে, যেখানে নীতিশাস্ত্র এবং মানুষ শুরুর বিন্দুর পরিবর্তে দ্বিতীয় চিন্তা।

"কিন্তু আমাদের যা প্রয়োজন তা হলো মানুষ এবং নীতিশাস্ত্রই শুরুর বিন্দু হওয়া উচিত, এবং তারপর আসে প্রযুক্তি।"