অ্যালগরিদমিক পক্ষপাত: অঙ্কের হিসাবের মধ্যেও মানুষের অতীতের বৈষম্য কীভাবে ঢুকে পড়ে?

কম্পিউটারের গাণিতિક হিসাব কি সত্যিই সবসময় সম্পূর্ণ নিরপেক্ষ?

আমাদের মনের মধ্যে একটি গভীর বিশ্বাস কাজ করে: মানুষ ভুল করতে পারে, মানুষের মনে রাগ বা লোভ থাকতে পারে, কিন্তু কম্পিউটার তো কেবল ঠান্ডা মাথার অঙ্কের নিয়মে চলে, তাই সে কখনো কারও সাথে অবিচার করতে পারে না। কিন্তু ভাবুন তো, একটি নামকরা বড় কোম্পানিতে চাকরির জন্য হাজার হাজার আবেদনপত্র জমা পড়েছে। প্রতিষ্ঠানটি প্রার্থীদের জীবনবৃত্তান্ত যাচাইয়ের জন্য একটি অত্যাধুনিক কৃত্রিম বুদ্ধিমত্তা সফটওয়্যার বসাল। কিছুদিন পর দেখা গেল যে সেই সফটওয়্যার নারী প্রার্থীদের এবং প্রত্যন্ত অঞ্চলের মেধাবী শিক্ষার্থীদের আবেদনপত্র স্বয়ংক্রিয়ভাবে বাতিল করে দিয়ে কেবল শহরের নির্দিষ্ট কিছু পুরুষের আবেদন বেছে নিয়েছে! অঙ্কের নিয়মের ভেতরে এই বৈষম্য কীভাবে ঢুকল?

এই জটিল সমস্যাকে বলা হয় অ্যালগরিদমিক বায়াস বা অ্যালগরিদমিক পক্ষপাত। কম্পিউটার মূলত একটি আয়নার মতো; মানব সমাজ অতীতে যা করেছে, সে কেবল সেটাই আমাদের সামনে আধুনিক সাজে তুলে ধরে।

পুরোনো খাতা দেখে নিয়োগ দেওয়া বাছাই কমিটি

এই বিষয়টি সহজভাবে বুঝতে একটি পুরোনো ব্যবসা প্রতিষ্ঠানের নিয়োগ কমিটির কথা চিন্তা করুন। প্রতিষ্ঠানের মালিক নতুন তরুণ কর্মকর্তাকে নির্দেশ দিলেন, 'গত পঞ্চাশ বছরে আমাদের কারখানায় যেসব দক্ষ ম্যানেজার কাজ করেছেন, তাদের সমস্ত পুরোনো ফাইল ও খাতা পড়ে দেখো এবং তাদের যোগ্যতার সাথে হুবহু মিল রেখে এবারও সেরা কর্মী বাছাই করো।' তরুণ কর্মকর্তাটি আগ্রহ নিয়ে পঞ্চাশ বছরের পুরোনো নথি খুলে বসলেন।

সেই পুরোনো জমানার সামাজিক বাস্তবতা এমন ছিল যে কারখানার বড় বড় পদে শুধু বিশেষ একটি শ্রেণির পুরুষদেরই কাজের সুযোগ দেওয়া হতো, নারীদের বাড়ির বাইরে আসাই কঠিন ছিল। তরুণ কর্মকর্তা সেই পুরোনো খাতা দেখে একটি অলিখিত নিয়ম বানিয়ে নিলেন: 'ভালো ম্যানেজার হতে হলে নির্দিষ্ট বংশের পুরুষ হওয়া বাধ্যতামূলক!' এখন বর্তমান সময়ের একজন তুখোড় ও প্রতিভাবান নারী যখন সেই পদের জন্য আবেদন করেন, সেই কর্মকর্তা পুরোনো নিয়মের অজুহাতে তার ফাইলটি বাতিল করে দেন। তিনি ব্যক্তিগতভাবে কোনো বিদ্বেষ করেননি, কিন্তু তাকে যে খাতা দেওয়া হয়েছিল তা-ই ছিল একপেশে।

কম্পিউটারের কৃত্রিম বুদ্ধিমত্তা ঠিক এই তরুণ কর্মকর্তার মতোই আচরণ করে। তাকে শেখানোর জন্য ইন্টারনেটের যে কোটি কোটি বই, নথি ও পরিসংখ্যান দেওয়া হয়েছে, তার ভেতরেই মিশে আছে মানুষের বহু বছরের পুরোনো বৈষম্য ও সামাজিক কুসংস্কার। কম্পিউটার সেই পুরোনো তথ্যকেই চূড়ান্ত সত্য মেনে ভবিষ্যতের সিদ্ধান্তের ওপর সিলমোহর দেয়।

অ্যালগরিদমিক পক্ষপাতের মারাত্মক কুফল কোথায় কোথায় পড়তে পারে?

মানবজীবনের অত্যন্ত সংবেদনশীল বহু ক্ষেত্রে এই অদৃশ্য পক্ষপাত মানুষের মৌলিক অধিকার কেড়ে নিতে পারে:

• চাকরির আবেদনের স্বয়ংক্রিয় বাছাই: নারীদের কিংবা প্রত্যন্ত এলাকার দরিদ্র শিক্ষার্থীদের আবেদনকে কম্পিউটার কম নম্বর দিয়ে ইন্টারভিউয়ের আগেই বাতিল করে দেয়।
• ব্যাংক ঋণ ও ক্রেডিট স্কোর নির্ধারণ: নির্দিষ্ট কোনো এলাকা বা নির্দিষ্ট পেশার সাধারণ মানুষকে সফটওয়্যার ঝুঁকিপূর্ণ হিসেবে চিহ্নিত করে ন্যায্য ঋণ থেকে বঞ্চিত করে।
• আইনশৃঙ্খলা রক্ষা ও অপরাধ দমন: গায়ের গাঢ় রঙের মানুষের চেহারা শনাক্তে সফটওয়্যার বেশি ভুল করায় নির্দোষ ব্যক্তিরা অহেতুক সন্দেহের মুখে পড়েন।
• স্বাস্থ্যসেবা ও চিকিৎসার অগ্রাধিকার: ধনী রোগীদের পুরোনো ব্যয়ের রেকর্ড দেখে দরিদ্র রোগীকে চিকিৎসার কম প্রয়োজন বলে ভুল চিকিৎসা নীতি চাপানো হয়।

পক্ষপাত দূর করার উপায় এবং আমাদের মানবিক সতর্কতা

কম্পিউটারের হিসাবকে চূড়ান্ত মনে না করে মানবিক বিবেক ও ন্যায়ের দৃষ্টি দিয়ে তা যাচাই করা অত্যন্ত আবশ্যক।

• প্রশিক্ষণের জন্য সর্বজনীন ও ভারসাম্যপূর্ণ তথ্য ব্যবহার করুন: সফটওয়্যার তৈরির সময় সব অঞ্চল, লিঙ্গ ও ধর্মের মানুষের সমান প্রতিনিধিত্ব নিশ্চিত করা জরুরি।
• স্বয়ংক্রিয় সিদ্ধান্তের নিয়মিত নিরপেক্ষ অডিট করুন: প্রযুক্তি কারো সাথে অন্যায় আচরণ করছে কি না তা বিশেষজ্ঞ দল দিয়ে সময়ে সময়ে পরীক্ষা করাতে হবে।
• সংবেদনশীল সিদ্ধান্তের চূড়ান্ত ভার মানুষের হাতেই রাখুন: চাকরি, ঋণ বা আদালতের মতো গুরুত্বপূর্ণ বিষয়ে কম্পিউটার কেবল পরামর্শ দেবে, চূড়ান্ত সিদ্ধান্ত নেবে সজাগ বিবেকসম্পন্ন মানুষ।

প্রযুক্তি তখনই সার্থক ও সম্মানিত হয় যখন তা প্রতিটি মানুষের সমমর্যাদা নিশ্চিত করে। হিসাব-নিকাশের পর্দার আড়ালে লুকিয়ে থাকা অন্ধ কুসংস্কারকে হটিয়ে একটি মানবিক ও সুন্দর সমাজ গড়ে তোলাই আমাদের প্রধান দায়িত্ব।