পড়তে 4 মিনিট
অ্যালগরিদমিক পক্ষপাত: অঙ্কের হিসাবের মধ্যেও মানুষের অতীতের বৈষম্য কীভাবে ঢুকে পড়ে?
30 সেকেন্ডে সারাংশ
অ্যালগরিদমিক পক্ষপাত (Algorithmic Bias) হলো কম্পিউটার প্রোগ্রামে প্রবেশ করা এমন এক কাঠামোগত ও পুনরাবৃত্তিমূলক ত্রুটি, যা অতীতের পক্ষপাতদুষ্ট উপাত্তের ভিত্তিতে কোনো নির্দিষ্ট গোষ্ঠীকে অন্যায্যভাবে সুবিধা দেয় কিংবা অন্য কাউকে সুযোগ থেকে বঞ্চিত করে। কম্পিউটার নিজের থেকে কোনো বিদ্বেষ পোষণ করে না; বরং যে ঐতিহাসিক তথ্যের ওপর ভিত্তি করে সে শেখে, সেখানে থাকা মানবিক বৈষম্য ও ভারসাম্যহীনতার গাণিতিক পুনরাবৃত্তি ঘটায়।
অনেকেই মনে করেন কম্পিউটার যেহেতু আবেগহীন একটি যন্ত্র এবং এটি কেবল অঙ্কের হিসাবে কাজ করে, তাই এর নেওয়া সিদ্ধান্ত সবসময় মানুষের চেয়ে বেশি নিরপেক্ষ ও ন্যায়সঙ্গত হবে। তবে বাস্তবতা হলো, চাকরির আবেদন বাছাই, ব্যাংকের ঋণ অনুমোদন কিংবা অপরাধের ঝুঁকি মূল্যায়নে ব্যবহৃত কৃত্রিম বুদ্ধিমত্তা প্রায়শই মারাত্মক অন্যায্য ও পক্ষপাতদুষ্ট সিদ্ধান্ত দিয়ে বসে। প্রযুক্তির জগতে এই সমস্যাটিকে বলা হয় অ্যালগরিদমিক পক্ষপাত (Algorithmic Bias)। কম্পিউটার নিজে কোনো বিদ্বেষ পোষণ করে না; কিন্তু যে তথ্যের ওপর ভিত্তি করে তাকে প্রশিক্ষণ দেওয়া হয়, সেই তথ্যের ভেতরে লুকিয়ে থাকা মানুষের বহু বছরের ঐতিহাসিক বৈষম্যকেই সে অজান্তে প্রাতিষ্ঠানিক রূপ দেয়।
অতীতের উপাত্তের ফাঁদ এবং পরোক্ষ সূত্রের (প্রক্সি ভেরিয়েবল) কারিগরি রূপ
মেশিন লার্নিং মডেল কীভাবে মানুষের পক্ষপাত শিখে নেয়, তা গভীরভাবে অনুধাবন করা প্রয়োজন। কম্পিউটার কোনো বিমূর্ত নৈতিক মূল্যবোধ বোঝে না; সে কেবল প্রশিক্ষণ উপাত্তের মধ্যে থাকা সংখ্যার পুনরাবৃত্তি ও পারস্পরিক যোগসূত্র মুখস্থ করে। বৈষম্য মূলত তিনটি প্রধান কারিগরি পথে প্রবেশ করে:
- পরোক্ষ সূত্র বা প্রক্সি ভেরিয়েবলের ফাঁদ (Proxy Variable): মূল উপাত্ত থেকে বর্ণ বা লিঙ্গের মতো সংবেদনশীল তথ্য মুছে দিলেও পক্ষপাত দূর হয় না; কারণ জিপ কোড বা এলাকার নাম, নির্দিষ্ট শিক্ষাপ্রতিষ্ঠান কিংবা পছন্দের কেনাকাটার ধরন দেখে অ্যালগরিদম পরোক্ষভাবেই সেই লুকানো পরিচয় শনাক্ত করে ফেলে।
- ক্ষতিকর পুনরাবৃত্তির চক্র বা স্ব-শক্তিশালী ফিডব্যাক লুপ (Self-reinforcing Feedback Loop): অপরাধের পূর্বাভাসের অ্যালগরিদম যদি অতীতের পক্ষপাতদুষ্ট তথ্যের কারণে কোনো বিশেষ পাড়ায় বেশি পুলিশ টহল পাঠায়, তবে সেখানে স্বাভাবিকভাবেই বেশি মামলা নথিভুক্ত হয়; আর সেই নতুন তথ্য অ্যালগরিদমকে ভুল বিশ্বাস করায় যে ওই এলাকায় অপরাধের হার আসলেই বেশি।
- অতীতের ভুল মানবিক বাছাইয়ের অনুকরণ (Human Gatekeeping): ঋণ মঞ্জুর হওয়া বা পদোন্নতির যোগ্য বিবেচিত হওয়ার মতো যেসব ক্ষেত্রে অতীতে মানুষের মূল্যায়নকে ভিত্তি হিসেবে ব্যবহার করা হয়েছে, অ্যালগরিদম ব্যক্তির মেধার বদলে অতীতের বাছাইকারীদের পক্ষপাতমূলক মনোভাবকেই মুখস্থ করে ফেলে।
মানবিক সচেতন বিদ্বেষ এবং অ্যালগরিদমিক স্বয়ংক্রিয় বৈষম্যের মধ্যকার পার্থক্যটি প্রাতিষ্ঠানিক নিয়োগের ক্ষেত্রে অত্যন্ত স্পষ্ট। পুরোনো আমলের একজন পক্ষপাতদুষ্ট নিয়োগকারী হয়তো ইচ্ছাকৃতভাবে কোনো নির্দিষ্ট গোষ্ঠীর আবেদনপত্র বাতিল করতেন। অন্যদিকে একটি নামকরা প্রতিষ্ঠানের বিগত বিশ বছরের সফল পুরুষ প্রকৌশলীদের জীবনবৃত্তান্তের উপাত্তে প্রশিক্ষিত আধুনিক এআই স্ক্রিনিং সফটওয়্যার বাইরে থেকে সম্পূর্ণ নিরপেক্ষ দেখালেও ভয়াবহ বৈষম্য তৈরি করতে পারে। গবেষকরা প্রমাণ পেয়েছেন যে এমন মডেল স্বয়ংক্রিয়ভাবে 'নারী' শব্দযুক্ত আবেদনপত্র (যেমন 'মহিলা দাবা দলের অধিনায়ক') কিংবা নারী কলেজের স্নাতকদের কম নম্বর দেয়; কারণ তার পরিসংখ্যানিক হিসাবে অতীতে সফল কর্মীদের তালিকায় পুরুষ বৈশিষ্ট্যই স্বাভাবিক সফলতার মাপকাঠি হিসেবে চিহ্নিত হয়েছিল।
নিরীক্ষার কৌশল, পাল্টা পরীক্ষা এবং আইনি দায়বদ্ধতা
অ্যালগরিদমিক পক্ষপাত মোকাবিলায় অন্ধ প্রযুক্তিগত নির্ভরতা পরিহার করে কঠোর কারিগরি পরীক্ষা ও প্রাতিষ্ঠানিক নজরদারি নিশ্চিত করা অপরিহার্য:
- পাল্টা পরীক্ষা বা কাউন্টারফ্যাকচুয়াল নিরীক্ষা (Counterfactual Audit): অন্যান্য সব যোগ্যতা অপরিবর্তিত রেখে কেবল নাম, লিঙ্গ বা ঠিকানা পরিবর্তনের মাধ্যমে একই প্রোফাইল একাধিকবার সিস্টেমে জমা দিয়ে যাচাই করা হয় স্কোর অন্যায্যভাবে ওঠানামা করছে কি না।
- অসম ক্ষতিকর প্রভাব মূল্যায়ন (Disparate Impact): স্বয়ংক্রিয় সিদ্ধান্তের সামগ্রিক ফলাফল বিশ্লেষণ করে দেখা হয় কোনো নির্দিষ্ট প্রান্তিক জনগোষ্ঠী পরিসংখ্যানগতভাবে অন্যায্য ক্ষতির শিকার হচ্ছে কি না।
- আইনি অধিকার ও মানবিক পর্যালোচনার নিশ্চয়তা: ইউরোপীয় ইউনিয়নের এআই আইন (EU AI Act)-এর মতো আধুনিক নীতিমালায় স্পষ্ট করা হয়েছে যে মানুষের জীবন প্রভাবিত করা স্বয়ংক্রিয় সিদ্ধান্তের ক্ষেত্রে যৌক্তিক ব্যাখ্যা পাওয়ার এবং মানুষের দ্বারা পর্যালোচনার আইনি অধিকার থাকবে।
- ভারসাম্যপূর্ণ তথ্যভাণ্ডার সংগ্রহ: দায়িত্বশীল প্রযুক্তি প্রতিষ্ঠানগুলো জনসাধারণের জন্য সফটওয়্যার উন্মুক্ত করার আগেই প্রশিক্ষণ উপাত্তে প্রতিটি জনগোষ্ঠীর সমানুপাতিক প্রতিনিধিত্ব নিশ্চিত করতে সক্রিয় নিরীক্ষা চালায়।
অ্যালগরিদম কোনো নিরপেক্ষ বিচারক নয়; এগুলো কেবল আমাদের অতীতের আচরণেরই একটি গাণিতিক প্রতিফলন। গাণিতিক মডেলগুলো মানুষের অতীতের ভুলগুলোকেই স্থায়ী নীতিতে পরিণত করতে পারে—এই সত্য মেনে নেওয়াই হলো স্বচ্ছ নিরীক্ষা, আইনি জবাবদিহিতা এবং মানুষের মর্যাদার উপযোগী প্রযুক্তির বিকাশের প্রথম পদক্ষেপ। ডিজিটাল সেবায় অন্যায্য সিদ্ধান্তের মুখে পড়লে অ্যালগরিদমের সিদ্ধান্তের পেছনের সুনির্দিষ্ট কারণ জানতে চাওয়া এবং মানুষের সরাসরি পুনর্বিবেচনা দাবি করা প্রত্যেক নাগরিকের ন্যায্য অধিকার।
উৎস
- Towards a Standard for Identifying and Managing Bias in Artificial IntelligenceNational Institute of Standards and Technology
- On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?ACM Conference on Fairness, Accountability, and Transparency (FAccT)