এআইয়ের বানানো ভুল: কম্পিউটার পূর্ণ আত্মবিশ্বাসের সাথে মনগড়া তথ্য কেন পরিবেশন করে?

আপনি হয়তো কোনো এআই চ্যাটবটকে ঐতিহাসিক ঘটনার সাল, প্রাচীন গ্রন্থের উদ্ধৃতি কিংবা পুরোনো রায়ের তথ্য জানতে চেয়েছেন। চোখের পলকে স্ক্রিনে উত্তর ভেসে ওঠে। লেখার গঠন চমৎকার, কথা বলার ধরন আত্মবিশ্বাসী এবং বিবরণগুলো আপাতদৃষ্টিতে নিখুঁত মনে হয়। কিন্তু মূল বই বা নথিতে মেলাতে গেলে ধরা পড়ে: ঘটনাটি অন্য সালে ঘটেছিল, লেখক কোনোদিন ওই বাক্য লেখেননি, কিংবা ওই নামের কোনো বই বা মামলার বাস্তব অস্তিত্বই ছিল না! পড়ার সময় সম্পূর্ণ নির্ভরযোগ্য মনে হলেও মূল তথ্যগুলো ছিল খাঁটি কল্পনা।

প্রযুক্তির জগতে কম্পিউটারের এই বানিয়ে বলার আচরণকে এআই হ্যালুসিনেশন (AI Hallucination বা কল্পিত ভুল) বলা হয়। কম্পিউটার কোনো অসৎ উদ্দেশ্যে মিথ্যা বলে না, কিংবা কাউকে প্রতারণা করার ইচ্ছেও তার নেই। আধুনিক ভাষা মডেলগুলোর প্রাথমিক নির্মাণ কৌশলের ভেতরেই এই সমস্যা লুকিয়ে রয়েছে। এই সফটওয়্যারগুলো কোনো স্বয়ংসম্পূর্ণ বিশ্বকোষ (বা এনসাইক্লোপিডিয়া) কিংবা তথ্যের স্থায়ী ডিজিটাল ভাণ্ডার নয়। বরং এগুলো হলো শব্দের সম্ভাবনা মেলানোর গাণিতিক ব্যবস্থা (ল্যাঙ্গুয়েজ ইঞ্জিন বা Language Engine), যা পূর্ববর্তী শব্দের ওপর ভিত্তি করে পরবর্তী শব্দটির সম্ভাব্য রূপ হিসাব করে।

বাস্তব তথ্য খোঁজার বদলে শব্দের সম্ভাবনা হিসাব করা

আপনি যখন চ্যাটবটে কোনো প্রশ্ন লেখেন, সফটওয়্যারটি প্রথমে আপনার বাক্যকে কিছু ছোট গাণিতিক অংশে বা শব্দাংশে ভাগ করে, যাকে প্রযুক্তির ভাষায় টোকেন (Token) বলা হয়। এরপর ইন্টারনেটের কোটি কোটি লেখার নথিপত্র ঘেঁটে শেখা ধারণার সাথে এটি আপনার প্রশ্নটিকে তুলনা করে। কম্পিউটার ধাপে ধাপে হিসাব করে যে এই বাক্যে ব্যাকরণ ও ভাষার স্বাভাবিক ছন্দ বজায় রাখতে কোন শব্দের পর কোন শব্দ বসা সবচেয়ে স্বাভাবিক ও মানানসই হবে। এটি লেখার স্বাভাবিক প্রবাহ এবং বাক্যের কাঠামোগত সৌন্দর্যের দিকেই কেবল নজর দেয়। কিন্তু কোনো কথা শুনতে বিশ্বাসযোগ্য মনে হওয়া আর বাস্তব জীবনে সত্যি হওয়ার মধ্যে আকাশ-পাতাল ব্যবধান রয়েছে। কম্পিউটারের যেহেতু বাস্তব জগৎ দেখার বা বোঝার ক্ষমতা নেই, সে তার তৈরি করা বাক্য বাস্তব সত্যের কষ্টিপাথরে কখনো যাচাই করে না। কোনো মনগড়া তথ্য যদি ব্যাকরণগতভাবে মানানসই ও চমৎকার শোনায়, কম্পিউটার সম্পূর্ণ সত্যি তথ্যের সমান আত্মবিশ্বাস নিয়েই সেটি তুলে ধরে।

সাবলীল মনগড়া তথ্যের কারণে বাস্তব ঝুঁকি যেখানে তৈরি হয়

কোনো কাল্পনিক গল্প বা কবিতা লেখার ক্ষেত্রে এই স্বভাব আনন্দদায়ক হতে পারে, কিন্তু প্রাত্যহিক পেশাগত কাজ বা প্রাতিষ্ঠানিক সিদ্ধান্তের ক্ষেত্রে এটি মারাত্মক ঝুঁকি ডেকে আনে। আইন পেশায় আইনজীবীরা অনেক সময় মামলার রেফারেন্স খুঁজতে গিয়ে এমন কিছু কাল্পনিক রায়ের খসড়া পান, যেখানে আদালতের ভুয়া নথি নম্বর, আসল বিচারকদের মনগড়া মন্তব্য এবং কাল্পনিক আইনি যুক্তির নিখুঁত মিশ্রণ তৈরি করে রাখা হয়েছে। শিক্ষাক্ষেত্রে শিক্ষার্থীরা গবেষণার কাজে এমন সব জার্নাল বা বইয়ের উদ্ধৃতি খুঁজে পায় যা কোনো গবেষক কোনোদিন লেখেননি। চিকিৎসা সংক্রান্ত তথ্যের ক্ষেত্রে চ্যাটবট কখনো কখনো আসল রোগের লক্ষণের সাথে ক্ষতিকর বা ভুল ওষুধের মাত্রা এমনভাবে জুড়ে দেয় যে তা একজন পেশাদার চিকিৎসকের নির্দেশনার মতো শোনায়।

সার্চ গ্রাউন্ডিং এবং টেম্পারেচার নিয়ন্ত্রণের প্রযুক্তিগত সমাধান

কম্পিউটারের এই বানিয়ে বলার অভ্যাস কমাতে প্রকৌশলীরা নির্ভরযোগ্য তথ্যভাণ্ডার থেকে লেখা এনে উত্তর তৈরির পদ্ধতি (রিট্রিভাল-অগমেন্টেড জেনারেশন বা সংক্ষেপে RAG) এবং তথ্য যাচাইয়ের কৌশল (সার্চ গ্রাউন্ডিং বা Search Grounding) ব্যবহার করেন। কেবল অনুমানের ওপর ভরসা না করে সিস্টেমটিকে বাইরের সুনির্দিষ্ট তথ্যভাণ্ডার বা সার্চ ইঞ্জিনের সাথে যুক্ত করা হয়। আপনি প্রশ্ন করলে কম্পিউটার প্রথমে নির্ভরযোগ্য নথি বা ডেটাবেজ থেকে আসল তথ্য সংগ্রহ করে। এরপর সেই তথ্যের পরিধির ভেতর থেকেই কেবল নিজের ভাষায় উত্তর সাজায়, ফলে লেখার স্বাভাবিকতা অক্ষুণ্ণ রেখেই বাস্তব তথ্যের সাথে সংযোগ অটুট থাকে।

এর পাশাপাশি সিস্টেমের শব্দ বেছে নেওয়ার স্বাধীনতা বা কল্পনাশক্তির মাত্রাও (প্রযুক্তির ভাষায় যাকে টেম্পারেচার বা Temperature বলা হয়) গুরুত্বপূর্ণ ভূমিকা রাখে। টেম্পারেচারের মান যখন শূন্যের কাছাকাছি রাখা হয়, তখন অ্যালগরিদম প্রতিটি ধাপে সবচেয়ে নির্ভরযোগ্য ও সাধারণ শব্দগুলো বেছে নেয়, যার ফলে উত্তরটি খুব সাবধানী ও সুনির্দিষ্ট হয়। অন্যদিকে সৃজনশীল ভাবনার জন্য যখন এই মাত্রা বাড়িয়ে দেওয়া হয়, তখন কম্পিউটার তুলনামূলক অপ্রচলিত শব্দের দিকে ঝুঁকে পড়ে। কবিতার ক্ষেত্রে এই বৈচিত্র্য চমৎকার হলেও তথ্যভিত্তিক অনুসন্ধানে এটি ভুয়া তথ্য সৃষ্টির ঝুঁকি বাড়িয়ে দেয়।

সুনির্দিষ্ট সীমানা বেঁধে প্রশ্ন করার বাস্তব কৌশল

আপনি যেভাবে প্রশ্ন বা কাজের লিখিত নির্দেশ (যাকে প্রম্পট বা Prompt বলা হয়) লিখছেন, তার ওপরও ভুলের সম্ভাবনা অনেকাংশে নির্ভর করে। কোনো যাচাইবিহীন তথ্যের ওপর দাঁড়িয়ে যখন একটি খোলামেলা প্রশ্ন করা হয়—যেমন 'কোন সালে এই বিশেষ আইনটি পাস হয়েছিল?'—তখন চ্যাটবট ধরে নেয় যে ঘটনাটি সত্যি এবং যেকোনো মূল্যে উত্তর শেষ করার সামাজিক তাগিদ অনুভব করে। ফলে উত্তর পূর্ণ করতে গিয়ে সে কাল্পনিক তারিখ বা আলোচনার সারসংক্ষেপ বানিয়ে ফেলে।

এবার খোলামেলা প্রশ্নের বিপরীতে সীমানা নির্ধারণ করে দেওয়া একটি প্রশ্নের বাস্তব তুলনা দেখুন: 'নিচে দেওয়া প্রাতিষ্ঠানিক বিজ্ঞপ্তির প্রধান শর্তগুলো সংক্ষেপে লেখো। বিজ্ঞপ্তিতে যদি কোনো নির্দিষ্ট তারিখের উল্লেখ না থাকে, তবে স্পষ্ট ভাষায় জানাও যে তারিখ দেওয়া নেই।' এই পদ্ধতিতে সরাসরি মূল তথ্যটি সরবরাহ করায় এবং তথ্য না থাকলে 'নেই' বলার স্পষ্ট অনুমতি দেওয়ায় কম্পিউটার আন্দাজে গল্প বানানোর পথ থেকে সরে আসে। সে তখন বাইরে থেকে অনুমান না করে কেবল সামনে উপস্থিত তথ্যটুকুই সংক্ষেপ করে।

প্রাত্যহিক ব্যবহারের সতর্কতা ও যাচাইয়ের অভ্যাস

কৃত্রিম বুদ্ধিমত্তার সুবিধাকে নিরাপদে উপভোগ করতে হলে এটিকে চূড়ান্ত সত্যের ভাণ্ডার মনে না করে একজন সৃজনশীল সহকারী হিসেবে গ্রহণ করাই বুদ্ধিমানের কাজ। কোনো চিঠির ভাষা সুন্দর করা, নতুন ধারণার খসড়া তৈরি কিংবা লেখার ব্যাকরণ ঠিক করতে এটি দারুণ উপযোগী। কিন্তু যেখানেই সুনির্দিষ্ট সংখ্যা, ঐতিহাসিক সাল, আইনি ধারা বা প্রযুক্তিগত পরিমাপের বিষয় থাকবে, সেখানেই মূল সরকারি নথি, প্রাতিষ্ঠানিক প্রতিবেদন বা নির্ভরযোগ্য বই থেকে তথ্যটি নিজে মিলিয়ে নেওয়া আবশ্যক।

সবচেয়ে বড় সতর্কতা হলো, তথ্যের সত্যতা যাচাইয়ের জন্য কখনো সেই একই চ্যাটবটের ওপর নির্ভর করবেন না। কোনো তথ্যের সত্যতা নিয়ে তাকে জেরা করলে সে নিজের প্রথম ভুলটি ঢাকতে গিয়ে মনগড়া প্রকাশনীর নাম বা কাল্পনিক পৃষ্ঠাসংখ্যার আরও একটি নতুন গল্পের জাল বুনে দিতে পারে। তথ্যের যাচাই সবসময় এআইয়ের প্রভাবমুক্ত বাইরের নির্ভরযোগ্য উৎস থেকে স্বাধীনভাবে সম্পন্ন করাই নিজেকে বিভ্রান্তিমুক্ত রাখার একমাত্র উপায়।