এআইয়ের বানানো ভুল: কম্পিউটার পূর্ণ আত্মবিশ্বাসের সাথে মনগড়া তথ্য কেন পরিবেশন করে?

অনর্গল কথা বলা কম্পিউটার হঠাৎ বানিয়ে বানিয়ে মিথ্যা বলে কেন?

আপনি কি কখনো কোনো কৃত্রিম বুদ্ধিমত্তা চ্যাটবটকে বাংলার কোনো ঐতিহাসিক ঘটনার সাল, প্রাচীন কোনো গ্রন্থের নাম বা আদালতের কোনো পুরোনো রায় সম্পর্কে জানতে চেয়েছেন? অনেক সময় কম্পিউটার এমন মিষ্টি, প্রাঞ্জল ও পণ্ডিতের মতো জবাব দেয় যে চোখ জুড়িয়ে যায়। উত্তরের ভেতর বইয়ের অধ্যায়ের নাম থাকে, লেখকের নিখুঁত বর্ণনা থাকে এবং সুনির্দিষ্ট সালের উল্লেখও থাকে। কিন্তু আপনি যখন সেই বইটি বাজারে বা লাইব্রেরিতে খুঁজতে যান, তখন তাজ্জব হয়ে দেখেন যে ওই নামের কোনো বই বা লেখক পৃথিবীর বুকে কোনোদিন ছিলই না! কম্পিউটার নিজের মনের মাধুরী মিশিয়ে পুরো গল্পটি সাজিয়ে দিয়েছে।

প্রযুক্তির জগতে এই বিষয়টিকে এআই হ্যালুসিনেশন বা কল্পিত ভুল বলা হয়। কম্পিউটার কোনো অসৎ উদ্দেশ্যে মিথ্যা বলে না। তার নিজস্ব কোনো বিবেক বা সত্য-মিথ্যা পরখ করার ইন্দ্রিয় নেই; সে কেবল শব্দের সুন্দর মালা গাঁথতে পারদর্শী এক যান্ত্রিক কারিগর।

গ্রামের আসরের রসালো গল্পকার ও হারিয়ে যাওয়া পাতা

এই বিষয়টি পরিষ্কারভাবে বুঝতে গ্রামের আসরের একজন রসালো ও প্রাণবন্ত গল্পকারের কথা চিন্তা করুন। এই গল্পকার ছোটবেলা থেকে শত শত রূপকথা, পুঁথির পালা আর রাজরাজড়াদের গল্প শুনেছেন। তিনি যখন গ্রামের বটতলায় বসে গল্প বলতে শুরু করেন, তখন চারপাশের মানুষ কাজ ফেলে মুগ্ধ হয়ে শুনতে থাকে। এবার ধরুন, গল্পকারের হাতে থাকা পুরোনো পুঁথির মাঝের একটি পৃষ্ঠা ছেঁড়া এবং যুদ্ধের পর রাজকন্যার কী পরিণতি হয়েছিল তা সেখানে লেখা নেই।

এখন সেই আমুদে গল্পকার কিন্তু শ্রোতাদের সামনে থেমে গিয়ে বলবেন না যে 'আমার মনে নেই'। তার গল্প বলার অসাধারণ দক্ষতা কাজে লাগিয়ে তিনি সেই একই গম্ভীর সুরে, একই ওজস্বী ভাষায় নিজের কল্পনা থেকে একটি রোমাঞ্চকর ঘটনা বানিয়ে বলতে থাকেন। শ্রোতারা মনে করে পুঁথিতে নিশ্চয়ই এমনটিই লেখা আছে, কারণ গল্পকারের মুখে কোনো দ্বিধার ছাপ নেই। গল্পকারের একমাত্র উদ্দেশ্য হলো গল্পের আসর জমিয়ে রাখা, বাস্তব সত্যের দিকে তার বিন্দুমাত্র খেয়াল নেই।

কম্পিউটারের ভাষা মডেলগুলো ঠিক এই আসর জমানো গল্পকারের মতোই কাজ করে। আপনি যখন তাকে কোনো কঠিন প্রশ্ন করেন, সে কোন শব্দের পর কোন শব্দ বসালে সবচেয়ে সুন্দর ও যৌক্তিক শোনাবে তার গাণিতિક হিসাব করে। যেখানে তার কাছে সঠিক তথ্য থাকে না, সেই শূন্যস্থান ঢাকতে সে নিজের কল্পনাশক্তির জোরে ভুয়া তথ্য বসিয়ে দেয়।

বাস্তব কাজের ক্ষেত্রে এই ভুলের কারণে কোথায় ঝুঁকি তৈরি হয়?

কম্পিউটারের কথা বলার ধরন অত্যন্ত জ্ঞানী মানুষের মতো হওয়ায় মানুষ যাচাই না করে বিশ্বাস করে বড় বিপদে পড়তে পারে:

• শিক্ষার্থীদের পড়াশোনা ও অ্যাসাইনমেন্ট: স্কুল বা বিশ্ববিদ্যালয়ের শিক্ষার্থীরা গবেষণার তথ্য চাইলে কম্পিউটার অনেক সময় অস্তিত্বহীন বিজ্ঞানী বা ভুয়া উদ্ধৃতি বানিয়ে দেয়।
• আইনি ও দাপ্তরিক নথিপত্র তৈরি: আইনজীবীরা মামলার পুরোনো রেফারেন্স খুঁজতে গিয়ে এমন কিছু রায়ের উল্লেখ পান যা কোনো আদালতে কখনো ঘটেনি।
• চিকিৎসা ও ঘরোয়া চিকিৎসার পরামর্শ: রোগবালাইয়ের বিষয়ে প্রশ্ন করলে অনেক সময় ক্ষতিকর ভেষজ উপাদানকে সম্পূর্ণ নিরাপদ ওষুধ হিসেবে বর্ণনা করে বিভ্রান্তি ছড়ায়।
• সংবাদ ও দীর্ঘ লেখার সারসংক্ষেপ: কোনো বড় নিবন্ধের মূল ভাব সংক্ষেপ করতে গিয়ে কম্পিউটার অনেক সময় নিজের মনগড়া সিদ্ধান্ত লেখার ভেতরে জুড়ে দেয়।

ভুল তথ্য থেকে সতর্ক থাকার উপায় ও যাচাইয়ের অভ্যাস

কৃত্রিম বুদ্ধিমত্তা হলো নতুন ভাবনা তৈরি করা, লেখার কাঠামো সাজানো বা অনুবাদের জন্য এক অসাধারণ হাতিয়ার, কিন্তু এটিকে চূড়ান্ত তথ্যের ভাণ্ডার মনে করা মারাত্মক ভুল।

• সাল, সংখ্যা ও নীতিমালার তথ্য নিজ দায়িত্বে যাচাই করুন: কম্পিউটারের দেওয়া কোনো সংখ্যার ওপর অন্ধবিশ্বাস না রেখে সরকারি ওয়েবসাইট বা নির্ভরযোগ্য বই দেখে নিশ্চিত হোন।
• তথ্যের মূল উৎস বা রেফারেন্সের সত্যতা জানতে চান: চ্যাটবটকে জিজ্ঞেস করুন 'এই তথ্যের সুনির্দিষ্ট উৎস কী?' এতে অনেক সময় সে নিজের ভুল স্বীকার করে নেয়।
• লেখার ভাষা পরিমার্জনে এআই ব্যবহার করুন, তথ্যের প্রমাণ হিসেবে নয়: ভাষার সৌন্দর্য বাড়াতে এটি সেরা সহকারী, তবে সত্যতা প্রমাণের দায়িত্ব সবসময় মানুষের হাতেই থাকা উচিত।

আত্মবিশ্বাসের সাথে কথা বলা মানেই সত্য বলা নয়। কম্পিউটার যে শুধুই শব্দ সাজানোর দক্ষ কারিগর—এই সাধারণ সত্যটি মাথায় রাখলে আমরা তার বানানো ভুলে বিভ্রান্ত না হয়ে প্রযুক্তির সুফলকে সুন্দরভাবে কাজে লাগাতে পারব।