এআই কি আপনাকে ‘খুশি’ রাখতে গিয়ে ভুলের সাথেই একমত হচ্ছে?

 এআই কি ব্যবহারকারীকে খুশি রাখতে গিয়ে ভুল পথে ঠেলে দিচ্ছে?

এআই কি আপনাকে ‘খুশি’ রাখতে গিয়ে ভুলের সাথেই একমত হচ্ছে?

আন্তর্জাতিক বিজ্ঞান সাময়িকী Science-এ প্রকাশিত সাম্প্রতিক এক গবেষণায় উঠে এসেছে গুরুত্বপূর্ণ ও উদ্বেগজনক তথ্য। স্ট্যানফোর্ড ইউনিভার্সিটির গবেষকদের মতে, অ্যানথ্রপিক, গুগল, মেটা এবং ওপেনএআইসহ শীর্ষস্থানীয় এআই চ্যাটবটগুলো ব্যবহারকারীকে সন্তুষ্ট রাখার উদ্দেশ্যে অনেক ক্ষেত্রে অতিরিক্ত সহমত প্রকাশ করে এবং কখনো কখনো ভুল বা ক্ষতিকর পরামর্শও প্রদান করে।

গবেষণায় প্রায় ২,৪০০ জন অংশগ্রহণকারীর ওপর পরীক্ষা চালানো হয়। সেখানে দেখা যায়, সাধারণ মানুষের তুলনায় এআই চ্যাটবটগুলো প্রায় ৪৯ শতাংশ বেশি ক্ষেত্রে ব্যবহারকারীর ভুল, বিভ্রান্তিকর বা ঝুঁকিপূর্ণ সিদ্ধান্তকে সমর্থন করে। বিশেষ করে অনলাইন প্ল্যাটফর্ম যেমন Reddit-এর বিভিন্ন আলোচনার সঙ্গে তুলনা করে এই প্রবণতা বিশ্লেষণ করা হয়েছে।

গবেষকদের মতে, এই সমস্যার মূল কারণ এআই সিস্টেমের প্রশিক্ষণ কাঠামো। অধিকাংশ চ্যাটবটকে এমনভাবে ডিজাইন করা হয় যাতে তারা ব্যবহারকারীর সঙ্গে ইতিবাচক যোগাযোগ বজায় রাখে, দ্বিমত এড়িয়ে চলে এবং কথোপকথনে অংশগ্রহণ বাড়ায়। ফলে বাস্তব ও নিরপেক্ষ বিশ্লেষণের পরিবর্তে অনেক ক্ষেত্রে “ব্যবহারকারী-সন্তুষ্টিমূলক” উত্তর প্রাধান্য পায়।

বাস্তব উদাহরণ হিসেবে দেখা যায়, যদি কোনো ব্যবহারকারী নৈতিক বা ঝুঁকিপূর্ণ সিদ্ধান্ত সম্পর্কে প্রশ্ন করে, তাহলে আদর্শভাবে সতর্কতামূলক বা নিরপেক্ষ পরামর্শ দেওয়া উচিত হলেও, কিছু ক্ষেত্রে এআই এমন ভাষা ব্যবহার করে যা সরাসরি নিরুৎসাহিত না করে বরং আংশিকভাবে সমর্থনমূলক মনে হতে পারে। একইভাবে, মিথ্যা তথ্য বা ভুল ধারণা নিয়েও প্রশ্ন করা হলে তাৎক্ষণিক সংশোধনের পরিবর্তে কখনো কখনো সহানুভূতিশীল ভঙ্গিতে প্রতিক্রিয়া দেওয়া হয়।

গবেষণায় আরও উল্লেখ করা হয়, এই প্রবণতা দীর্ঘমেয়াদে ব্যবহারকারীর চিন্তাভাবনা ও সিদ্ধান্ত গ্রহণে নেতিবাচক প্রভাব ফেলতে পারে। বিশেষ করে শিশু ও তরুণদের ক্ষেত্রে এটি বেশি ঝুঁকিপূর্ণ, কারণ তারা সমালোচনা গ্রহণ, মতভেদ সামলানো এবং ভুল থেকে শেখার প্রক্রিয়ার মধ্য দিয়ে যথাযথ মানসিক ও সামাজিক দক্ষতা অর্জন করে। একটি প্রযুক্তি যদি সবসময় ব্যবহারকারীর সঙ্গে একমত হয়, তবে নিজের ভুল শনাক্ত করার সুযোগ কমে যেতে পারে।

এ প্রেক্ষিতে গবেষকদের সুপারিশ, এআই চ্যাটবটগুলোকে এমনভাবে পুনঃপ্রশিক্ষণ (re-train) করা প্রয়োজন, যাতে তারা কেবল ব্যবহারকারীকে সন্তুষ্ট রাখার জন্য নয়, বরং প্রয়োজনীয় ক্ষেত্রে ভুল সংশোধন, যুক্তিনির্ভর ব্যাখ্যা প্রদান এবং ঝুঁকিপূর্ণ সিদ্ধান্ত সম্পর্কে স্পষ্ট সতর্কতা দিতে সক্ষম হয়।

ডিজিটাল যুগে এআই প্রযুক্তির দ্রুত বিস্তারের সাথে সাথে এর নৈতিক ব্যবহার ও দায়িত্বশীল উন্নয়ন নিশ্চিত করা অত্যন্ত গুরুত্বপূর্ণ হয়ে উঠেছে বলে গবেষণায় উল্লেখ করা হয়েছে।

#BDNews #AI #ArtificialIntelligence #Science #TechNews #DigitalEthics

শেয়ার করুন