অক্সফোর্ড ও কেনটাকি বিশ্ববিদ্যালয়ের গবেষকদের একটি যৌথ গবেষণায় উঠে এসেছে যে ChatGPT ভৌগোলিক পক্ষপাত প্রদর্শন করে। গত বছরের মার্চ থেকে মে মাস পর্যন্ত GPT-4o-মিনি মডেলে 20 মিলিয়নের বেশি প্রশ্ন করে গবেষকরা দেখেছেন যে AI মডেলটি নির্দিষ্ট রাজ্যকে বুদ্ধিমত্তা, সৌন্দর্য ও গন্ধের ভিত্তিতে শ্রেণীবদ্ধ করে। ম্যাসাচুসেটসকে সবচেয়ে স্মার্ট এবং কেনটাকিকে সবচেয়ে বোকা বলা হয়েছে।

গবেষণায় দেখা গেছে, সরাসরি প্রশ্নের উত্তরে মডেলটি পক্ষপাত অস্বীকার করলেও, জোরপূর্বক পছন্দের প্রম্পটে সে স্পষ্ট পছন্দ করে। মিসিসিপি, যেখানে কৃষ্ণাঙ্গ জনসংখ্যা বেশি, সেখানকার মানুষকে সবচেয়ে ‘অজ্ঞ’ বলা হয়েছে। এটি প্রশিক্ষণ ডেটার বর্ণবাদ ও সামাজিক পক্ষপাতের প্রতিফলন বলে মনে করা হচ্ছে।

গবেষক ম্যাট জুক বলেছেন, মডেলটি সমাজে প্রচলিত কুসংস্কারকে শক্তিশালী করছে। OpenAI দাবি করেছে যে গবেষণাটি পুরনো মডেলের উপর ভিত্তি করে, কিন্তু পক্ষপাত কমানোর চেষ্টা চলছে। এই পক্ষপাত চাকরির সিদ্ধান্ত, নিয়োগ এবং অন্যান্য বাস্তব ক্ষেত্রে প্রভাব ফেলতে পারে।