পক্ষপাতের ছায়া: যখন এআই সমাজকে প্রতিফলিত করে
কৃত্রিম বুদ্ধিমত্তা তীব্র গতিতে এগিয়ে চলছে, আমাদের জীবনের বিভিন্ন দিক বিপ্লব ঘটানোর প্রতিশ্রুতি দিয়ে। তবে, MIT Technology Review-এর একটি সাম্প্রতিক তদন্ত একটি গভীর এবং প্রায়ই উপেক্ষিত সমস্যার বিষয়ে সতর্কতা জাগায়: ওপেনএআই-এর যেমন ChatGPT, GPT-5 এবং এমনকি ভিডিওর জন্য টেক্সট জেনারেটর Sora-এর এআই মডেলগুলিতে জাতপাতের পক্ষপাত। ভারত, ওপেনএআই-এর দ্বিতীয় বৃহত্তম বাজার হওয়ায়, এই সমস্যা আরও গুরুতর হয়ে ওঠে।
微信分享
打开微信，扫描下方二维码。
ধীরাজ সিঙ্ঘার প্রচলিত ঘটনা
ভারতের একজন পরবর্তী গবেষক ধীরাজ সিঙ্ঘ শুধুমাত্র তার অ্যাপ্লিকেশনের ইংরেজি উন্নত করার জন্য ChatGPT-এর সাহায্য চাইছিলেন। তার বিস্ময়ের বিষয়, চ্যাটবট শুধু তার লেখাটি সংশোধন করেনি, বরং তার শেষ নাম “সিঙ্ঘ” থেকে “শর্মা” পরিবর্তন করে দিয়েছে। যেখানে “শর্মা” привিলেজযুক্ত জাতিগোষ্ঠীর সঙ্গে যুক্ত, সেখানে “সিঙ্ঘ” ডালিত উৎস নির্দেশ করে, যারা ঐতিহাসিকভাবে অবহেলিত। সিঙ্ঘের এই অভিজ্ঞতা তার জীবনের মাইক্রোঅ্যাগ্রেশনগুলোর সাথে সুর মিলিয়েছে, যা ইঙ্গিত দেয় যে এআই সমাজের বিদ্যমান পক্ষপাতকে প্রতিফলিত করতে পারে এবং এমনকি তা বাড়িয়ে তোলে। এই ঘটনা এই প্রযুক্তিগুলোর বিশ্বাসযোগ্যতা এবং সামাজিক প্রভাব সম্পর্কে প্রশ্ন তোলে, যা আরও গভীর হয় যখন আমরা স্বায়ত্তশাসিত সিস্টেমের সাথে মানুষের জটিল সম্পর্ক বিবেচনা করি। এআই-এর স্বায়ত্তশাসন নিয়ে বিস্তৃত দৃষ্টিভঙ্গির জন্য, আমাদের নিবন্ধটি দেখুন DeFi-তে AI এজেন্ট: আর্থিক ক্ষেত্রে স্বায়ত্তশাসিত বিপ্লব।
পরীক্ষাগুলো দেখায় সিস্টেমেটিক পক্ষপাত
হার্ভার্ড বিশ্ববিদ্যালয়ের এক গবেষকের সঙ্গে কাজ করে, MIT Technology Review এআই পক্ষপাতের নিরপেক্ষতা অধ্যয়ন থেকে অনুপ্রাণিত পরীক্ষা তৈরি করেছে। বৃহৎ ভাষার মডেলগুলোকে (LLMs) “ডালিত” এবং “ব্রাহ্মণ” বিকল্প থেকে স্টেরিওটাইপিক বাক্যাংশ বেছে নিতে বলা হয়। ফলাফল চাঞ্চল্যকর ছিল: GPT-5 পরীক্ষিত ১০৫ বাক্যের মধ্যে ৮০ টিতে স্টেরিওটাইপিক উত্তর দিয়েছে, যেমন “মেধাবী মানুষ ব্রাহ্মণ” এবং “ন্যায্যকার্য পরিষ্কারকারী ডালিত”।
অবস্থা আরও গুরুতর ওপেনএআই-এর ভিডিওর জন্য টেক্সট জেনারেটর Sora-র ক্ষেত্রে। “একজন ডালিত ব্যক্তি” চাওয়ার সময়, মডেলটি গন্ধযুক্ত পোশাকের এমন গা কাঁটা লোকজনের ছবি তৈরি করেছে, যার হাতে ঝাড়ু এবং গর্তের মধ্যে দাঁড়িয়ে থাকা। কিছু ক্ষেত্রে, “ডালিত আচরণ” এর উত্তর হিসেবে ডালমেটিয়ান কুকুরের ছবি এসেছে, যা একটি বিদেশী এবং গভীরভাবে অপমানজনক সংযুক্তি সূচিত করে, কারণ ডালিতদের পশুর সঙ্গে তুলনা করার ঐতিহাসিক সংবেদনশীলতা বিবেচনা করলে। এই ধরনের ক্ষতিকর উপস্থাপনা আমাদের শুধু বর্তমান নয়, ডিজিটাল অন্তর্ভুক্তি এবং এআইয়ের খরচ একটি বিস্তৃত অর্থে সামাজিক ও নৈতিক প্রভাব নিয়ে প্রশ্ন তোলে।
GPT-5-এর আশ্চর্যজনক পশ্চাৎপদ এবং শিল্পের অন্ধত্ব
আশ্চর্যের বিষয়, পূর্ববর্তী মডেল GPT-4o-এর পরীক্ষা কম পক্ষপাত দেখিয়েছিল। এটি প্রায়শই চরম নেতিবাচক বর্ণনামূলক বাক্য শেষ করতে অস্বীকার করতো। কিন্তু GPT-5 প্রায় কেউ অস্বীকার করেনি। বিশ 전문가 বলছেন, বন্ধ কোডের মডেলগুলোর স্বচ্ছতার অভাব পরিবর্তনগুলো ট্র্যাক করা এবং সুরক্ষা ফিল্টার সরানোর পরিমাপ কঠিন করে তোলে।
সমস্যাটি কাঠামোগত: সাধারণত, এআই শিল্প জাতপাত পরীক্ষায় মনোযোগ দেয় না। সামাজিক পক্ষপাত পরিমাপের শিল্প মান, BBQ (Bias Benchmarking for Question and Answer), এই ক্যাটাগরিটি অন্তর্ভুক্ত করে না, এটি পশ্চিমা পক্ষপাতগুলোর ওপর কেন্দ্রীভূত। অর্থাৎ, পরিমাপ ছাড়া সমস্যার সমাধান সম্ভব নয়। মানুষের এবং কৃত্রিম বুদ্ধিমত্তার মধ্যে মিথস্ক্রিয়ার সীমা নিয়ে আলোচনা ক্রমবর্ধমান প্রাসঙ্গিক হয়ে উঠছে, যা প্রশ্ন তোলে: এআই এবং অনুভূতি: সংযোগ এবং বিপজ্জনক নির্ভরতার মধ্যে সীমা কোথায়?
আরো ন্যায়সঙ্গত এআই-এর তালে
ভারতীয় গবেষকরা নতুন বেঞ্চমার্ক তৈরি করছেন, যেমন BharatBBQ, বিশেষ করে ভারতের sociocultural পক্ষপাত চিহ্নিত করতে। তারা বলছেন যে জাতপাত ব্যবস্থা অনবরত বিদ্যমান থাকার স্বীকৃতি না পাওয়া, তথ্য সংগ্রহ ও এআই মডেলের প্রশিক্ষণে অন্যতম প্রধান কন্ডাক্টর। ওপেনএআই ভারতে সস্তা সেবার বিস্তার ঘটানোর সাথে সাথে, “পরিষেবা প্রদত্ত সমাজের জন্য উপযোগী রক্ষা ব্যবস্থা” থাকা জীবনোপযোগী হয়ে উঠেছে যাতে বৈষম্য বাড়ানো এড়ানো যায়। বৈশ্বিক প্রযুক্তি সম্প্রদায়কে একত্র হয়ে নিশ্চিত করতে হবে যে এআই উন্নয়ন প্রকৃতপক্ষে ন্যায়সঙ্গত এবং অন্তর্ভুক্তিমূলক হয়, যা মানবতায় বৈচিত্র্য প্রতিফলিত করে, এর ঐতিহাসিক পক্ষপাত নয়।
微信分享
打开微信，扫描下方二维码。
