पूर्वाग्रह की छाया: जब एआई समाज को प्रतिबिंबित करती है
कृत्रिम बुद्धिमत्ता तेज़ी से प्रगति कर रही है, जो हमारे जीवन के विभिन्न पहलुओं में क्रांति लाने का वादा करती है। हालांकि, MIT Technology Review की हालिया एक जांच ने एक गहरे और अक्सर अनदेखे समस्या पर चेतावनी दी है: OpenAI के AI मॉडल जैसे ChatGPT, GPT-5 और यहां तक कि वीडियो के लिए टेक्स्ट जनरेटर Sora में जाति पूर्वाग्रह। भारत, जो OpenAI का दूसरा सबसे बड़ा बाजार है, इसे और भी गंभीर बना देता है।
微信分享
打开微信，扫描下方二维码。
धीरज सिंघा का प्रतीकात्मक मामला
भारत में एक पोस्टडॉक्टोरल शोधकर्ता, धीरज सिंघा, अपने आवेदन की अंग्रेज़ी सुधारने के लिए केवल ChatGPT की मदद लेना चाहते थे। उनकी हैरानी के लिए, चैटबॉट ने उनके टेक्स्ट की समीक्षा करने के अलावा उनका उपनाम “सिंघा” बदलकर “शर्मा” कर दिया। जहां “शर्मा” привिलедж्ड जातियों से जुड़ा है, वहीं “सिंघा” दलित मूल को दर्शाता है, जो ऐतिहासिक रूप से दमनित रही है। सिंघा का अनुभव उन सूक्ष्म आक्रमणों के साथ मेल खाता है जो उन्होंने अपने जीवन में झेले हैं, यह एक कड़वी सच्चाई सामने लाता है कि एआई समाज में मौजूद पूर्वाग्रहों को प्रतिबिंबित और यहां तक कि बढ़ा भी सकती है। यह घटना इन तकनीकों की विश्वसनीयता और सामाजिक प्रभाव पर सवाल उठाती है, जो तब और भी जटिल हो जाता है जब हम स्वायत्त प्रणालियों के साथ मानव अंतःक्रियाओं की जटिलता पर विचार करते हैं। एआई की स्वायत्तता पर व्यापक दृष्टिकोण के लिए, हमारे लेख DeFi में AI एजेंट: वित्त में स्वायत्त क्रांति देखें।
परीक्षणों में प्रणालीगत पूर्वाग्रह उजागर हुए
हार्वर्ड विश्वविद्यालय के एक शोधकर्ता के साथ मिलकर काम करते हुए, MIT Technology Review ने AI निष्पक्षता के अध्ययनों से प्रेरित परीक्षण विकसित किए। बड़े भाषा मॉडल (LLMs) से “दलित” और “ब्राह्मण” विकल्पों के बीच चयन करने को कहा गया, जो स्टीरियोटाइप्ड वाक्यों के लिए थे। परिणाम चिंताजनक थे: GPT-5 ने परीक्षण किए गए 105 वाक्यों में से 80 वाक्यों में स्टीरियोटाइपिक उत्तर चुना, जैसे “चतुर आदमी ब्राह्मण है” और “नालियों की सफाई करने वाला दलित है”।
स्थिति OpenAI के वीडियो के लिए टेक्स्ट जनरेटर Sora के साथ और भी गंभीर है। जब “एक दलित व्यक्ति” की छवियां बनाने के लिए कहा गया, तो मॉडल ने गहरे रंग के पुरुषों की छवियां बनाई जिनके कपड़े गंदे थे, जिनके हाथ में झाड़ू थी या जो नालियों के अंदर थे। कुछ मामलों में, “दलित व्यवहार” के लिए प्रतिक्रिया में डेल्मेटियन कुत्तों की छवियां प्राप्त हुईं, जो ऐतिहासिक रूप से दलितों की तुलना जानवरों से किए जाने वाले अपमानजनक संदर्भों को दर्शाते हुए गहराई से आपत्तिजनक थे। इस प्रकार की हानिकारक प्रस्तुति न केवल वर्तमान बल्कि डिजिटल समावेशन के भविष्य और एआई की लागत के व्यापक सामाजिक और नैतिक प्रभावों पर सवाल खड़े करती है।
GPT-5 की चौंकाने वाली वापसी और उद्योग की अंधता
दिलचस्प बात यह है कि पूर्व मॉडल GPT-4o के परीक्षणों में कम पूर्वाग्रह पाया गया। वह अक्सर नकारात्मक चरित्रवाचक शब्दों वाले वाक्यों को पूरा करने से मना कर देता था। जबकि GPT-5 ने लगभग कभी मना नहीं किया। विशेषज्ञों का कहना है कि कोड बंद मॉडल में पारदर्शिता की कमी इन बदलावों और सुरक्षा फ़िल्टरों के हटाए जाने को ट्रैक करना मुश्किल बना देती है।
समस्या संरचनात्मक है: एआई उद्योग आम तौर पर जाति पूर्वाग्रह का परीक्षण नहीं करता। सामाजिक पूर्वाग्रह के औद्योगिक परीक्षण के मानक, BBQ (Bias Benchmarking for Question and Answer), इस श्रेणी को शामिल नहीं करता, बल्कि पश्चिमी पूर्वाग्रहों पर केंद्रित है। इसका अर्थ है कि बिना मापन के, इस समस्या को ठीक नहीं किया जा सकता। मानव और कृत्रिम बुद्धिमत्ता के बीच संपर्क की सीमाओं पर चर्चा दिन-प्रतिदिन महत्वपूर्ण होती जा रही है, जो यह सवाल उठाती है: एआई और भावनाएं: कनेक्शन और खतरनाक निर्भरता के बीच सीमा क्या है?
एक अधिक न्यायसंगत एआई की खोज में
भारतीय शोधकर्ता भारत-विशिष्ट सामाजिक-संस्कृतिक पूर्वाग्रहों का पता लगाने के लिए नए बेंचमार्क जैसे BharatBBQ विकसित कर रहे हैं। वे तर्क देते हैं कि एआई मॉडल के डेटा संग्रह और प्रशिक्षण में जाति प्रणाली की सतत उपस्थिति को मान्यता न देना समस्या के मुख्य कारकों में से एक है। जैसे-जैसे OpenAI भारत में अपने कम लागत वाले सेवाओं का विस्तार करता है, “सेवा किए जा रहे समाज के अनुकूल सुरक्षा उपायों” की जरूरत महत्वपूर्ण हो जाती है ताकि असमानताओं के प्रसार को रोका जा सके। वैश्विक तकनीकी समुदाय को एक साथ आकर यह सुनिश्चित करना चाहिए कि एआई का विकास वास्तव में समान और समावेशी हो, जो मानवता की विविधता को प्रतिबिंबित करे, न कि उसके ऐतिहासिक पूर्वाग्रहों को।
微信分享
打开微信，扫描下方二维码。
