वारन बफेट ने AI के बारे में एक वैध बिंदु बनाया। अरबपति निवेशक और परोपकारी व्यक्ति ने इस साल की शुरुआत में CNN से कहा: “जब हमने परमाणु हथियार विकसित किए तो हमने बोतल से एक जिन्न को बाहर निकाल दिया … AI कुछ हद तक ऐसा ही है – यह बोतल से बाहर निकलने का एक हिस्सा है।” उनका तर्क है कि, परमाणु हथियारों की तरह, AI में बड़े पैमाने पर महत्वपूर्ण परिणाम लाने की क्षमता है, चाहे वह सकारात्मक हो या नकारात्मक।इसके अलावा, परमाणु हथियारों की तरह, AI मुख्य रूप से कुछ चुनिंदा लोगों द्वारा नियंत्रित होता है। इस मामले में, यह मुख्य रूप से तकनीकी कंपनियों और सरकारों के हाथों में है। इस तुलना पर अक्सर चर्चा नहीं की जाती है।
जबकि ये कंपनियाँ नवाचार करना जारी रखती हैं, एक महत्वपूर्ण प्रश्न उठता है: क्या हम प्रगति के लिए निष्पक्षता और सामाजिक कल्याण से समझौता कर रहे हैं? शोध से संकेत मिलता है कि बिग टेक का प्रभाव नीति-निर्माण प्रक्रिया के सभी पहलुओं में व्याप्त है, जो “सुपर पॉलिसी उद्यमियों” के रूप में उनकी भूमिका को मजबूत करता है। यह उन्हें उन नीतियों को आकार देने में सक्षम बनाता है जो उनके हितों को लाभ पहुँचाती हैं, अक्सर व्यापक सामाजिक मुद्दों की उपेक्षा करती हैं।सत्ता का यह संकेन्द्रण इन निगमों को व्यापक डेटासेट का उपयोग करके AI तकनीक विकसित करने की अनुमति देता है जो विशिष्ट जनसांख्यिकी और व्यवहार को दर्शाते हैं, अक्सर व्यापक समाज की कीमत पर।इसका परिणाम एक ऐसा तकनीकी वातावरण है जो तेज़ी से आगे बढ़ते हुए, अनजाने में सामाजिक विभाजन को बढ़ा सकता है और मौजूदा पूर्वाग्रहों को मजबूत कर सकता है।
नैतिक चिंताएँ
सत्ता के इस संकेन्द्रण से उत्पन्न होने वाले नैतिक निहितार्थ बहुत महत्वपूर्ण हैं।यदि कोई AI मॉडल मुख्य रूप से एक जनसांख्यिकी के व्यवहार का प्रतिनिधित्व करने वाले डेटा पर प्रशिक्षित है, तो यह अन्य जनसांख्यिकी के साथ बातचीत करने या उनके बारे में निर्णय लेने में संघर्ष कर सकता है, जिसके परिणामस्वरूप संभावित रूप से भेदभाव और सामाजिक अन्याय हो सकता है।पूर्वाग्रह का यह प्रवर्धन केवल एक सैद्धांतिक मुद्दा नहीं है, बल्कि एक दबावपूर्ण वास्तविकता है जिस पर तत्काल ध्यान देने की आवश्यकता है।
उदाहरण के लिए, पोर्चा वुड्रफ, एक गर्भवती अश्वेत महिला, चेहरे की पहचान की गलती के कारण गलत तरीके से गिरफ्तार की गई थी – AI के वास्तविक दुनिया के निहितार्थों का एक स्पष्ट उदाहरण।स्वास्थ्य सेवा क्षेत्र में, आमतौर पर इस्तेमाल किए जाने वाले एल्गोरिदम ने अश्वेत रोगियों की ज़रूरतों को काफी कम करके आंका, जिससे अपर्याप्त देखभाल हुई और मौजूदा असमानताएँ बनी रहीं। ये उदाहरण एक चिंताजनक प्रवृत्ति को उजागर करते हैं: पक्षपातपूर्ण डेटा पर प्रशिक्षित AI सिस्टम सामाजिक असमानताओं को बढ़ाते हैं।इन AI सिस्टम को संचालित करने वाले एल्गोरिदम पर विचार करें, जो मुख्य रूप से निष्पक्षता और समावेशिता के संबंध में पर्याप्त निगरानी की कमी वाले वातावरण में विकसित किए गए हैं।
पूर्वाग्रह विकसित करना
परिणामस्वरूप, चेहरे की पहचान, भर्ती प्रथाओं और ऋण स्वीकृति जैसे क्षेत्रों में AI अनुप्रयोग पक्षपातपूर्ण परिणाम उत्पन्न कर सकते हैं, जो कम प्रतिनिधित्व वाले समुदायों को असमान रूप से प्रभावित कर सकते हैं।यह जोखिम इन निगमों के व्यवसाय मॉडल द्वारा बढ़ाया जाता है, जो गहन नैतिक मूल्यांकन पर तेजी से विकास और तैनाती को प्राथमिकता देते हैं, दीर्घकालिक सामाजिक प्रभावों के सावधानीपूर्वक विचार से ऊपर मुनाफे को रखते हैं।
