ओपनएआई व्हिसलब्लोअर सुचिर बालाजी ने मृत्यु से पहले एआई के अंधेरे पक्ष के बारे में क्या खुलासा किया

सैन फ्रांसिस्को, अमेरिका:

26 वर्षीय ओपनएआई शोधकर्ता से व्हिसलब्लोअर बने सुचिर बालाजी पिछले महीने अमेरिका के सैन फ्रांसिस्को में एक अपार्टमेंट में मृत पाए गए थे। 26 नवंबर को उनकी मृत्यु को सैन फ्रांसिस्को मेडिकल परीक्षक के कार्यालय ने आत्महत्या माना था क्योंकि पुलिस को गलत काम करने का कोई सबूत नहीं मिला था।

अगस्त में ओपनएआई छोड़ने वाले बालाजी ने हाल के महीनों में इंटरनेट से छीनी गई कॉपीराइट सामग्री पर चैटबॉट को प्रशिक्षित करने की कृत्रिम बुद्धिमत्ता कंपनी की प्रथा के खिलाफ खुलकर बात की है। कृत्रिम बुद्धिमत्ता (एआई) की दिग्गज कंपनी अपनी डेटा-एकत्रित प्रथाओं से संबंधित कई मुकदमे लड़ रही है।

सुचिर बालाजी के बारे में

भारतीय अमेरिकी सुचिर बालाजी कैलिफोर्निया के क्यूपर्टिनो में पले-बढ़े। उल्लेखनीय रूप से तेज़ बच्चा, उसने प्रोग्रामिंग प्रतियोगिताओं में उत्कृष्ट प्रदर्शन किया, एसीएम आईसीपीसी 2018 वर्ल्ड फ़ाइनल में 31वां स्थान हासिल किया और 2017 पैसिफिक नॉर्थवेस्ट रीजनल और बर्कले प्रोग्रामिंग प्रतियोगिताओं में पहला स्थान जीता।

बालाजी ने कागल के टीएसए-प्रायोजित “पैसेंजर स्क्रीनिंग एल्गोरिथम चैलेंज” में भी $100,000 का पुरस्कार अर्जित करते हुए 7वां स्थान हासिल किया। उनके लिंक्डइन प्रोफाइल के अनुसार, वह यूएस ओपन 2016 नेशनल चैंपियन और यूएसएसीओ फाइनलिस्ट थे।

अपने क्षेत्र के अधिकांश अन्य लोगों की तरह, बालाजी भी कम उम्र से ही कृत्रिम बुद्धिमत्ता के वादे से मोहित हो गए थे। अक्टूबर में न्यूयॉर्क टाइम्स को दिए एक साक्षात्कार में, उन्होंने बताया कि एआई में उनकी रुचि तब शुरू हुई जब उन्होंने अपनी किशोरावस्था में प्रौद्योगिकी के बारे में एक समाचार देखा और कल्पना की कि तंत्रिका नेटवर्क मानवता की सबसे बड़ी समस्याओं को हल कर सकते हैं।

एनवाईटी की रिपोर्ट के अनुसार, उन्होंने कहा, “मैंने सोचा था कि एआई एक ऐसी चीज है जिसका उपयोग बीमारियों को ठीक करने और उम्र बढ़ने को रोकने जैसी अघुलनशील समस्याओं को हल करने के लिए किया जा सकता है… मैंने सोचा कि हम किसी प्रकार के वैज्ञानिक का आविष्कार कर सकते हैं जो उन्हें हल करने में मदद कर सकता है।” .

स्नातक होने से पहले भी, उन्होंने स्केल एआई, हेलिया में काम किया और Quora में एक सॉफ्टवेयर इंजीनियर थे। 2020 में, बालाजी बर्कले स्नातकों की एक श्रृंखला में शामिल हो गए जो ओपनएआई के लिए काम करने गए थे।

ओपनएआई में सुचिर बालाजी का समय

उन्होंने ओपनएआई में चार साल तक काम किया, इस दौरान डेढ़ साल तक उन्होंने कंपनी को अपने ऑनलाइन चैटबॉट, चैटजीपीटी बनाने के लिए इस्तेमाल किए गए भारी मात्रा में इंटरनेट डेटा को इकट्ठा करने और व्यवस्थित करने में मदद की।

बालाजी ने एनवाईटी को बताया कि ओपनएआई में अपने शुरुआती डेटा के दौरान, उन्होंने इस बात पर ध्यान से विचार नहीं किया कि क्या कंपनी के पास कॉपीराइट और ओपन इंटरनेट डेटा दोनों का उपयोग करके अपने उत्पाद बनाने का कानूनी अधिकार है। 2022 के अंत में चैटजीपीटी के जारी होने के बाद ही उन्होंने इस मुद्दे पर विचार करना शुरू किया और महसूस किया कि चैटजीपीटी जैसी प्रौद्योगिकियां कॉपीराइट डेटा का उपयोग करके इंटरनेट को नुकसान पहुंचा रही थीं, इस प्रक्रिया में कानून का उल्लंघन कर रही थीं।

2024 तक, बालाजी को एहसास हुआ कि “वह अब उन प्रौद्योगिकियों में योगदान नहीं करना चाहते हैं जिनके बारे में उनका मानना ​​​​है कि इससे समाज को लाभ की तुलना में अधिक नुकसान होगा।” उन्होंने इस साल अगस्त में बिना किसी नई नौकरी के कंपनी छोड़ दी और “व्यक्तिगत परियोजनाओं” पर काम करना शुरू कर दिया।

एक अदालत में उनका नाम किसी ऐसे व्यक्ति के रूप में दाखिल किए जाने के एक दिन बाद उनकी मृत्यु हो गई, जिनकी फाइलें ओपनएआई उन लोगों द्वारा लाए गए मुकदमे के हिस्से के रूप में खोजेगी, जिन्होंने एआई दिग्गज पर मुकदमा दायर किया था।

ओपनएआई के खिलाफ सुचिर बालाजी का आरोप

ओपनएआई छोड़ने के बाद, सुचिर बालाजी ने सार्वजनिक रूप से एआई कंपनियों द्वारा अपनी प्रौद्योगिकियों को बनाने के लिए कॉपीराइट डेटा का उपयोग करने के तरीके के खिलाफ बात की। उन्होंने आरोप लगाया कि एआई मॉडल दूसरों के श्रम पर बहुत अधिक निर्भर हैं क्योंकि उन्हें बिना अनुमति के इंटरनेट से निकाली गई कॉपीराइट सामग्री पर प्रशिक्षित किया जाता है।

उन्होंने एनवाईटी को बताया, “यह समग्र रूप से इंटरनेट पारिस्थितिकी तंत्र के लिए एक टिकाऊ मॉडल नहीं है।”

उन्होंने अपनी निजी वेबसाइट पर भी अपनी चिंताओं के बारे में बताया, जहां उन्होंने कहा कि जेनरेटिव मॉडल शायद ही कभी अपने प्रशिक्षण डेटा के समान आउटपुट देते हैं, प्रशिक्षण के दौरान कॉपीराइट सामग्री की नकल करने का कार्य “उचित उपयोग” के तहत संरक्षित नहीं होने पर कानूनों का उल्लंघन हो सकता है।

उन्होंने कहा, “चूंकि उचित उपयोग मामले-दर-मामले के आधार पर निर्धारित किया जाता है, इसलिए इस बारे में कोई व्यापक बयान नहीं दिया जा सकता है कि जेनरेटर एआई कब उचित उपयोग के लिए योग्य है।”

बालाजी ने कई मामलों में तर्क दिया कि चैटबॉट सीधे उन कॉपीराइट कार्यों से प्रतिस्पर्धा करते हैं जिनसे उन्होंने सीखा है। उन्होंने कहा, “जेनरेटिव मॉडल ऑनलाइन डेटा की नकल करने के लिए डिज़ाइन किए गए हैं, ताकि वे समाचार कहानियों से लेकर ऑनलाइन मंचों तक इंटरनेट पर “मूल रूप से कुछ भी” का स्थान ले सकें।”

उनके अनुसार, सबसे बड़ी समस्या यह है कि एआई प्रौद्योगिकियां धीरे-धीरे मौजूदा इंटरनेट सेवाओं की जगह ले रही हैं, वे कभी-कभी “झूठी और कभी-कभी पूरी तरह से मनगढ़ंत जानकारी उत्पन्न करती हैं – जिसे शोधकर्ता “मतिभ्रम” कहते हैं।

उन्होंने कहा, इंटरनेट बदतर स्थिति में बदल रहा है।

एआई कंपनियों पर आरोप

अपने चैटबॉट्स को प्रशिक्षित करने के लिए कॉपीराइटर डेटा का दुरुपयोग करने वाली एआई कंपनियों के बारे में चिंता करने वाले बालाजी अकेले नहीं थे। न्यूयॉर्क टाइम्स सहित कई अमेरिकी और कनाडाई समाचार प्रकाशकों ने ओपनएआई और उसके प्राथमिक भागीदार, माइक्रोसॉफ्ट के खिलाफ मुकदमा दायर किया है, जिसमें दावा किया गया है कि उन्होंने चैटबॉट बनाने के लिए अपने लाखों लेखों का उपयोग किया है जो अब विश्वसनीय जानकारी के स्रोत के रूप में समाचार आउटलेट के साथ प्रतिस्पर्धा करते हैं।

जॉन ग्रिशम सहित कई सर्वाधिक बिकने वाले लेखकों ने भी कंपनी के खिलाफ मुकदमा दायर किया है।

ओपनएआई दावों पर विवाद करता है

ओपनएआई ने बालाजी के दावों का खंडन किया है और जोर देकर कहा है कि उनका डेटा उपयोग उचित उपयोग सिद्धांतों और कानूनी मिसालों का पालन करता है।

“हम अपने एआई मॉडल का निर्माण सार्वजनिक रूप से उपलब्ध डेटा का उपयोग करके, उचित उपयोग और संबंधित सिद्धांतों द्वारा संरक्षित तरीके से करते हैं, और लंबे समय से और व्यापक रूप से स्वीकृत कानूनी मिसालों द्वारा समर्थित हैं। हम इस सिद्धांत को रचनाकारों के लिए उचित, नवप्रवर्तकों के लिए आवश्यक और अमेरिकी प्रतिस्पर्धात्मकता के लिए महत्वपूर्ण मानते हैं। ओपनएआई ने एक बयान में कहा।

कंपनी ने नवंबर में बीबीसी को बताया कि उसका सॉफ्टवेयर “उचित उपयोग और संबंधित अंतरराष्ट्रीय कॉपीराइट सिद्धांतों पर आधारित है जो रचनाकारों के लिए उचित है और नवाचार का समर्थन करता है”।

बालाजी की मृत्यु पर प्रतिक्रिया व्यक्त करते हुए, ओपनएआई के एक प्रवक्ता ने कहा, “आज की इस अविश्वसनीय दुखद खबर को जानकर हम बहुत दुखी हैं और इस कठिन समय में हमारी संवेदनाएं सुचिर के प्रियजनों के साथ हैं।”