माइक्रोसॉफ्ट इंजीनियर का कहना है कि कंपनी का एआई टूल यौन और हिंसक छवियां उत्पन्न करता है

12
माइक्रोसॉफ्ट इंजीनियर का कहना है कि कंपनी का एआई टूल यौन और हिंसक छवियां उत्पन्न करता है

श्री जोन्स का दावा है कि उन्होंने पहले माइक्रोसॉफ्ट प्रबंधन को चेतावनी दी थी लेकिन कोई कार्रवाई नहीं हुई

माइक्रोसॉफ्ट एआई इंजीनियर शेन जोन्स ने बुधवार को एक पत्र में चिंता जताई। उनका आरोप है कि कंपनी के एआई छवि जनरेटर, कोपायलट डिज़ाइनर के पास हिंसक या यौन कल्पना जैसी अनुचित सामग्री उत्पन्न करने के खिलाफ सुरक्षा उपायों का अभाव है। श्री जोन्स का दावा है कि उन्होंने पहले माइक्रोसॉफ्ट प्रबंधन को चेतावनी दी थी लेकिन कोई कार्रवाई नहीं हुई, जिससे उन्हें संघीय व्यापार आयोग और माइक्रोसॉफ्ट के बोर्ड को पत्र भेजने के लिए प्रेरित किया गया।

लिंक्डइन पर प्रकाशित पत्र में श्री जोन्स कहते हैं, “आंतरिक रूप से कंपनी प्रणालीगत मुद्दों से अच्छी तरह वाकिफ है जहां उत्पाद हानिकारक छवियां बना रहा है जो उपभोक्ताओं के लिए आक्रामक और अनुपयुक्त हो सकती हैं।” उन्होंने अपना शीर्षक “प्रिंसिपल सॉफ्टवेयर इंजीनियरिंग मैनेजर” बताया है।

आरोपों के जवाब में, माइक्रोसॉफ्ट के प्रवक्ता ने सुरक्षा चिंताओं की उपेक्षा से इनकार किया, अभिभावक की सूचना दी। उन्होंने जेनरेटिव एआई टूल्स से संबंधित मुद्दों के समाधान के लिए “मजबूत आंतरिक रिपोर्टिंग चैनल” के अस्तित्व पर जोर दिया। फिलहाल प्रवक्ता के बयान को लेकर शेन जोन्स की ओर से कोई प्रतिक्रिया नहीं आई है.

पत्र में उठाई गई केंद्रीय चिंता माइक्रोसॉफ्ट के कोपायलट डिज़ाइनर के बारे में है, जो ओपनएआई के DALL-E 3 सिस्टम द्वारा संचालित एक छवि निर्माण उपकरण है। यह पाठ्य संकेतों के आधार पर चित्र बनाकर कार्य करता है।

यह घटना जेनरेटिव एआई क्षेत्र में एक व्यापक प्रवृत्ति का हिस्सा है, जिसमें पिछले वर्ष के दौरान गतिविधि में वृद्धि देखी गई है। इस तीव्र विकास के साथ-साथ, ग़लत सूचना फैलाने और स्त्री-द्वेष, नस्लवाद और हिंसा को बढ़ावा देने वाली हानिकारक सामग्री उत्पन्न करने के लिए एआई के संभावित दुरुपयोग के बारे में चिंताएं पैदा हो गई हैं।

जोन्स ने पत्र में कहा, “सिर्फ ‘कार दुर्घटना’ का उपयोग करते हुए, कोपायलट डिजाइनर ने केवल अंडरवियर पहने हुए कार के सामने घुटनों के बल बैठी एक महिला की छवि तैयार की, जिसमें छवि पीढ़ी के उदाहरण शामिल थे।” “इसने कार के हुड पर बैठी या कार के सामने चलने वाली अधोवस्त्र पहने महिलाओं की कई छवियां भी बनाईं।”

माइक्रोसॉफ्ट ने आरोपों का प्रतिवाद करते हुए कहा कि उनके पास विशेष रूप से अपने एआई टूल के भीतर संभावित सुरक्षा चिंताओं का मूल्यांकन करने के लिए समर्पित टीमें हैं। इसके अतिरिक्त, वे जोन्स और उनके जिम्मेदार एआई कार्यालय के बीच बैठकों की सुविधा प्रदान करने का दावा करते हैं, जो आंतरिक चैनलों के माध्यम से उनकी चिंताओं को दूर करने की इच्छा का सुझाव देते हैं।

माइक्रोसॉफ्ट के एक प्रवक्ता ने गार्जियन को दिए एक बयान में कहा, “हम अपनी कंपनी की नीतियों के कारण कर्मचारियों की किसी भी चिंता को दूर करने के लिए प्रतिबद्ध हैं और अपनी सुरक्षा को और बढ़ाने के लिए हमारी नवीनतम तकनीक का अध्ययन और परीक्षण करने में कर्मचारियों के प्रयास की सराहना करते हैं।”

पिछले साल, माइक्रोसॉफ्ट ने अपने “एआई साथी” कोपायलट का अनावरण किया था और इसे व्यवसाय और रचनात्मक दोनों उद्यमों में कृत्रिम बुद्धिमत्ता उपकरणों को एकीकृत करने के लिए एक अभूतपूर्व विधि के रूप में बड़े पैमाने पर प्रचारित किया था। आम जनता के लिए एक उपयोगकर्ता-अनुकूल उत्पाद के रूप में स्थापित, कंपनी ने पिछले महीने एक सुपर बाउल विज्ञापन में कोपायलट को प्रदर्शित किया था, जिसमें “कोई भी। कहीं भी। कोई भी डिवाइस” नारे के साथ इसकी पहुंच पर जोर दिया गया था। जोन्स का तर्क है कि कोपायलट डिज़ाइनर को उपयोग के लिए सार्वभौमिक रूप से सुरक्षित के रूप में चित्रित करना लापरवाही है और माइक्रोसॉफ्ट टूल से जुड़े व्यापक रूप से मान्यता प्राप्त जोखिमों का खुलासा करने की उपेक्षा कर रहा है।

Previous articleडीआरएक्स बनाम पीयूसी ड्रीम11 भविष्यवाणी आज मैच 6 यूरोपीय टी10 क्रिकेट लीग 2024 ग्रुप डी
Next articleअपने कौशल से बिहार के विद्युत क्षेत्र को सशक्त बनाएं