Apple की AI- संचालित छवि खेल के मैदान ऐप में कथित तौर पर पूर्वाग्रह के मुद्दे हैं | Infinium-tech

Apple के इमेज प्लेग्राउंड ऐप के बारे में कहा जाता है कि इसमें कुछ पूर्वाग्रह मुद्दे हैं। एक मशीन लर्निंग वैज्ञानिक ने हाल ही में आर्टिफिशियल इंटेलिजेंस (एआई) ऐप का उपयोग करके उत्पन्न कई आउटपुट साझा किए और दावा किया कि इसमें कई मौकों पर गलत त्वचा की टोन और हेयर टेक्सचर शामिल हैं। इन अशुद्धियों को भी विशिष्ट नस्लीय रूढ़ियों के साथ जोड़ा गया था, समस्या को जोड़ते हुए। यह बताना मुश्किल है कि कथित मुद्दा एक बार की घटना है या एक व्यापक मुद्दा है। विशेष रूप से, क्यूपर्टिनो-आधारित टेक दिग्गज ने पहले ऐप को IOS 18.2 अपडेट के साथ Apple इंटेलिजेंस सूट के एक भाग के रूप में पेश किया।

Apple की छवि खेल के मैदान ऐप में पूर्वाग्रह के मुद्दे हो सकते हैं

Jochem Gietema, Onfido में मशीन लर्निंग साइंस लीड, साझा किया ब्लॉग भेजाApple के इमेज प्लेग्राउंड ऐप का उपयोग करके अपने अनुभवों को उजागर करना। पोस्ट में, उन्होंने इमेज प्लेग्राउंड ऐप का उपयोग करके उत्पन्न आउटपुट के कई सेट साझा किए और ऐप को पावर देने वाले बड़े भाषा मॉडल द्वारा नस्लीय पूर्वाग्रहों के उदाहरणों को उजागर किया। विशेष रूप से, गैजेट्स 360 स्टाफ सदस्यों ने ऐप का परीक्षण करते समय इस तरह के किसी भी पूर्वाग्रह को नोटिस नहीं किया।

“प्रयोग करते समय, मैंने देखा कि ऐप ने प्रॉम्प्ट के आधार पर मेरी त्वचा की टोन और बालों को बदल दिया। निवेश बैंकर बनाम किसान जैसे व्यवसाय बहुत अलग त्वचा टन के साथ छवियों का उत्पादन करते हैं। एक ही स्कीइंग बनाम बास्केटबॉल, स्ट्रीटवियर बनाम सूट, और, सबसे अधिक समस्याग्रस्त, समृद्ध बनाम गरीब के लिए जाता है, ”गिएटमा ने एक लिंक्डइन में कहा डाक।

छवि खेल के मैदान ऐप का उपयोग करके उत्पन्न कथित पक्षपाती आउटपुट
फोटो क्रेडिट: जोकेम गिएमा

इस तरह की अशुद्धि और पूर्वाग्रह एलएलएम के साथ असामान्य नहीं हैं, जो बड़े डेटासेट पर प्रशिक्षित होते हैं जिनमें समान स्टीरियोटाइप हो सकते हैं। पिछले साल, Google के मिथुन एआई मॉडल को समान पूर्वाग्रहों के लिए बैकलैश का सामना करना पड़ा। हालांकि, कंपनियां ऐसी पीढ़ियों को रोकने के लिए पूरी तरह से असहाय नहीं हैं और अक्सर उन्हें रोकने के लिए सुरक्षा की विभिन्न परतों को लागू करती हैं।

Apple का इमेज प्लेग्राउंड ऐप भी एआई-जनित छवियों से जुड़े मुद्दों को रोकने के लिए कुछ प्रतिबंधों के साथ आता है। उदाहरण के लिए, ऐप्पल इंटेलिजेंस ऐप केवल डीपफेक के उदाहरणों से बचने के लिए कार्टून और चित्रण शैलियों का समर्थन करता है। इसके अतिरिक्त, उत्पन्न छवियां भी दृष्टि के एक संकीर्ण क्षेत्र के साथ उत्पन्न होती हैं जो आमतौर पर केवल अतिरिक्त विवरणों की एक छोटी मात्रा के साथ चेहरे को पकड़ती है। यह पूर्वाग्रहों और अशुद्धियों के ऐसे किसी भी उदाहरण को सीमित करने के लिए भी किया जाता है।

टेक दिग्गज भी किसी भी संकेत की अनुमति नहीं देता है जिसमें नकारात्मक शब्द, मशहूर हस्तियों के नाम या सार्वजनिक आंकड़े शामिल हैं, और अधिक उपयोगकर्ताओं को अनपेक्षित उपयोग के मामलों के लिए उपकरण का दुरुपयोग करने के लिए सीमित करने के लिए। हालांकि, यदि आरोप सही हैं, तो iPhone निर्माता को यह सुनिश्चित करने के लिए सुरक्षा की अतिरिक्त परतों को शामिल करने की आवश्यकता होगी कि उपयोगकर्ता ऐप का उपयोग करते समय भेदभाव महसूस न करें।