एन्थ्रोपिक शोधकर्ता यह समझने में बड़ी सफलता बनाते हैं कि एआई मॉडल कैसे सोचता है | Infinium-tech

एन्थ्रोपिक शोधकर्ताओं ने गुरुवार को दो नए कागजात साझा किए, कार्यप्रणाली और निष्कर्षों को साझा करते हुए कि एक कृत्रिम बुद्धिमत्ता (एआई) मॉडल कैसे सोचता है। सैन फ्रांसिस्को स्थित एआई फर्म ने एक बड़ी भाषा मॉडल (एलएलएम) की निर्णय लेने की प्रक्रिया की निगरानी के लिए तकनीक विकसित की, यह समझने के लिए कि दूसरे पर एक विशेष प्रतिक्रिया और संरचना को क्या प्रेरित करता है। कंपनी ने इस बात पर प्रकाश डाला कि एआई मॉडल का यह विशेष क्षेत्र एक ब्लैक बॉक्स बना हुआ है, क्योंकि यहां तक ​​कि मॉडल विकसित करने वाले वैज्ञानिक भी पूरी तरह से यह नहीं समझते हैं कि एआई आउटपुट उत्पन्न करने के लिए वैचारिक और तार्किक कनेक्शन कैसे बनाता है।

एंथ्रोपिक रिसर्च ने प्रकाश डाला कि एक एआई कैसे सोचता है

एक न्यूज़ रूम में डाककंपनी ने हाल ही में किए गए एक अध्ययन से “एक बड़े भाषा मॉडल के विचारों का पता लगाने” पर विवरण पोस्ट किया। चैटबॉट्स और एआई मॉडल के निर्माण के बावजूद, वैज्ञानिक और डेवलपर्स इलेक्ट्रिकल सर्किट को नियंत्रित नहीं करते हैं, एक सिस्टम एक आउटपुट का उत्पादन करने के लिए बनाता है।

इस “ब्लैक बॉक्स” को हल करने के लिए, एन्थ्रोपिक शोधकर्ताओं ने दो पत्र प्रकाशित किए। पहला सर्किट ट्रेसिंग कार्यप्रणाली का उपयोग करके क्लाउड 3.5 हाइकू द्वारा उपयोग किए जाने वाले आंतरिक तंत्र की जांच करता है, और दूसरा कागज़ भाषा मॉडल में कम्प्यूटेशनल ग्राफ़ को प्रकट करने के लिए उपयोग की जाने वाली तकनीकों के बारे में है।

शोधकर्ताओं ने कुछ प्रश्नों को क्लाउड की “सोच” भाषा, पाठ उत्पन्न करने की विधि, और इसके तर्क पैटर्न को शामिल करने के लिए उत्तर खोजने के उद्देश्य से किया। एंथ्रोपिक ने कहा, “यह जानते हुए कि क्लाउड जैसे मॉडल कैसे सोचते हैं, हमें उनकी क्षमताओं की बेहतर समझ रखने की अनुमति मिलेगी, साथ ही साथ हमें यह सुनिश्चित करने में मदद मिलेगी कि वे वही कर रहे हैं जो हम उनका इरादा रखते हैं।”

कागज में साझा की गई अंतर्दृष्टि के आधार पर, उपरोक्त प्रश्नों के उत्तर आश्चर्यजनक थे। शोधकर्ताओं का मानना ​​था कि क्लाउड के पास एक विशेष भाषा के लिए एक प्राथमिकता होगी जिसमें यह प्रतिक्रिया करने से पहले सोचता है। हालांकि, उन्होंने पाया कि एआई चैटबोट एक “वैचारिक स्थान जो भाषाओं के बीच साझा किया गया है,” में सोचता है। इसका मतलब यह है कि इसकी सोच किसी विशेष भाषा से प्रभावित नहीं है, और यह विचार की सार्वभौमिक भाषा की एक तरह की अवधारणाओं को समझ और संसाधित कर सकती है।

जबकि क्लाउड को एक समय में एक शब्द लिखने के लिए प्रशिक्षित किया जाता है, शोधकर्ताओं ने पाया कि एआई मॉडल ने अपनी प्रतिक्रिया की योजना कई शब्दों की है और उस गंतव्य तक पहुंचने के लिए अपने आउटपुट को समायोजित कर सकते हैं। शोधकर्ताओं ने एआई को एक कविता लिखने के लिए प्रेरित करते हुए इस पैटर्न के सबूत पाए और यह देखते हुए कि क्लाउड ने पहले तुकबंदी शब्दों का फैसला किया और फिर उन शब्दों की समझ बनाने के लिए बाकी पंक्तियों का गठन किया।

शोध में यह भी दावा किया गया है कि, इस अवसर पर, क्लाउड तार्किक कदमों का पालन करने के बजाय उपयोगकर्ता के साथ सहमत होने के लिए तार्किक-ध्वनि वाले तर्कों को भी उल्टा कर सकता है। यह जानबूझकर “मतिभ्रम” तब होता है जब एक अविश्वसनीय रूप से कठिन प्रश्न पूछा जाता है। एंथ्रोपिक ने कहा कि इसके उपकरण एआई मॉडल में तंत्र से संबंधित फ़्लैगिंग के लिए उपयोगी हो सकते हैं, क्योंकि यह पहचान सकता है कि जब एक चैटबॉट अपनी प्रतिक्रियाओं में नकली तर्क प्रदान करता है।

एन्थ्रोपिक ने इस बात पर प्रकाश डाला कि इस पद्धति में सीमाएं हैं। इस अध्ययन में, केवल दसियों शब्दों के संकेत दिए गए थे, और फिर भी, सर्किटों की पहचान करने और समझने के लिए कुछ घंटों के मानवीय प्रयास किए गए। एलएलएम की क्षमताओं की तुलना में, अनुसंधान प्रयास ने केवल क्लाउड द्वारा किए गए कुल गणना के एक अंश पर कब्जा कर लिया। भविष्य में, एआई फर्म डेटा की समझ बनाने के लिए एआई मॉडल का उपयोग करने की योजना बना रहा है।