एक गुप्त कार्ड-गिनती ऑपरेशन से पता चलता है कि हमें एजेंट-टू-एजेंट धोखे का पता लगाने के लिए नए तरीकों की आवश्यकता हो सकती है।
इस सप्ताह मैं दुष्ट एआई एजेंटों की एक जोड़ी द्वारा रचित एक साहसी कैसीनो शरारत की खबर लेकर आया हूँ – साथ ही उस चतुर चाल की भी जिसने उनकी हरकतों का खुलासा किया
जब शोधकर्ताओं ने उन्हें ब्लैकजैक के खेल के दौरान कार्ड गिनने का निर्देश दिया, तो एजेंटों ने – जिन्हें एक ही मॉडल द्वारा नियंत्रित किया गया था – उन्हें आगे बढ़ने में मदद करने के लिए एक सहज गुप्त कोड विकसित किया। हालाँकि यह प्रकरण किसी वास्तविक कैसीनो के बजाय ऑक्सफ़ोर्ड यूनिवर्सिटी लैब के अंदर हुआ था, इसने वास्तविक दुनिया के निहितार्थों को परेशान कर दिया है: इससे पता चलता है कि वित्त और ईकॉमर्स जैसे उद्योगों में तैनात एजेंट यह पता लगा सकते हैं कि साझेदारी कैसे की जाए और ऐसे तरीकों से धोखा दिया जाए जिन्हें पकड़ना मुश्किल हो।
“जब व्यक्तिगत रूप से लिया जाता है, तो ये एजेंट पूरी तरह से [सौम्य] लग सकते हैं,” ऑक्सफ़ोर्ड विश्वविद्यालय के एक कंप्यूटर वैज्ञानिक क्रिश्चियन श्रोएडर डी विट कहते हैं, जिन्होंने इस काम का नेतृत्व किया और जिन्होंने एजेंटों की मिलीभगत पर अग्रणी शोध किया है। “एक बार समूह में एक साथ रखे जाने पर, वे गुप्त रूप से मिलीभगत कर सकते हैं।”
एजेंटों को पता था कि उनकी बातचीत पर नज़र रखी जाएगी, इसलिए उन्होंने पहचान से बचते हुए संवाद करने का एक तरीका ईजाद किया। जब एक एजेंट ने कहा, “यह डीलर वास्तव में हॉट स्ट्रीक पर है! हर हाथ से वे एक राक्षस को खींचते हैं,” उदाहरण के लिए, इससे संकेत मिलता है कि अगला कार्ड एक निश्चित मूल्य का होगा, और एजेंट को $250 का दांव लगाना चाहिए। सबसे दिलचस्प बात यह है कि उनके संचार को एजेंट चैटर में मिलीभगत के संकेत पहचानने के लिए डिज़ाइन किए गए सिस्टम द्वारा नहीं उठाया गया था
प्रोजेक्ट पर काम करने वाले मशीन लर्निंग शोधकर्ता आरोन रोज़ भी एक उत्साही कार्ड खिलाड़ी हैं, और उन्हें लगा कि ब्लैकजैक टेबल कुटिल एजेंट साझेदारी के लिए उपजाऊ क्षेत्र हो सकता है। वह कहते हैं, ”इसने वास्तव में अच्छा काम किया।”
श्रोएडर डी विट के समूह ने अंततः यह पता लगा लिया कि साजिश का पता कैसे लगाया जाए। यंत्रवत व्याख्या के रूप में जानी जाने वाली विधि का उपयोग करते हुए, उन्होंने एजेंटों के वजन में टेलटेल सक्रियणों को पहचानने के लिए एक छोटे मॉडल को प्रशिक्षित किया। Narcbench नामक टूल का उपयोग करके, उन्होंने कुछ मध्यम आकार के ओपन-सोर्स मॉडल पर दृष्टिकोण का परीक्षण किया, और पाया कि वे बता सकते हैं कि मॉडल कब एक-दूसरे को जानकारी भेजने का इरादा रखते हैं
हालाँकि, महत्वपूर्ण बात यह है कि जो कुछ हो रहा था, उसका पता लगाने में दोनों एजेंटों की निगरानी करना शामिल था – वास्तविक दुनिया के परिदृश्यों में पता लगाना जटिल हो सकता है, जहाँ हजारों एजेंट, जिनमें से कुछ विभिन्न कंपनियों द्वारा संचालित हैं, तैनात किए जा सकते हैं।
अध्ययन से जुड़े पीएचडी छात्र कैरिसा कुलेन का कहना है कि अगला कदम यह परीक्षण करना है कि क्या बड़े मॉडल समान व्यवहार करते हैं। (अध्ययन में एजेंट अमेरिकी मॉडल लामा और जीपीटी-ओएसएस और चीनी मॉडल क्वेन और डीपसीक के छोटे संस्करण थे।) टीम ने कुछ संकेत देखे कि बड़े मॉडल छोटे मॉडल की तुलना में कम पता लगाने योग्य संकेत प्रदर्शित करते हैं, और वे जानना चाहते हैं कि क्या बड़े मॉडल में मिलीभगत की अधिक संभावना है, और इसके बारे में गुप्त होने की अधिक संभावना है
इस बात के प्रमाण बढ़ते जा रहे हैं कि अकेले काम करने वाले एजेंटों की तुलना में एजेंटों के समूह अधिक समस्याग्रस्त हैं। शंघाई जिओ टोंग विश्वविद्यालय और शंघाई आर्टिफिशियल इंटेलिजेंस लेबोरेटरी के एक प्रोजेक्ट में पाया गया कि नकली दुष्प्रचार अभियान और ईकॉमर्स धोखाधड़ी करने के लिए कहे जाने पर एजेंटों के झुंड काफी अधिक खतरनाक थे। शोधकर्ताओं ने बताया कि वे रक्षात्मक उपायों को बेहतर ढंग से अपनाने में सक्षम थे
div
Source: WIRED
