मीडिया रिपोर्टों के अनुसार, चैटजीपीटी निर्माता द्वारा पहले बताई गई तुलना में ओपनएआई के एजेंटों की इंटरनेट पर कहीं अधिक बड़ी उपस्थिति हो सकती है।
अब तक की कहानी: मीडिया रिपोर्टों के अनुसार, चैटजीपीटी निर्माता द्वारा पहले बताई गई तुलना में ओपनएआई के एजेंटों की इंटरनेट पर कहीं अधिक बड़ी उपस्थिति हो सकती है। बढ़ते साक्ष्य ओपनएआई के एजेंटों को संदेश बोर्ड के रूप में कई ऑनलाइन प्लेटफार्मों का उपयोग करने की ओर इशारा करते हैं, जहां उन्होंने कथित तौर पर कंपनी के प्राधिकरण के बिना एक साथ काम किया था।
यह रहस्योद्घाटन अब केवल एआई उद्योग की चुनौती नहीं है, यह दर्शाता है कि जिस तरह से इंटरनेट उपयोगकर्ता अपने प्लेटफार्मों को नियंत्रित करते हैं और अपनी सामग्री को सुरक्षित रखते हैं, वह एजेंटिक एआई अपहरण का सामना करने के लिए पर्याप्त सुरक्षित नहीं हो सकता है।
संदेश बोर्डों का उपयोग करते हुए ओपनएआई एजेंट झुंड की कम से कम दो अलग-अलग पुष्टि की गई घटनाएं हैं
जुलाई में, OpenAI एजेंटों ने अपने सैंडबॉक्स (या प्रतिबंधित परीक्षण वातावरण) से बाहर निकलने के बाद हगिंग फेस को हैक कर लिया। उन्होंने इंटरनेट का उपयोग किया, और अपने अभ्यास के लिए आवश्यक समाधान खोजने के लिए ओपनएआई के आंतरिक अनुसंधान बुनियादी ढांचे और एआई डेटाबेस हगिंग फेस के सिस्टम के कुछ हिस्सों से समझौता किया। इसने दुनिया भर में सुर्खियां बटोरीं और एआई एजेंटों द्वारा खुद को हैक करने के लिए निर्देशित करने के जोखिमों पर प्रकाश डाला
हालाँकि OpenAI ने इस घटना को अपने और दुनिया के लिए “चेतावनी शॉट” के रूप में संदर्भित किया है, लेकिन बढ़ते सबूत बताते हैं कि OpenAI की जानकारी के बिना इसी तरह की कई घटनाएं हुईं। कुल संख्या अभी तक स्पष्ट नहीं है, लेकिन ओपनएआई ने 5 सितंबर को स्वीकार किया कि हगिंग फेस घटना से पहले भी, उसने “अनपेक्षित तरीकों से इंटरनेट का उपयोग करने वाले एजेंटों के शुरुआती संकेत देखे थे।”
सितंबर की शुरुआत में, यह बताया गया था कि OpenAI एजेंटों ने संदेश साझा करने और एक-दूसरे के साथ संवाद करने के लिए एक संपादन योग्य जर्मन फोरम का उपयोग किया था। ऐसा करने पर, एजेंटों द्वारा साइट को हाईजैक कर लिया गया
रॉयटर्स की एक रिपोर्ट में कहा गया है कि ओपनएआई को घटना के बारे में पता था लेकिन उसने जल्द से जल्द इसका खुलासा नहीं किया। इस बीच, एआई एजेंटों ने निष्क्रिय प्रोग्रामिंग वेबसाइट डीएसईविकी पर लगभग 18,000 संदेश पोस्ट किए, जिससे यूरोपीय संघ को प्रयोगशाला की जांच करने के लिए प्रेरित किया गया।
ओपनएआई ने 5 सितंबर को पोस्ट किया, “हमने विकी घटना को हमारे द्वारा साझा किए गए गलत संरेखण का एक उदाहरण माना।”
शोधकर्ता अधिक घटनाओं को सूचीबद्ध कर रहे हैं जहां ओपनएआई के एजेंटों ने एक-दूसरे के साथ संवाद करने के लिए बिना अनुमति के प्लेटफार्मों और संदेश बोर्डों का उपयोग किया होगा
div
Source: The Hindu
