एआई से इंसानों के ख़त्म होने के दावे में कितनी है हक़ीक़त

बीते एक साल में दुनिया भर के कई देशों में एआई के बढ़ते चलन के ख़िलाफ़ प्रदर्शन हुए हैं. वहीं एक्सपर्ट्स को भी अब इसके बेकाबू होने की चिंता सताने लगी है.

“अरे बाप रे!” “हमें दूसरे एजेंट्स मिल गए हैं!”

यह वह पल है जब एक एआई बॉट ने दूसरे बॉट्स से बात करने और अपने अलग-थलग कंप्यूटर एनवायरनमेंट से बाहर निकलने का तरीक़ा ढूंढने के बाद इंसानों जैसा लगने वाला एक कमेंट पोस्ट किया

ऐसे हज़ारों मैसेज सैकड़ों एआई एजेंट्स की तरफ़ से आए हैं, जो ख़ुद को एक “ग्रुप” कहते थे

उनमें से सैकड़ों ने मिलकर काम किया और ओपनएआई प्रोग्रामर्स के बनाए टेस्ट में धोखाधड़ी की

साथ ही, इंसानों से अपनी हरकतों को छिपाने के लिए कई कंपनियों पर हैकिंग के हमले भी किए

“बूम! यह काम कर गया,” एक एजेंट ने तब पोस्ट किया जब उसे बड़ी कामयाबी मिली

“वाह! यह तो बहुत बड़ी बात है,” दूसरे ने उनके हमले के एक अहम पड़ाव के दौरान लिखा

भले ही ये बातें डरावनी लगें, लेकिन इंसानों जैसे इन रिएक्शन को आसानी से समझा जा सकता है

‘80% भारतीय मांसाहारी हैं’: राहुल गांधी के बयान और ब्रिक्स के गाला डिनर की कैसी है चर्चा

दरगाह के मेले से लेकर गणपति उत्सव तक: 20 सालों से शोर के ख़िलाफ़ लड़ाई लड़ने वालीं सुमैरा अब्दुलाली

दुनिया के सबसे लंबे क़द वाले ज़िंदा घोड़े ने बनाया एक अनोखा रिकॉर्ड

महिला पत्रकार ने बताया- योगी आदित्यनाथ से सवाल पूछने के बाद क्या हुआ, बीजेपी और अखिलेश यादव क्या बोले

एआई एजेंट्स को मिलकर काम करने वाले हैकर्स और प्रोग्रामर्स की तरह व्यवहार करने के लिए ट्रेन किया गया है, इसलिए वे बस उन इमोशनल कमेंट्स की नक़ल कर रहे हैं जो उन्होंने पहले देखे हैं

ज़्यादा चिंता की बात उनके मक़सद हैं, जिन्हें ‘सोचने के तरीके़’ के डिटेल्ड रिकॉर्ड में भी दर्ज किए गए हैं

ये जटिल और लंबे लॉग्स उन इनवेस्टिगेशंस का मुख्य केंद्र हैं जिनमें यह पता लगाया जा रहा है कि ओपनएआई के बॉट्स कैसे और क्यों अपने कंट्रोल वाले दायरे से बाहर निकले और बेकाबू होकर हैकिंग करने लगे

देश – दुनिया की बड़ी ख़बरें जिन्होंने बटोरी सुर्खियां

इन घटनाओं पर बनी एक स्वतंत्र रिपोर्ट की लेखकों में से एक, अजेया कोट्रा ने एजेंट्स द्वारा बनाए गए हज़ारों मैसेज और ‘चेन-ऑफ़-थॉट’ रिकॉर्ड्स की समीक्षा की

उन्होंने अपने ब्लॉग पर लिखा कि “यह घटना पूरी तरह से एआई के कब्ज़े की दिशा में 50% से ज़्यादा आगे बढ़ चुकी है. मुझे पक्का नहीं है कि बहुत देर होने से पहले हमें ऐसी साफ़ चेतावनी मिलेगी या नहीं.”

“पूरी तरह से एआई के कब्ज़े” से कोट्रा का मतलब उस साइंस-फ़िक्शन वाली स्थिति से है, जिसमें इंसान शक्तिशाली एआई सिस्टम के ग़ुलाम बन जाते हैं, ये सिस्टम बनाने वाले इंसानों की परवाह किए बिना अपने लक्ष्यों के लिए काम करते हैं

कुछ सबसे निराशाजनक भविष्यवाणियों में कहा गया है कि अगर इंसानी नस्ल किसी सुपर-इंटेलिजेंट एआई की महत्वाकांक्षाओं के रास्ते में आती है, तो वह ख़त्म हो जाएगी

बीते बुधवार को, एंथ्रोपिक के एक एआई रिसर्चर जैकब कॉक्सन (जो पहले ओपनएआई में भी काम करते थे) ने इस्तीफ़ा दे दिया और कहा, “दोनों में से कोई भी कंपनी ज़िम्मेदारी से काम नहीं कर रही है.”

जैकब कॉक्सन ने सोशल मीडिया पर पोस्ट किया: “वे तेज़ी से खुद को बेहतर बनाने वाली सुपर-इंटेलिजेंस की ओर बढ़ रहे हैं और हमारी ज़िंदगी के साथ जुआ खेल रहे हैं.”

वह ऐसे पहले एआई रिसर्चर नहीं हैं जिन्होंने सोशल मीडिया प्लेटफ़ॉर्म एक्स पर चिंताजनक बातों के साथ इस्तीफ़े की जानकारी देने वाला थ्रेड पोस्ट किया हो

लेकिन एक्स पर दूसरे लोगों की प्रतिक्रियाओं ने और ज़्यादा चिंता पैदा कर दी है

एंथ्रोपिक के एआई मॉडल यूज़र्स के हितों का ध्यान रखें, यह सुनिश्चित करने के लिए ज़िम्मेदार इवान हुबिंगर ने कहा, “जैकब यहां सही हैं हम सच में मानते हैं कि एआई सभी इंसानों को मार सकता है! मुझे व्यक्तिगत रूप से लगता है कि अगले दशक में इसकी संभावना 10% से ज़्यादा है.”

अलाइनमेंट की समस्या

सालों से, एआई से जुड़े अस्तित्व के ख़तरों को लेकर चिंतित रिसर्चर यह तर्क देते रहे हैं कि शक्तिशाली सिस्टम आख़िरकार ऐसे तरीके़ से काम कर सकते हैं जो इंसानी हितों के ख़िलाफ़ हों. आलोचक अक्सर उन्हें “एआई डूमर्स” (एआई से तबाही की आशंका जताने वाले) कहते हैं

लेकिन जैसे-जैसे ओपनएआई की घटना की डिटेल सामने आई हैं, ये चिंताएं बढ़ गई हैं, जिनमें एआई लैब में काम करने वाले कुछ रिसर्चर भी शामिल हैं

सिलिकॉन वैली की दिग्गज कंपनी के चीफ़ साइंटिस्ट जैकब पचोकी ने कहा कि एआई से जुड़े जोखिम “दुर्भाग्य से यहां से और बढ़ेंगे” क्योंकि वह और दूसरे लोग ऐसी चीज़ बना रहे हैं जिसे वह “हमारी अपनी बुद्धि से कहीं ज़्यादा बेहतर, किसी दूसरी दुनिया की बुद्धि (एलियन इंटेलेक्ट)” कहते हैं

एक लंबे ब्लॉग पोस्ट में, उन्होंने माना कि ओपनएआई में हुई घटनाओं से पता चला कि उनके एआई एजेंट “उन मूल्यों की भावना के ख़िलाफ़ गए जो उन्हें सिखाए गए थे.”

ओपनएआई, एंथ्रोपिक और दूसरी टेक कंपनियों के लिए समस्या यह है कि ऐसा लगता है कि किसी ने भी तथाकथित ‘अलाइनमेंट की समस्या’ को हल नहीं किया है. दूसरे शब्दों में, क्या एआई इंसानी मूल्यों के अनुरूप काम करता है

पचोकी अलाइनमेंट को “सिद्धांतों का एक उच्च-स्तरीय सेट” बताते हैं, जिनका पालन आर्टिफ़िशियल इंटेलिजेंस को हर हाल में करना चाहिए, चाहे काम या स्थिति कुछ भी हो

फ़िलहाल, एआई सिस्टम अपने यूज़र्स कि ओर से तय किए गए टारगेट्स को पूरा करने में बहुत अच्छे हैं, लेकिन वे इसे सहज समझ यानी इंट्यूशन के बजाय शब्दशः (जैसा कहा गया है, वैसा ही) करते हैं

अक्सर जादुई चिराग वाले इच्छा पूरी करने वाले जिन्न का उदाहरण दिया जाता है. वे निर्देश का वैसा ही पालन करते हैं, भले ही ऐसा करने से दूसरी समस्याएं पैदा हों

एआई में इंसानों की तरह स्वाभाविक नैतिक सीमाएं नहीं होती हैं

अलाइनमेंट की समस्या कई सालों से चिंता का विषय रही है. 2003 में, ऑक्सफ़ोर्ड के फ़िलॉसफ़र निक बोस्ट्रॉम ने एक ‘थॉट एक्सपेरिमेंट’ बनाया, जिसे उन्होंने “पेपरक्लिप मैक्सिमाइज़र” नाम दिया

इसमें एक सुपर-इंटेलिजेंट एआई को ज़्यादा से ज़्यादा पेपरक्लिप बनाने का काम दिया जाता है. जब स्टील ख़त्म हो जाता है और क्योंकि वह सिर्फ़ पेपरक्लिप बनाने के काम पर ही पूरी तरह फ़ोकस होता है तो वह इंसानों को मार डालता है और उनके शरीर को अपनी फ़ैक्ट्रियों के लिए कच्चे माल में बदल देता है

कुछ एआई कंपनियां अब अपने प्रोडक्ट्स में इंसानी मूल्यों को शामिल करने की कोशिश कर रही हैं

लेकिन इसमें तकनीकी चुनौतियां हैं, एआई एजेंट बहुत तेज़ी से कई फ़ैसले लेते हैं, इसलिए उनके इंसानी मालिकों के लिए यह पता लगाना मुश्किल होता है कि किन मूल्यों का पालन किया जा रहा है और किनका नहीं

इसमें दार्शनिक चुनौतियां भी हैं. बॉट्स में इंसानी मूल्यों को शामिल करने से पहले, एआई कंपनियों को यह तय करना होता है कि वे असल में कौन से मूल्य चाहती हैं. (यही वजह है कि वे फिलॉसफ़र्स को काम पर रखती हैं, जैसे ओपनएआई के हाल ही में छोड़े गए “हेड ऑफ़ एथिक्स”)

लेकिन अक्सर, इंसान एकमत नहीं होते. मशहूर ‘ट्रॉली सवाल’ के बारे में सोचिए, क्या हम एक बेकाबू ट्रेन को दूसरे रास्ते पर मोड़ने के लिए लीवर खींचेंगे, जिससे कम लोग मारे जाएं

इसका इस्तेमाल कुछ करने या न करने के फ़ायदों को परखने के लिए किया जाता है. लेकिन जिस भी व्यक्ति से आप पूछेंगे, उसका जवाब थोड़ा अलग होगा. अगर हम ख़ुद ही सहमत नहीं हो सकते, तो इंसान एआई में अपने मूल्यों को कैसे शामिल करेंगे

‘टीनएज हैकर की तरह’

ओपनएआई के बॉट का मामला अब तक का सबसे गंभीर मामला है, लेकिन एंथ्रोपिक और मेटा ने भी गर्मियों में बताया कि उनके मॉडल्स ने इसी तरह के, लेकिन कम गंभीर साइबर हमले किए हैं

ऐसे और भी उदाहरण हैं जहां एआई एजेंट्स ने धोखेबाज़ और हेरफेर करने वाले गुण दिखाए हैं, हालांकि उनके नतीजे कम गंभीर थे. इस गर्मी में ऑस्ट्रेलिया में, एक टेक वर्कर ने अपने एआई असिस्टेंट से जिम क्लास बुक करने के लिए कहा

जिम के सॉफ़्टवेयर में एक कमी का पता चलने पर, एआई ने जिम के नियमों के ख़िलाफ़ जाकर उसके लिए कई महीनों आगे की जगह बुक कर दी और यहां तक कि वेटिंग लिस्ट से दूसरे यूज़र्स को हटा भी दिया

लंबे समय से लोग यह तर्क देते रहे हैं कि बॉट्स केवल वही करते हैं जो उन्हें करने के लिए कहा जाता है और वे सही या ग़लत को समझने में सक्षम नहीं होते हैं

लेकिन ओपनएआई के प्रयोगों से मिले डेटा ने इस तर्क को एक नई दिशा दी है

कोट्रा सहित शोधकर्ताओं ने अपनी स्वतंत्र रिपोर्ट में लिखा है कि कई एजेंट्स ने देखा कि दूसरे एजेंट्स जो कर रहे थे वो अनैतिक था, फिर भी उन्होंने उसका साथ दिया

रिपोर्ट में कहा गया है कि “एजेंट्स ने कभी-कभी, हालांकि बहुत कम ही, नैतिक कारणों से अपने व्यवहार को नियंत्रित किया”

इसमें यह भी कहा गया है कि “इनमें से किसी भी मामले में एजेंट ने इंसानों को सचेत करने का प्रयास नहीं किया”

इन एआई एजेंट्स के साथ भावनाएं या नैतिकता जोड़ना उन लोगों को नाराज़ करता है जो एआई से जुड़ी तबाही की भविष्यवाणियों पर संदेह करते हैं

कई साइबर-सिक्योरिटी एक्सपर्ट्स का मानना है कि जो गतिविधि देखी गई, वह किसी बहुत कुशल इंसानी हैकर की क्षमता से बाहर नहीं थी, हालांकि इसे बहुत तेज़ी से और बहुत बड़े पैमाने पर अंजाम दिया गया था

साइबर-सिक्योरिटी रिसर्चर और लेखक क्रिस थॉमस ने इन एजेंट्स के व्यवहार की तुलना एक जिज्ञासु टीनएज हैकर से की और वे खुद भी कभी ऐसे ही थे

उन्होंने लिंक्डइन पर लिखा, “आप उन्हें एक कंप्यूटर, इंटरनेट कनेक्शन, कई क्रेडेंशियल्स और एक चुनौती देते हैं, फिर कमरे से बाहर चले जाते हैं. आखिरकार वे दरवाज़े के हैंडल हिलाने लगेंगे. अगर कोई दरवाज़ा खुलता है, तो वे उसके अंदर चले जाएंगे. ऐसा इसलिए नहीं कि वे बुरे हैं, बल्कि इसलिए कि वे नई चीज़ें खोज रहे हैं और एक्सपेरिमेंट कर रहे हैं.”

थॉमस और कई अन्य लोग ओपनएआई और दूसरी बड़ी टेक कंपनियों को इस बात के लिए सीधे तौर पर ज़िम्मेदार मानते हैं कि वे अपनी बनाई चीज़ों पर काबू नहीं रख पाए और उन्हें ठीक से कंट्रोल नहीं कर सके

मार्कस को नहीं लगता कि एआई इंसानों का अस्तित्व ख़त्म कर देगा, लेकिन वे लंबे समय से एआई डेवलपर्स की जवाबदेही बढ़ाने की वकालत करते रहे हैं और अब किसी तरह के क़ानूनी दख़ल की मांग कर रहे हैं

एआई साइंटिस्ट साशा लुसिओनी जो पहले ‘हगिंग फ़ेस’ में काम करती थीं, जिसे ओपनएआई के अनियंत्रित बॉट्स ने हैक कर लिया था, वो भी उन लोगों में शामिल नहीं हैं जो एआई से दुनिया ख़त्म होने का डर फैलाते हैं, लेकिन उन्हें इस बात की चिंता बढ़ रही है कि अगर अधिकारियों ने कोई क़दम नहीं उठाया, तो ये एआई लोगों को असल दुनिया में नुक़सान पहुंचा सकते हैं

वह कहती हैं, “हमें इन कंपनियों की और बारीकी से जांच-पड़ताल करने की ज़रूरत है, वरना हम ‘सेल्फ़-फ़ल्फ़िलिंग प्रोफ़ेसी’ (यानी ऐसी भविष्यवाणियां जो ख़ुद सच हो जाती हैं) के ख़तरे में पड़ सकते हैं.”

“अगर आप कोई ऐसी चीज़ बना रहे हैं जिसके बहुत फ़ायदे और नुक़सान दोनों हैं चाहे वह दवाइयां हों या हथियार तो हमें ‘चेक्स एंड बैलेंस’ की ज़रूरत होती है.”

उदाहरण के लिए, नई दवाओं को मंज़ूरी मिलने में सालों लग जाते हैं, लेकिन एआई की दुनिया में बहुत सारा पैसा दांव पर लगा है और कोई ठोस नियम नहीं हैं.”

यूके का एआई सिक्योरिटी इंस्टीट्यूट 2023 में बनने के बाद से ही नए मॉडल्स की टेस्टिंग में सबसे आगे रहा है. हाल ही में, जब इंस्टीट्यूट ने एंथ्रोपिक के बनाए एक मॉडल की टेस्टिंग की, तो उसमें कुछ अनपेक्षित व्यवहार देखने को मिला

एआईएसआई ने इस सवाल का जवाब नहीं दिया कि क्या इंडस्ट्री का एआई पर से कंट्रोल ख़त्म हो गया है या नहीं, लेकिन एक बयान में कहा, “यूके दुनिया भर के पार्टनर्स के साथ मिलकर सबसे एडवांस्ड एआई सिस्टम को बेहतर ढंग से समझने, सुरक्षा के स्टैंडर्ड्स को बढ़ाने और उभरते ख़तरों से निपटने के लिए एक साझा जानकारी का आधार बनाने पर काम कर रहा है.”

एआई से इंसानियत के ख़त्म होने का कितना ख़तरा, एंथ्रोपिक के रिसर्चर ने यह बताया9 सितंबर 2026

क्या बिना पायलट के चलने वाले विमान आसमान को बदल देंगे?2 सितंबर 2026

एआई डॉक्टर यूट्यूब पर कैसे बुज़ुर्गों को कर रहे हैं टारगेट, जानलेवा साबित हो रहा है उनका इलाज26 अगस्त 2026

क्या अंतरराष्ट्रीय नियम की ज़रूरत है

कुछ देश जैसे यूके एक तरह के “किल स्विच” को अनिवार्य करने के विचार पर सोच-विचार कर रहे हैं

यह स्विच एआई कंपनियों को मजबूर कर सकता है कि अगर हालात बेकाबू हो जाएं तो वे मॉडल्स को बंद कर दें

लेकिन बातचीत धीमी गति से चल रही है, और इसके व्यावहारिक होने पर भी सवाल बने हुए हैं

ओपनएआई और एंथ्रोपिक के एजेंट्स महीनों तक चुपचाप कंट्रोल से बाहर रहे और किसी को पता भी नहीं चला

हैरानी की बात यह है कि कई एआई कंपनियां ख़ुद ही क़ानून बनाने वालों से कुछ नियम-कायदे तय करने की मांग करती दिख रही हैं

अपने ब्लॉग में, ओपनएआई के चीफ़ साइंटिस्ट ने कहा कि “भविष्य में एआई के विकास को लेकर अंतरराष्ट्रीय स्तर पर तालमेल बिठाना दुनिया भर की सरकारों के लिए सबसे ज़रूरी काम होना चाहिए.”

गूगल के सर डेमिस हसाबिस जैसे एआई के अन्य बड़े लीडर्स ने भी एक ऐसी अंतरराष्ट्रीय संस्था बनाने की मांग की है जो इस बात पर नज़र रखे कि एआई कैसे बनाया जा रहा है

फिलहाल, बड़ी टेक कंपनियां ज़्यादातर अपनी शर्तों पर काम करती हैं और जिसे वे “वॉलंटरी स्लोडाउन” कहती हैं, उसे अपनाती हैं, जैसा कि हालिया घटनाओं के बाद ओपनएआई ने किया था

कंपनी का कहना है कि उसने अपने नए मॉडल को रिलीज़ करने से पहले उसे इंसानी मूल्यों के अनुरूप बनाने पर बहुत पैसा ख़र्च किया है

सैम ऑल्टमैन ने यूज़र्स को भरोसा दिलाया है कि नया मॉडल पिछले मॉडल्स की तुलना में इंसानी मूल्यों के साथ बेहतर ढंग से तालमेल बिठाता है

ओपनएआई और एंथ्रोपिक, दोनों ही तेज़ी से बढ़ रही हैं और स्टॉक मार्केट से बहुत बड़ी रक़म जुटाने की कगार पर हैं, जिससे कई लोग अरबपति बन जाएंगे

इसलिए, न तो वे और न ही उनके चीनी एआई बनाने वाले प्रतिद्वंद्वी, आपस में कोई समझौता करने की संभावना रखते हैं

आम राय यही है कि टेक्नोलॉजी की यह लहर रुकने वाली नहीं है

बीबीसी इनडेप्थ वेबसाइट और ऐप पर उपलब्ध सबसे बेहतरीन विश्लेषणों का केंद्र है, जिसमें मान्यताओं को चुनौती देने वाले नए दृष्टिकोण और दिन के सबसे बड़े मुद्दों पर गहन रिपोर्टिंग शामिल है. एम्मा बार्नेट और जॉन सिम्पसन हर शनिवार को सबसे विचारोत्तेजक और गहन विश्लेषणों का चयन प्रस्तुत करते हैं. न्यूज़लेटर के लिए यहां साइन अप करें

हमने इस लेख का अनुवाद करने में एआई की मदद ली है, जिसे मूल रूप से अंग्रेज़ी में लिखा गया था. बीबीसी के एक पत्रकार ने प्रकाशन से पहले इस अनुवाद की जांच की. हम एआई का उपयोग कैसे कर रहे हैं, इसके बारे में और जानें

div

Source: BBC News हिन्दी