एंथ्रोपिक के रिसर्चर को चिंता है कि जल्द ही यह तकनीक ख़ुद को बेहतर बनाने में सक्षम हो सकती है और उस स्तर तक पहुंच सकती है जहां यह मानवता के अस्तित्व के लिए ख़त…
एंथ्रोपिक के एक वरिष्ठ सुरक्षा शोधकर्ता ने चेतावनी दी है कि एआई इतनी तेज़ी से आगे बढ़ रही है कि उनके हिसाब से अगले दस साल के भीतर इसके सभी इंसानों की मौत का कारण बनने की संभावना 10% से ज़्यादा है
इवान ह्यूबिंगर ने एक्स पर एक पोस्ट में कहा कि मौजूदा एआई मॉडलों से ख़तरा “कम” है
लेकिन उन्हें चिंता है कि जल्द ही यह तकनीक ख़ुद को बेहतर बनाने में सक्षम हो सकती है और उस स्तर तक पहुंच सकती है जहां यह मानवता के अस्तित्व के लिए ख़तरा बन जाए
यह टिप्पणी ऐसे समय में आई है जब फ़ाइनेंशियल टाइम्स ने रिपोर्ट किया कि एंथ्रोपिक ने अपने नए मॉडल को ब्रिटेन के एआई सेफ़्टी इंस्टीट्यूट (एआईएसआई) के साथ साझा नहीं किया
यह संस्थान एआई से जुड़े ख़तरों का आकलन करने वाली दुनिया की प्रमुख संस्थाओं में से एक है. बीबीसी ने इस मामले पर प्रतिक्रिया के लिए एंथ्रोपिक से संपर्क किया है
ह्यूबिंगर की यह टिप्पणी एंथ्रोपिक के एक शोधकर्ता के बारे में आई ख़बर के जवाब में थी
वॉल स्ट्रीट जर्नल के मुताबिक़ उस शोधकर्ता ने नौकरी छोड़ दी थी और इसकी वजह एआई के नियंत्रण से बाहर होते जाने की चिंता बताई थी
अलगाववादी रुख़ अपना रहा अमेरिका
कैबिनेट ऑफ़िस के एक प्रवक्ता ने इस बात पर कोई टिप्पणी नहीं की कि क्या नया मॉडल एआईएसआई को नहीं दिया गया था
महिला के पेट में 13 पेन, 5 चम्मच और एक मोमबत्ती पाई गई, डॉक्टरों ने क्या कहा
ईरान ने ओमान की खाड़ी और अरब सागर के बारे में दिया ये अहम बयान
पुतिन का सुरक्षा घेरा भेद पाना क्यों है नामुमकिन, कौन करता है उनकी रक्षा
याक चुरपी: ‘दुनिया का सबसे बेहतरीन चीज़’ भारत में कहाँ और कैसे बनाया जाता है
इसके बजाय उन्होंने कहा कि संस्थान “मॉडलों को ज़्यादा सुरक्षित बनाने के लिए एंथ्रोपिक समेत उद्योग जगत के साझेदारों के साथ क़रीबी सहयोग जारी रखे हुए है.”
कैम्ब्रिज विश्वविद्यालय में मशीन लर्निंग के प्रोफ़ेसर नील लॉरेंस ने बीबीसी रेडियो 4 के टुडे कार्यक्रम को बताया कि यह रिपोर्ट विश्वसनीय लगती है
उन्होंने कहा, “मुझे लगता है कि यह हैरानी की बात नहीं है. ऐसी धारणा बन गई है कि अमेरिका एआई को ख़ुद और चीन के बीच की एक दौड़ के रूप में देखता है.”
उन्होंने कहा, “अमेरिका लगातार ज़्यादा अलगाववादी रुख़ अपना रहा है. ऐसे में यह संभव है कि प्रशासन अपने कुछ सहयोगी देशों के साथ सहयोग कम करने की बात कह रहा हो.”
क्या बिना पायलट के चलने वाले विमान आसमान को बदल देंगे?2 सितंबर 2026
एआई डॉक्टर यूट्यूब पर कैसे बुज़ुर्गों को कर रहे हैं टारगेट, जानलेवा साबित हो रहा है उनका इलाज26 अगस्त 2026
सुपर इंटेलिजेंस के लिए कोई योजना नहीं
देश – दुनिया की बड़ी ख़बरें जिन्होंने बटोरी सुर्खियां
एक्स पर अपनी पोस्ट में ह्यूबिंगर ने कहा कि “हम सचमुच मानते हैं” कि एआई इंसानी प्रजाति के अस्तित्व के लिए ख़तरा बन सकती है. उनकी इस पोस्ट को एक करोड़ से ज़्यादा बार देखा जा चुका है
उन्होंने आगे कहा, “मेरा मानना है कि एंथ्रोपिक अपनी तरफ़ से पूरी कोशिश कर रही है. लेकिन हमारे पास अभी सुपर इंटेलिजेंस के लिए एआई अलाइनमेंट की समस्या का समाधान करने की कोई योजना नहीं है और न ही हम अभी उस दिशा में स्पष्ट रूप से आगे बढ़ते दिख रहे हैं.”
ह्यूबिंगर एआई अलाइनमेंट के क्षेत्र में काम करते हैं. इसका मक़सद इंसानी नैतिक मूल्यों और सिद्धांतों को एआई तकनीक में शामिल करना है
दूसरे शब्दों में, इसका उद्देश्य यह सुनिश्चित करना है कि एआई इंसानों के मूल्यों और उद्देश्यों के अनुरूप काम करती रहे
शोधकर्ताओं की प्रमुख चिंताओं में से एक यह है कि एआई इंसानी लक्ष्यों से अलग दिशा में जा सकती है
दूसरी चिंता यह है कि एआई ख़ुद को बेहतर बनाकर और अपनी प्रतिकृतियां तैयार करके स्वायत्त रूप से ज़्यादा शक्तिशाली हो सकती है
इस विचार को साइंस फ़िक्शन की कई रचनाओं में दिखाया गया है. इनमें द टर्मिनेटर से लेकर होराइज़न: फ़ॉरबिडन वेस्ट जैसी कृतियां शामिल हैं
अगस्त में जारी एंथ्रोपिक की सुरक्षा रिपोर्ट में कहा गया था कि उसके मॉडलों के किसी काल्पनिक शक्तिशाली संगठन की इच्छाओं के अनुरूप ग़लत दिशा में जाने का जोखिम कम है
रिपोर्ट में कहा गया कि ऐसे हालात में मॉडल उसके सिस्टम का दुरुपयोग कर सकते हैं या उनमें छेड़छाड़ कर सकते हैं
रिपोर्ट में यह भी कहा गया कि अत्यधिक सक्षम एआई के “स्वचालित शोध और विकास” करने में सक्षम होने का जोखिम भी कम है. ऐसी स्थिति में “एआई की ओर से शुरू किया गया विनाशकारी नुक़सान” हो सकता है
हालांकि, रिपोर्ट में यह भी कहा गया कि इस आकलन को लेकर उसका भरोसा पहले की तुलना में कम है
रिपोर्ट में लिखा गया, “हम संभावित तेज़ी के शुरुआती संकेत देख रहे हैं.”
बैंक ऑफ़ अमेरिका के सर्वे में इंडोनेशिया से पिछड़ा भारत20 अगस्त 2026
‘मुझे अपना सीवी बोटॉक्स करना पड़ा’: एआई के दौर में क्या महिलाओं को नौकरी मिलना हो रहा है मुश्किल?14 अगस्त 2026
एआई एजेंट्स के साइबर हमले
एआई क्षेत्र की कई प्रमुख हस्तियां वर्षों से इस तकनीक से जुड़े सुरक्षा ख़तरों को लेकर चेतावनी देती रही हैं. 2023 में ओपनएआई, गूगल डीपमाइंड और एंथ्रोपिक के प्रमुखों ने भी ऐसी ही चिंताएं जताई थीं
लेकिन हाल के हफ़्तों में ये चेतावनियां और ज़्यादा गंभीर हो गई हैं. इसकी वजह यह है कि ऐसे संकेत सामने आए हैं जिनसे लगता है कि कंपनियों को एआई पर नियंत्रण बनाए रखने में मुश्किलों का सामना करना पड़ सकता है
गर्मियों के दौरान कई ऐसी घटनाएं सामने आईं जिनमें एआई एजेंट्स ने साइबर हमले किए. एआई एजेंट्स ऐसे एआई सिस्टम होते हैं जिन्हें स्वायत्त रूप से काम करने की अनुमति होती है
ओपनएआई, एंथ्रोपिक और मेटा, तीनों ने सार्वजनिक किया कि उनकी एआई तकनीकों का इस्तेमाल हैकिंग की घटनाओं में किया गया
सितंबर में ओपनएआई के मुख्य वैज्ञानिक याकूब पाचोकी ने एआई की प्रगति को लेकर “अत्यधिक सावधानी” बरतने की अपील की
उन्होंने चेतावनी दी कि यह सुनिश्चित करने के लिए और हस्तक्षेप की ज़रूरत पड़ सकती है कि “भविष्य पर इंसानों का नियंत्रण बना रहे.”
हाल के महीनों में एआई क्षेत्र की कई प्रमुख हस्तियां एआई के विकास की रफ़्तार धीमी करने की मांग कर रही हैं
इनमें एंथ्रोपिक के प्रमुख डारियो अमोदेई और जेरेड कैपलन भी शामिल हैं. एआई कंपनियों के 1,300 कर्मचारियों ने एक खुले पत्र पर हस्ताक्षर किए हैं
इसमें उन्होंने अमेरिकी सरकार से अपील की कि वह एआई विकास की सबसे उन्नत तकनीकों की रफ़्तार को नियंत्रित करने के लिए ज़रूरी तकनीकी और प्रशासनिक व्यवस्थाएं विकसित करने के अंतरराष्ट्रीय प्रयासों का समर्थन करे
हमने इस लेख का अनुवाद करने में एआई की मदद ली है, जिसे मूल रूप से अंग्रेज़ी में लिखा गया था. बीबीसी के एक पत्रकार ने प्रकाशन से पहले इस अनुवाद की जांच की. हम एआई का उपयोग कैसे कर रहे हैं, इसके बारे में और जानें
div
Source: BBC News हिन्दी
