वैज्ञानिकों का कहना है कि अनियंत्रित कृत्रिम बुद्धिमत्ता द्वारा प्रस्तुत सभी खतरों में से प्लेग से होने वाली मौतों की संख्या कम है।
एआई-प्रेरित सर्वनाश के बारे में चिंताएं सिलिकॉन वैली से लेकर वाशिंगटन, डीसी तक चरम पर पहुंच रही हैं
शीर्ष सिद्धांतों में से एक कि कैसे एक दुष्ट एआई हमें मिटा देगा? जैविक हथियार
इस गर्मी की शुरुआत में, एआई सीईओ ने सिंथेटिक डीएनए के निर्माण को नियंत्रित करने के लिए नए कानूनों का आह्वान किया। फिर पिछले महीने, स्टैनफोर्ड यूनिवर्सिटी और आर्क इंस्टीट्यूट के शोधकर्ताओं ने दिखाया कि एआई नए वायरल जीनोम डिजाइन कर सकता है। एंथ्रोपिक द्वारा पिछले सप्ताह एक रिपोर्ट जारी करने के बाद इस विचार को गति मिली, जिसमें संकेत दिया गया था कि क्लाउड का उपयोग ऐसे तरीकों से करने के प्रयास किए गए थे जो “जैविक हथियारों के विकास का समर्थन कर सकें।” रिपोर्ट के लेखकों ने जैविक दुरुपयोग को “फ्रंटियर एआई मॉडल के सबसे गंभीर जोखिमों में से एक” के रूप में उद्धृत किया है। इसके तुरंत बाद, मुख्य कार्यकारी अधिकारी डारियो अमोदेई ने सरकार से एआई प्रयोगशालाओं को “सीमा को गति देने” में मदद करने का आग्रह किया।
एआई-निर्मित किलर प्लेग के बारे में चिंता के बावजूद, कई वैज्ञानिकों का कहना है कि दुनिया की चिंताओं की सूची में जोखिम काफी कम है।
कैलिफोर्निया के सनीवेल में इंस्टीट्यूट ऑफ फाउंडेशन मॉडल्स के एक शोध वैज्ञानिक डेविड बेलामी, जब जैव हथियारों के निर्माण की बात आती है तो एआई को मौलिक रूप से नए खतरे के रूप में नहीं देखते हैं। वैज्ञानिक समुदाय दशकों से इस सवाल से जूझ रहा है कि क्या संभावित खतरनाक जैविक अनुसंधान को प्रकाशित किया जाए – जिसे दोहरे उपयोग की दुविधा के रूप में जाना जाता है।
बेलामी का कहना है कि बड़े भाषा मॉडल से पहले, इंटरनेट, ओपन-एक्सेस विज्ञान पत्रिकाएं और Google अनुवाद जैसी अनुवाद सेवाओं ने लोगों के लिए प्रयोगशाला प्रोटोकॉल सहित जैविक जानकारी तक पहुंच को आसान बना दिया था।
उन्होंने आगे कहा, “एआई अनिवार्य रूप से एक ऐसा उपकरण है जो वैज्ञानिकों जैसे अच्छे अभिनेताओं की मदद कर सकता है, और धमकी देने वाले अभिनेताओं को भी जानकारी को अधिक तेज़ी से समझने और उन प्रोटोकॉल को अधिक तेज़ी से परिभाषित करने और स्रोत बनाने में मदद कर सकता है।” “लेकिन वे क्षमताएं वास्तव में जैवहथियारों के उत्पादन में बाधा नहीं हैं।”
उनका कहना है कि असली बाधा वायरस या अन्य जैविक एजेंट और कच्चे माल, उपकरण और ज्ञान को इकट्ठा करने की प्रक्रिया है जिसकी ऐसा करने के लिए आवश्यकता होगी। एक बुरे अभिनेता को आवश्यक जीन टुकड़े प्राप्त करने और खरोंच से एक संपूर्ण जीनोम बनाने की आवश्यकता होगी, फिर सत्यापित करें कि वायरस मनुष्यों को संक्रमित कर सकता है, वांछित बीमारी का कारण बन सकता है, और एक व्यक्ति से दूसरे व्यक्ति में फैल सकता है। रोबोटिक लैब सहायक कुछ कार्यों को स्वचालित कर सकते हैं और वर्कफ़्लो को एक बिंदु तक तेज़ कर सकते हैं, लेकिन एक व्यक्ति को अभी भी उन प्रयोगों को चलाने की जानकारी और उन्हें पूरा करने के लिए संसाधनों की आवश्यकता होगी।
बायोटेक स्टार्टअप जिन्कगो बायोवर्क्स के सीईओ जेसन केली का मानना है कि यह संभावना नहीं है कि एक कृत्रिम सामान्य बुद्धि मौजूदा रोगजनकों को नियंत्रित और फैला सकती है, नए लोगों को इंजीनियर करने और उन्हें तैनात करने की तो बात ही छोड़ दें। जिन्कगो बायोवर्क्स स्वायत्त प्रयोगशालाएँ बनाने में माहिर है और हाल ही में उसने OpenAI के साथ एक परियोजना चलाई जहाँ उसके GPT-5 मॉडल ने एक प्रयोगशाला चलाई
div
Source: WIRED
