टिमनिट गेब्रू का तर्क है कि एआई कंपनियां स्वायत्त हथियारों जैसे वास्तविक नुकसान पर चर्चा करने से बचने के लिए विलुप्त होने का डर पैदा कर रही हैं।
यहां WIRED पर हम इस सप्ताह एआई उद्योग में कम से कम दो घटनाओं को समझने की कोशिश कर रहे हैं: पहला, दस लाख डॉलर की गणित समस्या पर बड़ी लड़ाई और क्या ओपनएआई ने पहले समस्या को हल करने के लिए अन्य शोधकर्ताओं के काम को गुप्त रूप से उधार लिया था। एक दिन बाद, एक एंथ्रोपिक शोधकर्ता-जो पहले ओपनएआई में काम कर चुका था-ने सार्वजनिक रूप से अपनी नौकरी छोड़ दी, इस चिंता का हवाला देते हुए कि दोनों कंपनियां एआई सुरक्षा को कैसे संभाल रही थीं। एंथ्रोपिक के एक अन्य तकनीकी कर्मचारी ने जवाब में कहा कि कंपनी के लोग “वास्तव में मानते हैं कि एआई सभी मनुष्यों को मार सकता है! मैं व्यक्तिगत रूप से सोचता हूं कि अगले दशक के भीतर यह 10% से अधिक है।” (विस्मयादिबोधक बिंदु पर ध्यान दें।)
इंटरनेट पर इस बात पर बहस छिड़ गई कि क्या ये डर बहुत वैध हैं, पूरी तरह से बढ़ा-चढ़ा कर पेश किए गए हैं, नियामक पर कब्ज़ा करने की रणनीति का हिस्सा हैं, या तकनीक बनाने वाली एआई प्रयोगशालाओं की ओर से आत्म-प्रशंसा है। या उसका कुछ संयोजन
एक प्रमुख प्रौद्योगिकी और एआई शोधकर्ता, टिमनिट गेब्रू, विशेष रूप से उग्र रही हैं, उन्होंने एक्स और ब्लूस्की पर ओवरलैपिंग विचारों और विचारधाराओं के बारे में पोस्ट किया है, जिनके बारे में उनका मानना है कि उन्होंने हमें इस विचित्र क्षण तक पहुंचाया। इससे पहले, गेब्रू को Google से उसके अत्यधिक प्रचारित प्रस्थान के लिए जाना जाता था। कंपनी के तेजी से आगे बढ़ने वाले एआई टूल के भीतर पूर्वाग्रहों का मूल्यांकन करने के लिए 2018 में नियुक्त, उसने और उसके साथी शोधकर्ताओं ने संभाव्य बड़े भाषा मॉडल के संभावित खतरों पर एक पेपर प्रस्तुत किया। गूगल ने इसे खारिज कर दिया. गेबरू अधिक समय तक कंपनी में नहीं था। उन्होंने अपने अनुभवों के बारे में एक आगामी पुस्तक लिखी है, जिसका शीर्षक है डीप अनलर्निंग: द राइज़ ऑफ़ एआई एंड द रेडिकलाइज़ेशन ऑफ़ ए टेक आइडियलिस्ट (अगले साल की शुरुआत में आने की उम्मीद है)
गेब्रू के पास पिछले सप्ताह की एआई-संबंधित घटनाओं पर कई विचार हैं। जबकि उनका काम अनिवार्य रूप से एआई सुरक्षा में निहित है, वह “सुरक्षा और संरेखण” जैसे वाक्यांशों को अस्वीकार करती हैं और सोचती हैं कि जो लोग हमारे आसन्न विनाश की चेतावनी दे रहे हैं वे तकनीकी उद्योग द्वारा होने वाले वास्तविक नुकसान से ध्यान भटकाने की कोशिश कर रहे हैं।
लॉरेन गुड: आपको क्या लगता है कि “गणित की लड़ाई” पर सारा ध्यान एआई की वर्तमान स्थिति के बारे में क्या कहता है?
टिमनिट गेब्रू: ठीक है, सबसे पहले मैं पूछूंगा कि वे गणित की समस्याओं को हल करने में भारी निवेश क्यों कर रहे हैं? वे कुछ विषयों को क्यों चुन रहे हैं? किसी तरह प्रोग्रामिंग और शतरंज और गणित जैसे इन विषयों को इस स्तर तक बढ़ा दिया गया कि ठीक है, आपने इसे हल कर लिया है और इस तरह आपने बुद्धिमत्ता को हल कर लिया है। ऐसा इसलिए है ताकि वे कह सकें, “हमने इसे हल कर लिया।”
जो कहानी OpenAI आपको सुनाना चाहता है वह यह है कि इस AI ने यह अविश्वसनीय काम किया है, और यह अति बुद्धिमान है। इसीलिए उन्होंने गणित को चुना, यह $1 मिलियन का खुला प्रश्न है। लेकिन अगर यह उस पूरी प्रक्रिया से गुजरा होता जिसके द्वारा गणित समुदाय दावों के महत्व और नवीनता की जांच करता है और किसने इसमें योगदान दिया है, और हम सभी ने धूल जमने तक इंतजार किया होता, तो हमें बेहतर समझ मिल जाती कि ओपनएआई इस सफलता को सटीक रूप से तैयार कर रहा था या नहीं
लीडेन घोषणा नामक एक चीज़ है जो मुझे लगता है कि वास्तव में अच्छी है, जो चेतावनी देती है कि यदि गणित के क्षेत्र का उपयोग निगमों द्वारा इस तरह से किया जाता है तो क्या होगा। नीति निर्माता प्रेस विज्ञप्तियों और लोकप्रिय मीडिया पर भरोसा करना शुरू कर देते हैं, जबकि उन्हें स्वयं गणितज्ञों से बात करनी चाहिए। एआई सफलता का दावा करने वाली कंपनियों से लेकर बर्नी सैंडर्स द्वारा बिल का प्रस्ताव देने तक अब जितना समय लगता है वह वास्तव में कम है, और यह अच्छी बात नहीं है
अभी यह सब उनके आईपीओ की ओर ले जाने वाला कठिन काम है। आम तौर पर, शोधकर्ताओं को सहयोगी माना जाता है। जब मैं Google में था, हम Microsoft, Amazon के शोधकर्ताओं के साथ सहयोग कर रहे थे। आप हर समय ऐसा करते हैं. अब, शोधकर्ता उन समस्याओं के बारे में चिंतित हैं जिनके बारे में उन्हें लगता है कि वे अपने लंबित आईपीओ के कारण हल कर रहे हैं
div
Source: WIRED
