WIRED ने कंपनी द्वारा पुलिस अधिकारी के ब्राउज़र पर भेजे गए कोड से फ्लॉक के नवीनतम खोज टूल को फिर से बनाया। इसका AI लिखित विवरण के अनुरूप किसी भी व्यक्ति पर कई कैमरों के जरिए नजर रख सकता है।
फ्लॉक सेफ्टी के नवीनतम खोज उपकरण पुलिस को कैमरे पर लोगों को ढूंढने के कई तरीके देते हैं, न कि केवल उनकी कारों की लाइसेंस प्लेट को। ये क्षमताएं सॉफ़्टवेयर के एक सूट के अंदर मौजूद हैं जो अब पुलिस द्वारा पीछा किए जाने के दर्जनों मामलों के केंद्र में हैं। WIRED ने उस सॉफ़्टवेयर को एकत्र किया और उसका विश्लेषण किया और सिस्टम के साथ बातचीत करते समय अधिकारी क्या देखते हैं, इसका एक मॉक-अप बनाया
उपकरणों में एक एआई-संचालित घड़ी सूची है। एक अधिकारी किसी शहर के एक क्षेत्र की घेराबंदी कर सकता है और उसके अंदर लगे कैमरों से लिखित विवरण के अनुरूप किसी भी व्यक्ति की निरंतर, स्वचालित खोज करवा सकता है।
पिछले वर्ष में, फ़्लॉक को अपनी प्रौद्योगिकी के विरुद्ध विरोध का सामना करना पड़ा है। देश भर के पुलिस विभागों ने अनुबंध रद्द कर दिए हैं, और नगर परिषदों ने, जिन्होंने एक बार फ़्लॉक को मंजूरी दे दी थी, चुपचाप कैमरों को वापस ले लिया है। टेक्सास के एक डिप्टी द्वारा गर्भपात कराने वाली एक महिला की 83,000 से अधिक कैमरों में खोज करने के बाद कांग्रेस के दो सदस्यों ने फ्लॉक के सीईओ गैरेट लैंगली को पत्र लिखा। और इलिनोइस ने पाया कि कंपनी ने राज्य के कानून का उल्लंघन करते हुए संघीय आव्रजन एजेंटों को राज्य कैमरा डेटा तक पहुंचने दिया था
फ्लॉक ने अगस्त में बदलावों के एक पैकेज के साथ उत्तर दिया, जो डेटा को बनाए रखने की डिफ़ॉल्ट अवधि को कम करता है, प्रत्येक खोज के लिए केस कोड की आवश्यकता होती है, और टूल का दुरुपयोग करने वाले अधिकारियों को पकड़ने के लिए स्वचालित ऑडिटिंग जोड़ता है – फ्लॉक का कहना है कि ये सभी वर्ष के अंत तक अनिवार्य होंगे। WIRED ने उस कोड की जांच की जिस पर ये वादे चलते हैं, लेकिन खोज को नियंत्रित करने वाली अधिकांश चीज़ें फ़्लॉक के सर्वर पर होती हैं। महत्वपूर्ण रूप से, विश्लेषण में पाया गया कि फ्लॉक की रेलिंग इसके उपकरणों के कुछ अपमानजनक उपयोगों को हतोत्साहित कर सकती है, और उन्हें रिकॉर्ड करेगी, लेकिन उन्हें रोक नहीं पाएगी
स्वचालित स्क्रीनिंग और पुलिस प्रौद्योगिकी का अध्ययन करने वाले विशेषज्ञों का कहना है कि फ्लॉक ने अपने एआई को वह काम दिया है जो कोई भी तकनीक विश्वसनीय रूप से नहीं कर पाती है। विशेषज्ञों का कहना है कि फ्लॉक की प्रणाली विभाग की नजरों से दूर यह तय करती है कि कोई अधिकारी किस व्यक्ति का कौन सा विवरण खोज सकता है और उस पैमाने पर कोई भी स्क्रीन ऑपरेटिंग सटीक नहीं है। इसके अलावा, कंपनी के बाहर कोई भी यह नहीं माप सकता कि यह कितनी बार गलत है, या किस दिशा में है। यह उपयोगकर्ताओं को परेशानी में डालता है: कंपनी स्वयं अधिकारियों को चेतावनी देती है कि परिणाम गलत या अपूर्ण हो सकते हैं और उन पर अकेले भरोसा नहीं किया जाना चाहिए, लेकिन खोज करने वाले अधिकारी पर “किसी भी अशुद्धि का जोखिम” डालता है।
उनमें से कुछ निर्णयों का बचाव करना विशेषज्ञों को दूसरों की तुलना में अधिक कठिन लगता है। फ्लॉक की प्रणाली जाति और धर्म सहित संवेदनशील सामग्री की कई श्रेणियों के खिलाफ एक अधिकारी के लिखित विवरण को स्कोर करती है, और “राजनीतिक, सामाजिक और सांस्कृतिक अभिव्यक्ति” ही एकमात्र ऐसी चीज़ है जो खोज को नहीं रोकेगी।
सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी के सुरक्षा निगरानी प्रोजेक्ट के नीति सलाहकार टॉम बोमन का कहना है कि एक संवेदनशील श्रेणी जिसे रोकने के बजाय स्पीड बम्प के साथ फ़्लॉक व्यवहार करता है, वह वह है जिसे अदालतों ने सबसे अधिक बारीकी से संरक्षित किया है। वह कहते हैं, पहले संशोधन के तहत राजनीतिक और सांस्कृतिक अभिव्यक्ति “सबसे सुरक्षात्मक क्षेत्रों में से एक” है, और ऐसा लगता है कि “पुलिसिंग के नजरिए से वास्तव में इसकी सबसे कम चिंता है।”
डेटा दोनों दिशाओं में प्रवाहित होता है। जब सॉफ़्टवेयर किसी खोज को फ़्लैग करता है, तो यह उस भाषा को फ़्लॉक भेजता है जिसका अधिकारी ने उपयोग किया है, श्रेणी और आत्मविश्वास स्कोर मॉडल ने उसे सौंपा है, और अधिकारी ने आगे क्या किया, चाहे जारी रखना, ख़ारिज करना, या चेतावनी पर विवाद करना। फ्लॉक का बयान यह नहीं बताता है कि ये रिकॉर्ड कितने समय तक रखे जाते हैं, कंपनी के अंदर कौन उन्हें देख सकता है, और क्या उनका उपयोग मॉडरेशन प्रणाली के मूल्यांकन या सुधार के लिए किया जाता है।
हर वोट मायने रखता है
div
Source: WIRED
