Meta Update- AI चैटबॉट से सुसाइड की बात करी बच्चों ने, तो पेरेंट्स को जाएगा अलर्ट
दोस्तो Meta ने अपने इंस्टाग्राम और फैसबुक टीनएजर्स के लिए सुरक्षा की एक परत जोड़ने वाला हैं, इस नए फ़ीचर के तहत, अगर कोई बच्चा मेटा AI के साथ आत्महत्या या खुद को नुकसान पहुँचाने से जुड़े विषयों पर बात करता है, तो माता-पिता को इसकी सूचना दी जाएगी। आइए जानते हैं इसके बारे में पूरी डिटेल्स
मेटा ने माता-पिता के लिए AI सुरक्षा अलर्ट शुरू किए
मेटा का नया सुरक्षा फ़ीचर माता-पिता की निगरानी को मज़बूत करने और AI-पावर्ड चैटबॉट के साथ बातचीत करने वाले टीनएजर्स की सुरक्षा को बेहतर बनाने के लिए बनाया गया है।
अगर मेटा AI आत्महत्या या खुद को नुकसान पहुँचाने से जुड़ी बातचीत का पता लगाता है, तो माता-पिता को अलर्ट मिलेंगे।
यह फ़ीचर इंस्टाग्राम और मेटा AI को सपोर्ट करने वाले अन्य मेटा प्लेटफ़ॉर्म पर काम करता है।
यह फ़िलहाल इंस्टाग्राम के पैरेंटल सुपरविज़न टूल का इस्तेमाल करने वाले माता-पिता के लिए उपलब्ध है।
इसे इन देशों में शुरू किया गया है:
अमेरिका
यूनाइटेड किंगडम
कनाडा
ऑस्ट्रेलिया
मेटा की योजना इस साल के अंत तक इस फ़ीचर को दुनिया भर में फैलाने की है।
नया सुरक्षा सिस्टम कैसे काम करता है
मेटा ने एक खास AI डिटेक्शन सिस्टम विकसित किया है जो आत्महत्या या खुद को नुकसान पहुँचाने के संकेतों के लिए बातचीत पर नज़र रखता है।
पता लगाने की प्रक्रिया
AI ऐसी बातचीत की पहचान करता है जिनमें खुद को नुकसान पहुँचाने या आत्महत्या का साफ़ ज़िक्र हो।
कोई भी सूचना भेजने से पहले मेटा द्वारा हर फ़्लैग की गई बातचीत की मैन्युअल रूप से समीक्षा की जाती है।
माता-पिता को मैन्युअल सत्यापन प्रक्रिया के बाद ही अलर्ट मिलते हैं।
कंपनी का कहना है कि यह तरीका यूज़र की सुरक्षा बनाए रखते हुए गलत अलर्ट को कम करने में मदद करता है।
माता-पिता को सूचना देने से पहले मैन्युअल समीक्षा
मेटा ने साफ़ किया है कि सिर्फ़ आर्टिफिशियल इंटेलिजेंस यह तय नहीं करेगा कि माता-पिता को सूचित किया जाना चाहिए या नहीं।
कंपनी के अनुसार:
AI केवल संभावित रूप से चिंताजनक बातचीत को फ़्लैग करता है।
इंसानी समीक्षक फ़्लैग की गई हर चैट की पुष्टि करते हैं।
अलर्ट तभी भेजे जाते हैं जब यह पुष्टि हो जाती है कि बातचीत पर माता-पिता का ध्यान ज़रूरी है।
इस प्रक्रिया का मकसद यूज़र की प्राइवेसी और सुरक्षा के बीच संतुलन बनाना है।
माता-पिता के लिए अतिरिक्त सुरक्षा फ़ीचर
मेटा ने नई क्षमताओं के साथ अपने पैरेंटल सुपरविज़न टूल का भी विस्तार किया है।
माता-पिता अब ये कर सकते हैं:
पिछले हफ़्ते उनके टीनएजर ने मेटा AI के साथ जिन विषयों पर बात की, उनकी समीक्षा करना।
इंस्टाग्राम की पैरेंटल सुपरविज़न सेटिंग के ज़रिए AI इंटरैक्शन पर नज़र रखना।
हर मैसेज को पढ़े बिना संभावित रूप से हानिकारक बातचीत के बारे में जानकारी रखना।
यह अपडेट क्यों ज़रूरी है
AI कंपनियों को इस बात को लेकर बढ़ती जांच का सामना करना पड़ रहा है कि चैटबॉट मानसिक स्वास्थ्य चुनौतियों का सामना कर रहे यूज़र्स, खासकर टीनएजर्स, को कैसे जवाब देते हैं।
इस नए फ़ीचर का मकसद है:
शुरुआती हस्तक्षेप के अवसर प्रदान करना।
माता-पिता को मानसिक स्वास्थ्य से जुड़ी गंभीर चिंताओं के बारे में जानकारी रखने में मदद करना।
युवा यूज़र्स के बीच AI के ज़िम्मेदार इस्तेमाल को बेहतर बनाना। Meta के AI प्लैटफ़ॉर्म पर सुरक्षा के उपायों को मज़बूत करना।