Technology Update- YouTube और X कर रहे अश्लील ऐप्स की प्रोमोशन में मदद, जानिए रिपोर्ट्स क्या कहती है
दोस्तो जैसा कि हम सब जानते हैं कि आर्टिफिशियल इंटेलिजेंस (AI) की मदद से कंटेंट बनाना पहले से कहीं ज़्यादा आसान हो गया है, लेकिन इसने इसके गंभीर गलत इस्तेमाल के रास्ते भी खोल दिए हैं। रिपोर्ट्स के मुताबिक बड़े सोशल मीडिया प्लेटफॉर्म अनजाने में यूज़र्स को ऐसे AI टूल्स तक पहुँचने में मदद कर रहे हैं जो सेक्सुअल डीपफेक इमेज बना सकते हैं। ऐसे कंटेंट के खिलाफ पॉलिसी होने के बावजूद, YouTube और X (पहले Twitter) पर अब लाखों यूज़र्स को इन वेबसाइट्स पर भेजने के आरोप लग रहे हैं, आइए जानते हैं पूरी डिटेल्स
AI-पावर्ड डीपफेक इमेज बनाने वाले दस सबसे लोकप्रिय ऐप्स और वेबसाइट्स का एनालिसिस किया गया ताकि यह समझा जा सके कि यूज़र्स उन तक कैसे पहुँच रहे थे। स्टडी में पाया गया कि दिसंबर 2025 और मार्च 2026 के बीच, सोशल मीडिया प्लेटफॉर्म्स ने सेक्सुअल AI इमेज बनाने वाले टूल्स देने वाली वेबसाइट्स पर 57 लाख (5.7 मिलियन) से ज़्यादा विज़िट भेजे।
सभी प्लेटफॉर्म्स में:
YouTube सबसे बड़ा रेफरल सोर्स था, जहाँ से 18.2 लाख (1.82 मिलियन) विज़िट आए, जो कुल रेफरल का 30% से ज़्यादा था।
X (पहले Twitter) दूसरे नंबर पर रहा, जिसने इन वेबसाइट्स पर 13 लाख (1.3 मिलियन) से ज़्यादा विज़िट भेजे।
यूज़र्स इन टूल्स तक कैसे पहुँच रहे थे
"undress app" जैसे शब्द सर्च करने वाले यूज़र्स को AI डीपफेक टूल्स का रिव्यू, डेमो और प्रमोशन करने वाले वीडियो दिखाए गए। खबरों के मुताबिक, इनमें से कई वीडियो में वेबसाइट्स के सीधे लिंक और फ्री क्रेडिट देने वाले प्रोमोशनल कोड भी शामिल थे, जिससे यूज़र्स के लिए इन सर्विसेज़ तक पहुँचना आसान हो गया।
प्लेटफॉर्म पॉलिसीज़ को लेकर चिंताएँ
रिसर्चर्स का तर्क है कि ये नतीजे कंटेंट मॉडरेशन में एक बड़ी कमी को उजागर करते हैं। हालाँकि YouTube और X जैसे प्लेटफॉर्म्स की पॉलिसीज़ में सेक्सुअल और नुकसानदायक कंटेंट पर रोक है, लेकिन स्टडी से पता चलता है कि वे अभी भी ऐसी इमेज बनाने के लिए डिज़ाइन किए गए थर्ड-पार्टी टूल्स को खोजने में मदद कर रहे हैं।
प्लेटफॉर्म पॉलिसीज़ में न केवल सीधे सोशल मीडिया पर पोस्ट किए गए सेक्सुअल कंटेंट को टारगेट किया जाना चाहिए, बल्कि उन वेबसाइट्स और ऐप्स के प्रमोशन और डिस्ट्रीब्यूशन को भी रोकना चाहिए जो बिना सहमति के सेक्सुअल AI इमेज बनाते हैं।