एआई से बाल शोषण के खिलाफ जंग तेज, मेटा ने मजबूत की सुरक्षा व्यवस्था

लखनऊ (टेलीस्कोप टुडे संवाददाता)। नई तकनीक के दौर में बच्चों को ऑनलाइन शोषण से बचाना बड़ी चुनौती बनता जा रहा है। इसी चुनौती से निपटने के लिए मेटा ने फेसबुक और इंस्टाग्राम पर बाल यौन शोषण के खिलाफ अपनी सुरक्षा व्यवस्था और मजबूत की है। कंपनी ने नए एआई टूल्स और ऑटोमेटेड सिस्टम तैनात किए हैं, जो संदिग्ध विज्ञापनों, बाहरी वेबसाइटों के लिंक और अपराधियों के नए तौर-तरीकों की पहचान कर कार्रवाई में मदद करेंगे। मेटा के मुताबिक, जनवरी से जून 2026 के बीच भारत में फेसबुक और इंस्टाग्राम पर बाल यौन शोषण से जुड़े 53 लाख कंटेंट पर कार्रवाई की गई, जिनमें 98 प्रतिशत से अधिक मामलों का पता रिपोर्ट से पहले ही सिस्टम ने लगा लिया

मेटा के मुताबिक, जब भी हमें अपने प्लेटफॉर्म पर बाल यौन शोषण से जुड़ा कंटेंट मिलता है या इसकी जानकारी मिलती है, हम इसकी जांच करते हैं। अगर कंटेंट हमारी नीतियों का उल्लंघन करता है, तो हम उसे हटा देते हैं। ऐसे मामलों में जहां अपराधियों द्वारा जानबूझकर कंटेंट शेयर करने के संकेत मिलते हैं, हम उनके अकाउंट्स बंद कर देते हैं। इसके बाद, कानून के अनुसार हम इस कंटेंट की रिपोर्ट ‘नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन’ (एनसीएमईसी) को करते हैं। लेकिन हम यहीं नहीं रुके हैं। हम सालों से बाल सुरक्षा को लेकर अपराधियों के नेटवर्क को खत्म करने पर काम कर रहे हैं। हमारी एक्सपर्ट्स की टीम, जिसमें पूर्व एफबीआई जांचकर्ता भी शामिल हैं, खुद जांच करके ऐसे खतरनाक अकाउंट्स के नेटवर्क को ढूंढती है, हटाती है और उनकी रिपोर्ट करती है। हम लगातार इस बात का अध्ययन करते हैं कि ये नेटवर्क कैसे काम करते हैं, ताकि हम अलग-अलग अकाउंट्स के साथ-साथ पूरे नेटवर्क पर कार्रवाई कर सकें।

विज्ञापन समीक्षा प्रक्रिया में नए सुधार

मेटा के मुताबिक, इंटरनेट पर बच्चों को निशाना बनाने वाले अपराधियों ने अपने तरीके बदल लिए हैं। विज्ञापन ऐसी ही एक जगह है जहां हमने उन्हें ऐसा करते देखा है। ये गलत लोग लगातार हमारे सिस्टम को चकमा देने की कोशिश करते हैं और अक्सर ऐसा कंटेंट बनाते हैं जो आसानी से पकड़ में न आए। एक विज्ञापन ऊपर से बिल्कुल सामान्य लग सकता है, लेकिन वह लोगों को बहुत ही चालाकी से हमारे प्लेटफॉर्म के बाहर मौजूद गैर-कानूनी सामग्री तक ले जाता है, ताकि पकड़ा न जा सके।

जैसे ही हमें विज्ञापनों के जरिए किए जा रहे इस गलत खेल का पता चला, हमने शिकायत वाले विज्ञापनों से आगे बढ़कर अपने सभी प्लेटफॉर्म्स पर इससे जुड़ी बाकी गतिविधियों की भी गहराई से जांच की, ऐसे नियम तोड़ने वाले अकाउंट्स को बंद कर दिया और इससे जुड़े बाहरी लिंक्स को ब्लॉक कर दिया।

इसके बाद, हमने इन नए हथकंडों से निपटने के लिए नए एआई टूल्स समेत अतिरिक्त कदम उठाए। इससे हमारे सिस्टम ऐसे विज्ञापनों को ज्यादा असरदार ढंग से पहचान पाते हैं, जो या तो बाल यौन शोषण सामग्री (सीएसएएम) दिखाते हैं या लोगों को प्लेटफॉर्म के बाहर किसी गलत जगह पर भेजते हैं।

‘साइनपोस्टिंग’ की पहचान के लिए नया लार्ज लैंग्वेज मॉडल (एलएलएम): बाल यौन शोषण से जुड़ी सामग्री के लिए इस्तेमाल होने वाले इस तरीके को पकड़ना, जिसमें विज्ञापन तो ऊपर से सामान्य दिखता है, लेकिन उस पर पुख्ता शक होता है कि वह गुप्त रूप से लोगों को हमारे प्लेटफॉर्म के बाहर किसी गैर-कानूनी कंटेंट या नुकसानदेह गतिविधि की तरफ भेजता है।

विज्ञापन क्या दिखा रहा है, इसके साथ-साथ यह भी बेहतर ढंग से समझना कि वह यूजर को कहां ले जा रहा है, ताकि नियम तोड़ने वाली वेबसाइटों को ब्लॉक किया जा सके और उनके लिए जिम्मेदार अकाउंट्स पर कार्रवाई की जा सके।

एआई के जरिए विज्ञापनों की अतिरिक्त जांच, ताकि ऐसी बाल यौन शोषण सामग्री सामने लाई जा सके, जिसे पुराने सिस्टम नहीं पकड़ पाए थे। इसके लिए हम जांच आगे बढ़ने के साथ-साथ नए संकेतों का इस्तेमाल कर रहे हैं।रेड-टीमिंग एआई एजेंट, जो खुद हमारी सुरक्षा प्रणालियों को परखता है और उनकी कमियां तलाशता है, ताकि अपराधियों के नए तरीकों का दायरा बढ़ने से पहले ही उन्हें पहचाना जा सके। ऐसे गलत लोगों की पहचान करने के सिस्टम को मजबूत बनाना, जो अकाउंट हटाए जाने के बाद फिर से नए अकाउंट बनाने की कोशिश करते हैं।

हमारे काम के पीछे की तकनीक

हमारे एआई और ऑटोमेटेड टूल्स बाल यौन शोषण सामग्री (सीएसएएम) और बच्चों की सुरक्षा से जुड़े उल्लंघनों को खुद ढूंढकर रोकने के लिए काम करते हैं:

व्यवहार से जुड़े संकेत: यह तकनीक अकाउंट्स के मेटाडेटा और उनके काम करने के तरीकों का विश्लेषण करती है, ताकि संदिग्ध गतिविधियों में शामिल अकाउंट्स को पकड़ा जा सके।

फोटो डीएनए और फोटो-वीडियो मैचिंग तकनीक: इसका इस्तेमाल 2011 से मेटा के सभी ऐप्स पर पहले से पहचानी गई बाल यौन शोषण सामग्री (सीएसएएम) की हूबहू या लगभग हूबहू कॉपी को ढूंढने और हटाने के लिए किया जा रहा है। इसके लिए मेटा के पास इमेज और वीडियो हैश का इंडस्ट्री के सबसे बड़े डेटाबेस में से एक मौजूद है। मेटा इसमें नए हैश जोड़ता है और उन्हें टेक कोएलिशन के लैंटर्न प्रोग्राम के जरिए अन्य कंपनियों के साथ शेयर करता है, ताकि बाकी कंपनियां भी ऐसा कंटेंट हटा सकें और इंटरनेट को ज्यादा सुरक्षित बनाने में मदद मिले। मेटा इस तकनीक का इस्तेमाल बाहरी लिंक्स के प्रिव्यू में भी सीएसएएम की पहचान करने के लिए करता है। इस तकनीक से पकड़े गए सभी सीएसएएम कंटेंट की रिपोर्ट कानून के अनुसार एनसीएमईसी की मदद से कानून प्रवर्तन एजेंसियों को दी जाती है।

बाहरी वेबसाइटों के लिंक्स ब्लॉक करना: हम उन बाहरी वेबसाइटों के लिंक्स को ब्लॉक करने का काम करते हैं जो सीएसएएम कंटेंट दिखाती या बनाती हैं। एक बार लिंक ब्लॉक होने के बाद, हम अपने प्लेटफॉर्म पर मौजूद ऐसे विज्ञापन, पोस्ट या कमेंट्स ढूंढकर हटा देते हैं, जिनमें वह लिंक होता है। हम फेसबुक, इंस्टाग्राम और थ्रेड्स पर ऐसे लिंक्स पोस्ट करने से रोकते हैं, और ब्लॉक किए गए लिंक्स वाले विज्ञापनों को अपलोड होते ही रिजेक्ट कर दिया जाता है।

ह्यूरिस्टिक्स आधारित नियम: ये नियम ऑटोमेटेड क्लासिफायर, एआई मॉडल और अन्य संकेतों को एक साथ मिलाकर बड़े पैमाने पर नियम तोड़ने के नए और उभरते तरीकों की खुद पहचान करते हैं और उन पर कार्रवाई करते हैं, विज्ञापनों में भी।

क्या कहते हैं आंकड़े

वैश्विक स्तर पर जनवरी से जून 2026 के बीच हमने फेसबुक और इंस्टाग्राम पर बच्चों के यौन शोषण से जुड़े 3.32 करोड़ कंटेंट पर कार्रवाई की, जिनमें से 97% से अधिक को किसी के रिपोर्ट करने से पहले ही हमने खुद ढूंढकर हटा दिया। वहीं भारत में इसी अवधि के दौरान हमने फेसबुक और इंस्टाग्राम पर बच्चों के यौन शोषण से जुड़े 53 लाख कंटेंट पर कार्रवाई की, जिनमें से 98% से अधिक को भी किसी के रिपोर्ट करने से पहले ही हमारे सिस्टम ने खुद पकड़ लिया।

कानून प्रवर्तन एजेंसियों के साथ काम

हम इन अपराधों के पीछे के लोगों को जवाबदेह ठहराने के लिए लगातार अधिकारियों के साथ काम कर रहे हैं। इस साल सितंबर में हमने घोषणा की कि मेटा बच्चों की सुरक्षा से जुड़े मामलों की रिपोर्ट सीधे नेशनल साइबर क्राइम रिपोर्टिंग पोर्टल (cybercrime.gov.in) को देगा, जिसे इंडियन साइबरक्राइम कोऑर्डिनेशन सेंटर (आई4सी) संचालित करता है। यह हमारी मौजूदा व्यवस्था को और मजबूत बनाता है, जहां हम नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन (एनसीएमईसी) की सहायता से नेशनल साइबर क्राइम रिपोर्टिंग पोर्टल के माध्यम से कानून प्रवर्तन एजेंसियों को बाल यौन शोषण सामग्री की रिपोर्ट करते हैं।