मेटा का बड़ा कदम, बच्चे AI से पूछेंगे सुसाइड या नुकसान से जुड़े सवाल, तो सीधे पेरेंट्स के पास जाएगा अलर्ट!
मेटा लाया नया सेफ्टी फीचर
Meta AI safety Feature: आज के दौर में सोशल मीडिया हमारी जिंदगी का अहम हिस्सा बन चुका है. हर छोटे-बड़े सवाल के जवाब के लिए हम गूगल या AI का इस्तेमाल कर रहे हैं. वहीं सोशल मीडिया प्लेटफॉर्म्स जितने फायदेमंद हैं, उनसे कहीं ज्यादा ये घातक भी साबित हो रहे हैं. अक्सर कई ऐसे मामले सामने आए हैं, जहां छोटे-छोटे बच्चे AI चैटबॉट पर कुछ भी सर्च कर रहे हैं. यहां तक कि कई बच्चे तो सुसाइड से जुड़े सवाल भी पूछने लगते हैं. ऐसे में अब मेटा, AI चैटबॉट के लिए एक नया सेफ्टी फीचर लाने जा रहा है.
यदि कोई भी टीनएजार मेटा AI से सुसाइड या खुद को नुकसान पहुंचाने को लेकर कोई सवाल करता है, तो यह फीचर उसके पेरेंट्स को तुरंत अलर्ट कर देगा. बता दें कि मेटा ने इस फीचर को अमेरिका, यूके, ऑस्ट्रेलिया और कनाडा जैसे देशों में लॉन्च कर दिया है. खबरों के अनुसार, साल के आखिरी महीने तक इस फीचर को भारत समेत दुनिया भर में रोल आउट कर दिया जाएगा. आइए जानते हैं कि मेटा का यह सेफ्टी फीचर कैसे काम करता है.
नया फीचर कैसे काम करेगा?
मेटा के अनुसार,उसने सेफ्टी फीचर को ध्यान में रखते हुए एक डेडिकेटेड AI सिस्टम तैयार किया है. जैसे ही कोई टीनएजर मेटा AI चैटबॉट पर सुसाइड या खुद को नुकसान पहुंचाने से जुड़े सवाल करता है, तो यह सिस्टम उसके सवालों को तुरंत डिटेक्ट कर लेगा. इसके बाद यह सिस्टम इन बातों का मैनुअली रिव्यू करेगा और फिर बच्चे के पेरेंट्स के पास इसका अलर्ट भेज देगा. मेटा के मुताबिक, AI सिस्टम अपने लेवल पर कन्वर्सेशन देखकर सीधे अलर्ट नहीं भेजेगा. कंपनी ने साफ कहा है कि अगर किसी टीनएजर यूजर का इंटेंट साफ समझ में नहीं आ रहा है, तभी यह सिस्टम उसे डिटेक्ट कर पेरेंट्स को भेजेगा. ऐसे में पेरेंट्स को यह पता चल सकेगा कि उनके बच्चे मोबाइल पर क्या सर्च कर रहे हैं.
सेफ्टी को लेकर बड़े कदम उठा रहीमेटा
मेटा लगातार यूजर्स की सेफ्टी को ध्यान में रखते हुए कई बड़े बदलाव कर रहा है. कपनी ने पिछले कुछ महीनों में अपने सभी प्लेटफॉर्म्स पर नए-नए फीचर्स ऐड किए हैं. वहीं आजकल के बच्चे ऐप Instagram App का ज्यादा इस्तेमाल कर रहे हैं. मेटा ने भी इस ऐप में AI चैटबॉट का ऑप्शन जोड़ दिया है. अगर अब कोई भी टीनएजर सुसाइड से जुड़े सवाल करता है, तो तुरंत उसके पेरेंट्स के पास मैसेज चला जाएगा. इसके अलावा, पेरेंट्स यह भी देख सकते हैं कि उनके बच्चे इंस्टाग्राम पर क्या-क्या सर्च कर रहे हैं.
Limited Content को लेकर मेटा सख्त
बता दें कि मेटा का कहना है कि वह अपने सभी प्लेटफॉर्म्स पर सेफ्टी के लिए नए-नए फीचर्स ऐड कर रहा है. इंस्टाग्राम पर Limited Content नाम का एक स्पेशल फीचर है, जिसे अब मेटा अपने AI चैटबॉट के साथ भी जोड़ने की तैयारी कर रहा है. इससे कम उम्र के बच्चे लिमिटेड कंटेंट ही सर्च कर सकेंगे. इसके अलावा, मेटा इमरजेंसी से जुड़े कई और बड़े फीचर्स भी ला सकता है.
