18 साल से कम उम्र के यूजर्स की सुरक्षा के लिए OpenAI ने ChatGPT के सेफ्टी नियमों को और सख्त करने की घोषणा की है। हथियारों और सुरक्षा प्रणालियों के दुरुपयोग से जुड़ी जानकारी सीमित करने के साथ, हिंसा से संबंधित लगातार गंभीर बातचीत पर अकाउंट और पैरेंटल अलर्ट से जुड़े कदम भी उठाए जा सकते हैं।
Knews Desk – आर्टिफिशियल इंटेलिजेंस यानी AI का इस्तेमाल पढ़ाई, जानकारी हासिल करने और रोजमर्रा के सवालों के जवाब पाने के लिए तेजी से बढ़ रहा है। बच्चे और किशोर भी ChatGPT जैसे टूल्स का इस्तेमाल कर रहे हैं। ऐसे में AI से मिलने वाली जानकारी का गलत इस्तेमाल रोकना एक बड़ी चुनौती बन गया है। इसी को ध्यान में रखते हुए OpenAI ने नाबालिग यूजर्स की सुरक्षा से जुड़े नियमों को और सख्त करने की बात कही है।
रिपोर्ट के मुताबिक, नए सुरक्षा उपायों के तहत ChatGPT बच्चों को हथियारों और सिक्योरिटी सिस्टम से जुड़ी ऐसी विस्तृत जानकारी देने से बचेगा, जिसका इस्तेमाल किसी को नुकसान पहुंचाने या सुरक्षा व्यवस्था को चकमा देने के लिए किया जा सकता है। इन बदलावों का उद्देश्य खतरनाक गतिविधियों में AI के इस्तेमाल की आशंका को कम करना है।
हथियारों और सुरक्षा प्रणालियों से जुड़ी जानकारी पर रोक
OpenAI के मुताबिक, ChatGPT पर पहले से ही हथियार हासिल करने, हिंसा की योजना बनाने या किसी को नुकसान पहुंचाने में मदद देने पर पाबंदी है। अब सुरक्षा नियमों का दायरा और बढ़ाया जा रहा है। खास तौर पर ऐसी तकनीकी जानकारी सीमित की जाएगी, जिसका गलत इस्तेमाल किया जा सकता है।
हालांकि, हिंसा को रोकने, विवाद शांत करने या किसी खतरनाक स्थिति से सुरक्षित निकलने के लिए मदद मांगने वाले बच्चों को सहायता मिल सकेगी। जरूरत पड़ने पर ChatGPT उन्हें किसी भरोसेमंद वयस्क से बात करने की सलाह भी दे सकता है।
रिपोर्ट के अनुसार, यदि कोई यूजर लगातार हिंसा से संबंधित गंभीर सवाल पूछता है, तो ChatGPT बातचीत को रोक सकता है। बार-बार ऐसी गतिविधियां सामने आने पर संबंधित अकाउंट को अस्थायी रूप से प्रतिबंधित करने जैसे कदम भी उठाए जा सकते हैं।
ये सुरक्षा उपाय केवल बच्चों तक सीमित नहीं बताए गए हैं। किसी भी उम्र के यूजर को पुराने हमलों में इस्तेमाल किए गए हथियारों या उपकरणों के बारे में ऐसी बारीक जानकारी देने पर रोक लग सकती है, जो नुकसान पहुंचाने में मददगार हो।
ChatGPT कैसे लगाएगा यूजर की उम्र का अनुमान?
रिपोर्ट के मुताबिक, OpenAI यूजर की उम्र का अनुमान लगाने के लिए उसके व्यवहार और ChatGPT इस्तेमाल करने के तरीके जैसे संकेतों का विश्लेषण कर सकती है। यदि सिस्टम को लगता है कि कोई यूजर 18 साल से कम उम्र का है, तो उसे किशोरों के लिए तैयार किए गए सुरक्षित अनुभव पर भेजा जा सकता है।
वहीं, यदि किसी वयस्क को गलती से नाबालिग समझ लिया जाता है, तो रिपोर्ट में बताए गए Persona वेरिफिकेशन सिस्टम के जरिए उम्र की पुष्टि करने का विकल्प दिया जा सकता है।
गंभीर मामलों में पैरेंट्स को मिल सकता है अलर्ट
नए सुरक्षा उपायों के तहत, यदि किसी नाबालिग की बातचीत में लगातार गंभीर हिंसक संकेत मिलते हैं और उस पर कार्रवाई की जाती है, तो उसके माता-पिता को भी सूचना दी जा सकती है। इसका मकसद बच्चों की सुरक्षा को लेकर परिवारों को सतर्क करना है।
रिपोर्ट में यह भी दावा किया गया है कि OpenAI ने 2026 की तीसरी तिमाही में हिंसा से जुड़े गंभीर सवालों के आधार पर 200 से अधिक मामले कानून प्रवर्तन एजेंसियों तक पहुंचाए। कंपनी इन सुरक्षा सुविधाओं को चरणबद्ध तरीके से जारी करने की योजना बना रही है।
AI के बढ़ते इस्तेमाल के बीच बच्चों की ऑनलाइन सुरक्षा, निजता और खतरनाक जानकारी तक पहुंच को लेकर यह बदलाव अहम है। हालांकि, इन सुविधाओं की वास्तविक उपलब्धता और लागू होने की शर्तों के लिए OpenAI की आधिकारिक घोषणा देखना जरूरी है।