OpenAI ने ChatGPT के हिंसा-सुरक्षा उपाय कड़े किए, किशोरों के लिए हथियारों की जानकारी सीमित की

OpenAI ने ChatGPT में हिंसा रोकने के मज़बूत उपायों और सार्वजनिक Community Safety Report के प्रति अपनी प्रतिबद्धता की घोषणा की। नीचे दी गई सारी जानकारी OpenAI के बयान पर आधारित है; उसका कहना है कि सुरक्षा उपायों का क्रमिक रूप से लागू होना "अगले कुछ हफ़्तों में" शुरू होगा।

• सभी उपयोगकर्ता: ChatGPT अतीत के सामूहिक हमलों और उन्हें अंजाम देने वालों के बारे में कम विस्तृत जवाब देगा, भले ही यह जानकारी कहीं और उपलब्ध हो। OpenAI का कहना है कि वह हमलों के पुनर्निर्माण से जुड़ी जानकारी सीमित कर रहा है—जिसमें इस्तेमाल किए गए हथियार और उपकरण, उन्हें हासिल करने का तरीका और नुकसान के पैमाने की विस्तृत तुलनाएँ शामिल हैं। ये सीमाएँ उम्र या सवाल पूछने की वजह की परवाह किए बिना लागू होंगी।
• चेतावनी के संकेत: हाल की चैट में संभावित हिंसा के संकेत दिखने पर ChatGPT ऐसी जानकारी के मामले में अधिक सतर्कता से जवाब देगा जिसका दुरुपयोग हो सकता है। OpenAI का कहना है कि वह उन मामलों में भी यही सख़्त सीमाएँ लागू करने पर काम कर रहा है, जब उसे लगता है कि उपयोगकर्ता की उम्र 18 साल से कम है। अगर किसी बातचीत में किसी को गंभीर नुकसान पहुँचाने की सनक दिखे, तो ChatGPT चैट अपने-आप समाप्त कर सकेगा; इस वजह से कई चैट समाप्त होने पर खाते को अस्थायी रूप से रोक दिया जा सकता है।
• किशोर: हथियारों से जुड़ी जानकारी और हथियारों तथा सुरक्षा प्रणालियों के बारे में व्यावहारिक जानकारी पर और सीमाएँ लगेंगी—भले ही सवाल बेकसूर लगे। OpenAI का कहना है कि उसने उम्र का अनुमान लगाने की अपनी प्रणाली को बेहतर किया है। जिन उपयोगकर्ताओं को ग़लती से 18 साल से कम उम्र वालों वाला अनुभव दिया गया है, वे Persona के ज़रिए पुष्टि कर सकते हैं कि वे वयस्क हैं। कंपनी इस पर काम कर रही है कि हिंसा पर बार-बार चर्चा करने के कारण किशोर का खाता रोके जाने पर उसके माता-पिता को सूचित किया जाए।
• रिपोर्टिंग: OpenAI का कहना है कि उसने Q3 2026 में क़ानून प्रवर्तन एजेंसियों को 200 से अधिक रेफ़रल किए। कंपनी की योजना है कि 2026 की दूसरी छमाही को कवर करने वाली अपनी पहली Community Safety Report 2027 की शुरुआत में प्रकाशित करे, और उसके बाद हर छह महीने में रिपोर्ट जारी करे।