Anthropic का कहना है कि उसने Claude को अपनी बातचीत में संभावित दुरुपयोग का संकेत देने के लिए प्रशिक्षित किया है

Anthropic ने एक सुरक्षा उपाय का वर्णन किया है, जिसे वह self-assessment कहता है: Claude के जवाब देने के तुरंत बाद, वह बातचीत का एक प्रारंभिक सुरक्षा आकलन करता है और संभावित दुरुपयोग का संकेत देता है। नीचे दी गई हर बात Anthropic के अपने विवरण पर आधारित है—उसकी पोस्ट और नए Safeguards ब्लॉग से।

• जून से: Anthropic का कहना है कि वह जून से self-assessment का इस्तेमाल कर रहा है और इससे ऐसे दुरुपयोग सामने आए हैं, जिन्हें पकड़ने के लिए उसके अन्य सुरक्षा उपाय बनाए ही नहीं गए थे।
• Anthropic के मुताबिक, यह क्यों काम करता है: Claude बातचीत पहले ही पढ़ चुका होता है, इसलिए यह जाँच कुशल है। तय नुकसान के प्रकारों पर ध्यान देने वाले classifiers के उलट, यह Claude के अपने विवेक का इस्तेमाल करता है। इसलिए Anthropic का कहना है कि उसके मॉडल बेहतर होने के साथ यह और सटीक होता जाता है।