OpenAI rafforza le misure di sicurezza di ChatGPT contro la violenza e limita le informazioni sulle armi per gli adolescenti

OpenAI ha annunciato misure più rigorose per prevenire la violenza in ChatGPT e si è impegnata a pubblicare un Community Safety Report. Tutte le informazioni qui sotto provengono da OpenAI, che afferma che le misure inizieranno a essere introdotte «nelle prossime settimane».

• Tutti gli utenti: ChatGPT fornirà risposte meno dettagliate sugli attacchi di massa avvenuti in passato e sui loro responsabili, anche quando le informazioni sono disponibili altrove. OpenAI afferma di limitare le ricostruzioni degli attacchi, incluse quelle sulle armi e le attrezzature usate e su come sono state ottenute, nonché i confronti dettagliati sulla portata dei danni. Questi limiti si applicano a prescindere dall’età o dal motivo della domanda.
• Segnali d’allarme: se le chat recenti mostrano segnali di possibile violenza, ChatGPT adotterà un approccio più prudente con le informazioni che potrebbero essere usate impropriamente. OpenAI sta lavorando per applicare gli stessi limiti più rigorosi anche quando prevede che un utente abbia meno di 18 anni. Se una conversazione mostra un’ossessione per l’idea di fare seriamente del male a qualcuno, ChatGPT potrà terminare la chat automaticamente; se ne termina diverse per questo motivo, l’account potrebbe essere sospeso temporaneamente.
• Adolescenti: ulteriori limiti alle informazioni sulle armi e alle informazioni pratiche su armi e sistemi di sicurezza, anche quando una domanda sembra innocua. OpenAI afferma di aver migliorato la stima dell’età e che gli utenti classificati per errore nell’esperienza riservata agli under 18 possono confermare di essere adulti tramite Persona. Sta lavorando a un sistema per avvisare i genitori quando l’account di un adolescente viene sospeso per aver parlato ripetutamente di violenza.
• Segnalazioni: OpenAI afferma di aver inoltrato oltre 200 segnalazioni alle forze dell’ordine nel terzo trimestre del 2026. Prevede di pubblicare il suo primo Community Safety Report all’inizio del 2027, con dati relativi alla seconda metà del 2026, e in seguito ogni sei mesi.