OpenAI scherpt de waarborgen tegen geweld in ChatGPT aan en beperkt informatie over wapens voor tieners

OpenAI heeft strengere maatregelen ter voorkoming van geweld in ChatGPT aangekondigd en toegezegd een openbaar Community Safety Report te publiceren. Alles hieronder is volgens OpenAI; het bedrijf zegt dat de maatregelen "in de komende weken" worden uitgerold.

• Alle gebruikers: ChatGPT geeft minder gedetailleerde antwoorden over eerdere massale aanvallen en de daders, zelfs als de informatie elders beschikbaar is. OpenAI zegt reconstructies van aanvallen te beperken, waaronder informatie over de gebruikte wapens en uitrusting en hoe die zijn verkregen, en gedetailleerde vergelijkingen van de omvang van de schade. Deze beperkingen gelden ongeacht de leeftijd of reden van de vraag.
• Waarschuwingssignalen: wanneer recente chats wijzen op mogelijk geweld, zal ChatGPT voorzichtiger omgaan met informatie die misbruikt kan worden. OpenAI werkt eraan dezelfde strengere beperkingen toe te passen wanneer het systeem voorspelt dat een gebruiker jonger dan 18 is. Als een gesprek erop wijst dat iemand zich fixeert op het ernstig verwonden van een ander, kan ChatGPT de chat automatisch beëindigen. Als het om die reden meerdere chats beëindigt, kan het account tijdelijk worden gepauzeerd.
• Tieners: verdere beperkingen op informatie over wapens en op praktische informatie over wapens en beveiligingssystemen, zelfs wanneer een vraag onschuldig lijkt. OpenAI zegt de voorspelling van de leeftijd te hebben verbeterd en dat gebruikers die ten onrechte in de ervaring voor jongeren onder de 18 zijn geplaatst, via Persona kunnen bevestigen dat ze volwassen zijn. Het bedrijf werkt aan meldingen aan ouders wanneer het account van een tiener wordt gepauzeerd omdat die herhaaldelijk over geweld heeft gesproken.
• Meldingen: OpenAI zegt in Q3 2026 meer dan 200 meldingen aan wetshandhavingsinstanties te hebben gedaan. Het bedrijf wil begin 2027 zijn eerste Community Safety Report publiceren, over de tweede helft van 2026, en daarna elke zes maanden.