OpenAI verschärft ChatGPTs Schutzmaßnahmen gegen Gewalt und schränkt Waffeninformationen für Jugendliche ein

OpenAI hat stärkere Maßnahmen zur Gewaltprävention in ChatGPT und eine Verpflichtung zu einem öffentlichen Community Safety Report angekündigt. Alle folgenden Angaben stammen von OpenAI; das Unternehmen sagt, die Schutzmaßnahmen würden „in den nächsten Wochen“ eingeführt.

• Alle Nutzer: ChatGPT wird weniger detaillierte Antworten zu früheren Massenangriffen und deren Tätern geben, selbst wenn die Informationen anderswo verfügbar sind. OpenAI zufolge schränkt das Unternehmen Rekonstruktionen von Angriffen ein, einschließlich der verwendeten Waffen und Ausrüstung sowie ihrer Beschaffung, und auch detaillierte Vergleiche des Ausmaßes der Schäden. Diese Einschränkungen gelten unabhängig vom Alter und vom Grund der Anfrage.
• Warnzeichen: Wenn aktuelle Chats Anzeichen möglicher Gewalt zeigen, wird ChatGPT bei Informationen, die missbraucht werden könnten, zurückhaltender reagieren. OpenAI arbeitet daran, dieselben strengeren Einschränkungen anzuwenden, wenn das System davon ausgeht, dass ein Nutzer unter 18 Jahre alt ist. Wenn sich in einem Gespräch eine Fixierung darauf zeigt, jemandem ernsthaft zu schaden, kann ChatGPT den Chat automatisch beenden. Beendet es aus diesem Grund mehrere Chats, kann das Konto vorübergehend gesperrt werden.
• Jugendliche: Weitere Einschränkungen für Informationen zu Waffen sowie für praktische Informationen über Waffen und Sicherheitssysteme – selbst wenn eine Frage harmlos wirkt. OpenAI zufolge hat das Unternehmen seine Altersschätzung verbessert. Nutzer, die fälschlich der Nutzungserfahrung für unter 18-Jährige zugeordnet werden, können über Persona bestätigen, dass sie volljährig sind. OpenAI arbeitet daran, Eltern zu benachrichtigen, wenn das Konto eines Jugendlichen gesperrt wird, weil wiederholt über Gewalt gesprochen wurde.
• Meldungen: OpenAI zufolge hat das Unternehmen im dritten Quartal 2026 über 200 Meldungen an Strafverfolgungsbehörden weitergeleitet. Der erste Community Safety Report soll Anfang 2027 erscheinen und die zweite Jahreshälfte 2026 abdecken; danach soll er alle sechs Monate veröffentlicht werden.