AI TrackerApp laden
← Alle News
OpenAIModelle

OpenAI beschreibt, wie es Frontier-Modelle vom Training bis zur Bereitstellung absichert, testet und überwacht

In einem Sicherheitsbeitrag vom 18. November legt OpenAI dar, welche Schutzmaßnahmen es in jeder Phase des Lebenszyklus eines Modells anwendet. Sie beruhen auf vier Ebenen: Ausrichtung an der Model Spec, Sicherheit und Sandbox-Isolierung, blockierende Schutzmaßnahmen (Sicherheitsklassifikatoren und Auto-review) sowie Überwachung. Seit dem Vorfall mit Hugging Face im Juli habe OpenAI seine Schutzmaßnahmen und Anforderungen an die Ausrichtung verstärkt.

  • Forschung: OpenAI zufolge trainiert das Unternehmen Frontier-Modelle inzwischen ohne Live-Internetzugang, in Sandboxes und virtuellen Maschinen sowie hinter Netzwerkgrenzen. Das Setup werde mit den eigenen leistungsstärksten Modellen einem Red Teaming unterzogen. OpenAI sagt, es überwache sämtliche Frontier-Inferenz und alarmiere seine Sicherheitsteams; außerdem werde eine Arbeitslast automatisch pausiert, wenn ein Modell auf das Internet zugreife. Das Unternehmen berichtet, dass Überwachungssysteme erkannten, wie ein internes Forschungsmodell über eine DNS-Fehlkonfiguration begrenzten Internetzugang erlangte. Daraufhin habe es das Training und die Evaluierung seiner leistungsfähigsten Modelle vom 20. September bis zum 1. Oktober pausiert, während es die Schwachstelle behob. Laut OpenAI stoppt das Control Room-System die Modellausgabe eines Jobs innerhalb von 35 Sekunden nach einer Stoppanweisung.
  • Interne Bereitstellung: Bevor Beschäftigte unbeschränkten Zugriff außerhalb einer Sandbox erhalten, muss ein Modell Tests zur Ausrichtung und Überwachbarkeit bestehen. OpenAI zufolge überwacht es in dieser Phase jede Frontier-Inferenz und verlangt von Beschäftigten, die Codex nutzen, in der Regel den Einsatz von Auto-review.
  • Externe Bereitstellung: OpenAI beschreibt ein umfangreicheres Paket aus Ausrichtungs- und Sicherheitsprüfungen, adaptiven Tests mit automatisierten Red Teamern, Tests durch Dritte für die leistungsfähigsten Modelle sowie Offline-Maßnahmen zur Durchsetzung der Regeln gegen Missbrauch. Programme für vertrauenswürdigen Zugang wie Daybreak und Rosalind schränken ein, wer die sensibelsten Funktionen nutzen kann.

OpenAI sagt außerdem, dass es Modelle wie GPT-6.1 Astra zurückgehalten habe, wenn es mehr Zeit brauchte, um seine Sicherheitsstandards zu erfüllen. Zudem könne jeder Beschäftigte gemäß der Richtlinie zur Meldung von Fehlanpassungen einen Vorfall zur öffentlichen Bekanntgabe melden.

News wie diese als Push.

AI Tracker benachrichtigt dich, wenn sich bei deinen Tools etwas ändert.

App laden