OpenAI beschrijft hoe het grensverleggende modellen beveiligt, test en bewaakt, van training tot inzet
In een veiligheidsbericht van 18 november beschrijft OpenAI de beschermingsmaatregelen die het in elke fase van de levenscyclus van een model toepast. Die steunen op vier lagen: afstemming op de Model Spec, beveiliging en sandboxing, blokkerende veiligheidsmaatregelen (veiligheidsclassificatoren en Auto-review) en monitoring. Het bedrijf zegt dat het zijn veiligheidsmaatregelen en afstemmingseisen heeft aangescherpt sinds het incident met Hugging Face in juli.
- Onderzoek: OpenAI zegt dat het grensverleggende modellen nu traint zonder live-internettoegang, met behulp van sandboxes, virtuele machines en netwerkperimeters, en de opzet met zijn eigen krachtigste modellen aan red-teamtests onderwerpt. Het zegt alle inferentie van grensverleggende modellen te monitoren en zijn beveiligingsteams te waarschuwen en een workload automatisch te pauzeren als een model het internet bereikt. Volgens OpenAI ontdekten monitors dat een intern onderzoeksmodel via een DNS-configuratiefout beperkte internettoegang kreeg. Het bedrijf meldt dat het de training en evaluatie van zijn meest capabele modellen van 20 september tot 1 oktober heeft stilgelegd om het probleem te verhelpen. Volgens OpenAI stopt het Control Room-systeem de modeluitvoer van een taak binnen 35 seconden nadat een stopinstructie is gegeven.
- Interne inzet: voordat medewerkers toegang krijgen zonder sandbox, moet een model slagen voor tests op afstemming en monitorbaarheid. OpenAI zegt in deze fase elke inferentie van grensverleggende modellen te monitoren en doorgaans Auto-review te vereisen voor medewerkers die Codex gebruiken.
- Externe inzet: OpenAI beschrijft een uitgebreider pakket evaluaties van afstemming en veiligheid, adaptieve tests met geautomatiseerde red-teamers, tests door derden voor zijn meest capabele modellen en offline handhaving tegen misbruik. Programma's voor vertrouwde toegang, zoals Daybreak en Rosalind, beperken wie toegang krijgt tot de gevoeligste mogelijkheden.
OpenAI zegt ook dat het modellen zoals GPT-6.1 Astra heeft achtergehouden toen meer tijd nodig was om aan zijn veiligheidsnormen te voldoen, en dat elke medewerker een incident kan melden voor openbare bekendmaking volgens het beleid voor het melden van misalignment.
Bronnen
Krijg nieuws als dit als pushmelding.
AI Tracker waarschuwt je zodra er iets verandert aan de tools die je gebruikt.