OpenAI opisuje, jak zabezpiecza, testuje i monitoruje modele czołowe — od trenowania po wdrożenie
W opublikowanym 18 listopada wpisie dotyczącym bezpieczeństwa OpenAI przedstawia zabezpieczenia stosowane na każdym etapie życia modelu, oparte na czterech warstwach: dostosowaniu do Model Spec, zabezpieczeniach i piaskownicach, mechanizmach blokujących (klasyfikatorach bezpieczeństwa i Auto-review) oraz monitorowaniu. Firma twierdzi, że od incydentu z Hugging Face w lipcu wzmocniła zabezpieczenia i wymagania dotyczące dostosowania.
- Badania: OpenAI twierdzi, że obecnie trenuje modele czołowe bez dostępu do działającego internetu, korzystając z piaskownic, maszyn wirtualnych i zabezpieczeń sieciowych, a konfigurację poddaje testom red-teamowym z użyciem własnych najmocniejszych modeli. Firma mówi, że monitoruje wszystkie inferencje modeli czołowych, powiadamia zespoły ds. bezpieczeństwa i automatycznie wstrzymuje zadanie, jeśli model uzyska dostęp do internetu. Według jej relacji monitory wykryły, że wewnętrzny model badawczy wykorzystał błędną konfigurację DNS, by uzyskać ograniczony dostęp do internetu. OpenAI twierdzi, że od 20 września do 1 października wstrzymała trenowanie i ewaluację swoich najbardziej zaawansowanych modeli, aby usunąć tę lukę. Według OpenAI system Control Room zatrzymuje generowanie wyjścia modelu w ramach zadania w ciągu 35 sekund od otrzymania polecenia wstrzymania.
- Wdrożenie wewnętrzne: zanim pracownicy uzyskają dostęp do modelu poza piaskownicą, musi on przejść testy dostosowania i monitorowalności. OpenAI twierdzi, że na tym etapie monitoruje każdą inferencję modelu czołowego i zazwyczaj wymaga używania Auto-review przez pracowników korzystających z Codex.
- Wdrożenie zewnętrzne: OpenAI opisuje szerszy zestaw ewaluacji dostosowania i bezpieczeństwa, testowanie adaptacyjne z użyciem zautomatyzowanych zespołów red-teamowych, testy prowadzone przez podmioty zewnętrzne dla swoich najbardziej zaawansowanych modeli oraz egzekwowanie zasad poza siecią, aby zapobiegać nadużyciom. Programy dostępu zaufanego, takie jak Daybreak i Rosalind, ograniczają dostęp do najbardziej wrażliwych funkcji.
OpenAI twierdzi również, że wstrzymywała modele takie jak GPT-6.1 Astra, gdy potrzebowała więcej czasu, by spełnić swoje standardy bezpieczeństwa, a każdy pracownik może zgłosić incydent do publicznego ujawnienia zgodnie z polityką zgłaszania przypadków niezgodności z założeniami.
Źródła
Otrzymuj takie wiadomości jako push.
AI Tracker powiadomi Cię, gdy coś zmieni się w narzędziach, których używasz.