AI Trackerアプリ
← すべてのニュース
OpenAIモデル

OpenAI、フロンティアモデルの学習からデプロイまでの封じ込め・テスト・監視方法を説明

11月18日付の安全性に関する投稿で、OpenAIはモデルのライフサイクル各段階で適用する保護策を説明した。保護策は、Model Specへの整合、セキュリティとサンドボックス化、遮断型の安全対策(安全性分類器とAuto-review)、監視という4つの層で構成される。同社によると、7月のHugging Faceのインシデント以降、安全対策と整合性要件を強化してきた。

  • 研究: OpenAIは現在、サンドボックス、仮想マシン、ネットワーク境界を使い、インターネットに接続しない状態でフロンティアモデルを学習させていると述べている。また、自社の最も強力なモデルを使ってこの環境をレッドチームテストしているという。すべてのフロンティア推論を監視し、モデルがインターネットに接続するとセキュリティチームに通知するとともに、ワークロードを自動一時停止すると説明している。監視システムが、内部の研究モデルがDNSの設定ミスを利用して限定的にインターネットへアクセスしたことを検知したと報告した。問題の修正中、9月20日から10月1日まで、最も高性能なモデルの学習と評価を一時停止したという。OpenAIによると、Control Roomシステムは停止指示から35秒以内にジョブのモデル出力を停止する。
  • 社内展開: 従業員にサンドボックス外でのアクセスを許可する前に、モデルは整合性と監視可能性のテストに合格する必要がある。OpenAIは、この段階ではすべてのフロンティア推論を監視し、Codexを使う従業員には通常Auto-reviewを必須としていると述べている。
  • 外部展開: OpenAIは、より広範な整合性・安全性評価、自動レッドチームによる適応型テスト、最も高性能なモデルに対する第三者テスト、悪用を防ぐオフラインでの措置について説明している。DaybreakやRosalindなどの信頼済みアクセスプログラムでは、最も機微な機能を利用できる人を制限している。

OpenAIはまた、安全基準を満たすためにさらに時間が必要な場合、GPT-6.1 Astraなどのモデルの公開を見送ってきたと述べている。従業員は誰でも、同社の不整合報告ポリシーに基づき、インシデントを公表するよう提起できるという。

こんなニュースをプッシュで。

使っているツールに変化があると、AI Tracker がお知らせします。

アプリを入手