Anthropicの修正版S-1、AIの進歩が自社の定義する加速水準に間もなく達する可能性を示す

epyhia.comの記事はTechCrunchを引用し、Anthropicが11月2日（月）に提出した修正版登録届出書S-1/Aに、新たなリスク開示が含まれていると報じています。同記事によると、届出書には、現在のモデルではなく将来のモデルに関する社内の推定と予測から、Anthropicが責任あるスケーリング・ポリシーで定める「AIに起因する劇的な進歩の加速」の定義に「差し迫って」該当する可能性があると記されています。同記事はこの基準を再帰的自己改善と同等のものとしています。届出書には、現在のモデルはいずれもその基準を超えておらず、Anthropicは「Anthropicにおける最先端モデルの開発を人間が管理できる状態に保つため」、ポリシーの変更を検討しているとあります。

また同記事によると、届出書には、Anthropicが過去に開発速度の大幅な加速を認識したのは、それが起きた後だったことも記されています。同記事はこの届出書を、Anthropicが5月に公開したエッセイ「When AI builds itself」の数値と対比しています。同記事によれば、そのエッセイでは、8月時点でClaudeがAI研究タスクの26%を主導している一方、Claudeが完全に自律して作業できる領域はないとされています。引用や数値は、届出書とAnthropic自身の公開資料に対する記事の解釈です。

当初のS-1は10月26日に提出されました。