Anthropicの修正目論見書、AIによる研究加速の安全基準を満たしたと記載

Yahoo Financeによると、Anthropicが11月10日火曜日に提出した修正IPO目論見書には、同社が責任あるスケーリング方針（Responsible Scaling Policy）の基準を満たしたと記されている。同社は以前、この基準を「まもなく」満たす可能性があるとしていた。記事によると、提出書類には「この基準を満たしたと判断しました」とあり、その判断は「現在のモデルで確認したことではなく、今後のモデルに対する予測と、全体的な進歩の速度」に基づくという。

記事によると：

• AIがAnthropicの研究の十分な部分を担い、モデルの改善速度がおおむね2倍になると、この基準に達する。提出書類には、AIが「すでに研究開発を加速させている」とある。基準を超えたからといって開発が停止するのではなく、より多くの安全策が導入される。
• Anthropicは、基準を超えたことの意味を引き続き検討しており、追加の報告書を公表する予定だという。同社は「人間が制御を維持する」ための方針変更を検討している。また、有意義な人間の監督なしに、Claudeを使って次世代以降の最先端モデルを完全自律的に設計・構築することを安全に行えるとは考えていない。
• 提出書類は、Claudeを使って業務を加速させるにつれ、Anthropicの組織が「一部のプロセスを見通せなくなる」可能性があり、その結果、人々が理解し制御するのが難しくなるおそれがあると警告している。
• 記事は、METRが先週、Anthropicのモデルは2025年10月以降、ほぼ2倍の速さで改善していると推定したことに触れている。また、別のMETRによる検証では、Anthropicが8月に基準未達だと主張した論拠は「誇張されていた」と評された。
• 同じ提出書類では、1株当たり70～78ドルの価格帯が設定されている。報道によると、取引は早ければ11月19日に始まる可能性がある。