Anthropic 修訂後的招股說明書稱,已達到 AI 加速研究的安全門檻
Yahoo Finance 報導,Anthropic 於 11 月 10 日星期二提交的 IPO 修訂版招股說明書稱,公司已達到《負責任擴展政策》中的一項門檻;此前公司曾表示可能「即將」達到該門檻。據報導,文件中寫道:「我們判定自己已達到這項門檻」,其依據是「我們對未來模型的預期以及整體進展速度,而非目前模型的觀察結果。」
據報導:
- 當 AI 承擔 Anthropic 足夠多的研究工作,使其模型改進速度大致翻倍時,即代表達到這項門檻。文件指出,AI「已在加速我們的研究與開發」。跨過門檻意味著採取更多防護措施,而非停止運作。
- Anthropic 表示,仍在評估跨過門檻的意義,並將發布進一步報告。公司正考慮政策變更,「以確保人類掌控局面」,且不預期能在缺乏有意義的人類監督下,安全地運用 Claude 全自主設計並建造一代又一代的前沿模型。
- 文件警告,隨著 Anthropic 使用 Claude 加快工作進度,組織「可能會對某些流程失去掌握」,而這種情況可能變得難以讓人理解和控制。
- 報導指出,METR 上週估計,自 2025 年 10 月以來,Anthropic 的模型改進速度幾乎翻倍;另一份 METR 評估則稱,Anthropic 於 8 月提出仍未達到門檻的說法「言過其實」。
- 同一份文件將股價區間訂為每股 70 至 78 美元;據報導,股票最快可能於 11 月 19 日開始交易。
來源
- Anthropic 稱關鍵 AI 安全警報已觸發,距 IPO 僅數日Hacker News · 10 則留言
這樣的新聞,第一時間推播給你。
你使用的 AI 工具一有變化,AI Tracker 就會通知你。