Anthropic의 수정된 S-1에 따르면 자체 정의한 AI 발전 가속 기준을 곧 충족할 수 있다

epyhia.com의 기사는 TechCrunch를 인용해 Anthropic이 11월 2일 월요일에 제출한 수정 등록신고서 S-1/A에 새로운 위험 공시가 포함됐다고 전합니다. 기사에 따르면 신고서는 현재 모델이 아니라 미래 모델에 대한 Anthropic의 내부 추정과 예상으로 볼 때, 책임 있는 확장 정책(Responsible Scaling Policy)에서 정의한 ‘AI로 인한 극적인 발전 가속’ 기준을 Anthropic이 ‘임박하게’ 충족할 수 있다고 밝혔습니다. 기사는 이 기준을 재귀적 자기 개선과 같은 것으로 풀이합니다. 신고서는 현재까지 이 기준을 넘은 모델은 없으며, Anthropic이 ‘Anthropic의 최첨단 모델 개발에서 인간이 통제권을 유지하도록’ 정책을 변경하는 방안을 검토 중이라고 밝혔습니다.

기사는 또 Anthropic이 과거에도 개발 속도가 크게 빨라진 뒤에야 이를 파악한 적이 있다고 신고서에서 언급했다고 전합니다. 기사에 따르면 신고서는 Anthropic이 5월에 발표한 에세이 ‘When AI builds itself’의 수치와도 비교됩니다. 해당 에세이는 8월 기준 Claude가 AI 연구 과제의 26%에서 선두를 달리고 있지만, Claude가 완전히 자율적으로 작업하는 분야는 없다고 밝혔다고 기사는 전합니다. 인용문과 수치는 신고서 및 Anthropic의 자체 자료에 대한 기사의 해석입니다.

최초 S-1은 10월 26일 제출됐습니다.