Zmieniony formularz S-1 Anthropic mówi, że firma może wkrótce spełnić własną definicję przyspieszonego postępu w dziedzinie AI

Artykuł na epyhia.com, powołujący się na TechCrunch, informuje, że złożony w poniedziałek 2 listopada zaktualizowany dokument rejestracyjny Anthropic S-1/A zawiera nowe ujawnienie dotyczące ryzyka. Według artykułu dokument stwierdza, że wewnętrzne szacunki i oczekiwania Anthropic dotyczące przyszłych modeli, a nie obecnych, wskazują, że firma może „niebawem” spełnić zawartą w jej Responsible Scaling Policy definicję „dramatycznie przyspieszonego postępu przypisywanego AI” — progu, który artykuł utożsamia z rekurencyjnym samodoskonaleniem. W dokumencie stwierdzono, że żaden z obecnych modeli firmy nie przekroczył tego progu oraz że Anthropic rozważa zmiany w polityce, „aby utrzymać rozwój modeli wiodących w Anthropic pod kontrolą ludzi”.

Artykuł podaje też, że w dokumencie zaznaczono, iż Anthropic w przeszłości nie rozpoznało znaczącego przyspieszenia tempa rozwoju, dopóki ono nie nastąpiło. Autor zestawia dokument z danymi z majowego eseju Anthropic „When AI builds itself”, według którego w sierpniu Claude wiodło w 26% zadań związanych z badaniami nad AI, ale nie było obszaru, w którym Claude działałoby całkowicie autonomicznie. Cytaty i dane liczbowe odzwierciedlają interpretację dokumentu i własnych publikacji Anthropic przez autora artykułu.

Pierwotny formularz S-1 złożono 26 października.