Anthropic twierdzi, że przez dwa tygodnie przed premierą testował pod dużym obciążeniem i wzmacniał usługę Claude Docs
We wpisie inżynieryjnym Vivek Nair z Anthropic opisuje „pętlę chaosu” wykorzystywaną przed premierą Claude Docs 16 września. To edytor dokumentów, nad którymi mogą wspólnie pracować ludzie i sesje Claude (od czatu po Claude Code). Anthropic twierdzi, że do 22 września po premierze powstało ponad 4,6 mln dokumentów, a usługa obsłużyła około 2 mld żądań, odnotowując zaledwie 60 błędów serwera, bez konieczności wycofania wdrożenia i przy użyciu około 50 zoptymalizowanych pod kątem pamięci podów.
- Pętla: od 4 września sesja Claude Code koordynowała podagentów (zwykle około 11 naraz, w szczytowym momencie 30), testujących klaster stagingowy odwzorowujący środowisko produkcyjne na ponad milionie syntetycznych dokumentów dziennie. Wybierała scenariusz, uruchamiała zestaw testów, odczytywała telemetrię przez Datadog MCP, proponowała poprawkę, wdrażała ją na stagingu i powtarzała cykl. Claude prosił o zgodę przed działaniami trudnymi do cofnięcia, takimi jak zmiany schematu lub pamięci masowej, i musiał przestrzegać dwóch niezmienników: dokumenty mają otwierać się niemal natychmiast, a potwierdzona edycja nigdy nie może zaginąć.
- Poprawka dotycząca pamięci: Claude ustalił, że 3 GB pamięci zajmowanej przez jeden duży dokument wynikały z kopiowania go do kilku struktur danych przy każdym naciśnięciu klawisza. Zmieniono je na kopiowanie przy zapisie, co zmniejszyło zużycie do około 180 MB. Anthropic twierdzi, że obniżyło to szacowaną liczbę podów potrzebnych do premiery z ponad 500 do około 50.
- „Przejrzyste” wybory: usługa jest napisana w Rust i korzysta z niewielu zależności, które są dostarczane wraz z nią, dzięki czemu zmierzone wyniki można powiązać z kodem napisanym przez zespół. Anthropic twierdzi, że nie porównywało Rusta z Go.
- Tydzień premiery: Anthropic twierdzi, że we wrześniu 629 razy wdrożyło zmiany na produkcji, a siedem z dziesięciu scenariuszy awarii przećwiczonych na środowisku stagingowym wystąpiło na produkcji. Poprawki były już wtedy zabezpieczone flagami środowiska uruchomieniowego.
- Koszt: Nair twierdzi, że prace pochłonęły około 125 000 USD za wnioskowanie, przy cenie API Claude Fable 5.2 dla klientów, z użyciem wewnętrznego modelu badawczego, który określa jako mniej więcej porównywalny z Fable 5.2. Dodaje, że zespołowi inżynierów zajęłoby to około sześciu miesięcy. W przypadku niewielkiej usługi szacuje koszt dwutygodniowego zrywu na 3 000–10 000 USD, choć sam go nie testował.
Źródła
Otrzymuj takie wiadomości jako push.
AI Tracker powiadomi Cię, gdy coś zmieni się w narzędziach, których używasz.