AI TrackerTélécharger
← Toutes les actus

Anthropic affirme avoir soumis le service Claude Docs à des tests de charge et l’avoir renforcé pendant deux semaines avant son lancement

Dans un billet d’ingénierie, Vivek Nair, d’Anthropic, décrit une « boucle du chaos » utilisée avant le lancement de Claude Docs, le 16 septembre. Cet éditeur de documents permet aux utilisateurs et aux sessions Claude (du chat à Claude Code) de travailler ensemble. Anthropic affirme que le lancement avait attiré plus de 4,6 millions de documents au 22 septembre et généré environ 2 milliards de requêtes, avec seulement 60 erreurs serveur, aucun retour à une version antérieure et environ 50 pods optimisés pour la mémoire.

  • La boucle : à partir du 4 septembre, une session Claude Code coordonnait des sous-agents (généralement environ 11 à la fois, 30 au maximum) sur un cluster de préproduction qui reproduisait l’environnement de production, avec plus d’un million de documents synthétiques par jour. Elle choisissait un scénario, lançait le banc de test, consultait la télémétrie via le MCP Datadog, proposait une correction, la déployait en préproduction et recommençait. Claude demandait une approbation avant toute opération difficile à annuler, comme des modifications de schéma ou de stockage, et devait respecter deux invariants : les documents s’ouvrent presque instantanément et une modification confirmée n’est jamais perdue.
  • Une correction liée à la mémoire : Claude a déterminé que les 3 Go de mémoire utilisés par un gros document venaient du fait que chaque frappe copiait le document dans plusieurs structures de données. Le passage à la copie sur écriture a ramené cette consommation à environ 180 Mo. Anthropic affirme que cela a fait passer son estimation de lancement de plus de 500 pods à environ 50.
  • Des choix « lisibles » : le service est écrit en Rust, avec peu de dépendances, qui sont intégrées au code source, afin que les chiffres mesurés puissent être reliés au code écrit par l’équipe. Anthropic affirme ne pas avoir comparé Rust à Go.
  • La semaine du lancement : Anthropic affirme avoir effectué 629 déploiements en production en septembre et que sept des dix scénarios de panne répétés en préproduction se sont produits en production, avec des correctifs déjà protégés par des indicateurs d’exécution.
  • Coût : Nair affirme que le travail a utilisé environ 125 000 $ d’inférence au tarif catalogue de l’API de Claude Fable 5.2, avec un modèle de recherche interne qu’il décrit comme à peu près comparable à Fable 5.2, et qu’une équipe d’ingénieurs aurait eu besoin d’environ six mois. Pour un petit service, estime-t-il sans l’avoir testé, un effort de deux semaines coûterait entre 3 000 et 10 000 $.

Recevez ce genre d'actus en notification.

AI Tracker vous prévient dès que quelque chose change pour les outils que vous utilisez.

Télécharger l'app