AI TrackerScarica l'app
← Tutte le notizie

SemiAnalysis: con Claude Opus 5.5, i contesti lunghi aggiungono poca latenza se sono in cache, ma gli avvii a freddo costano

SemiAnalysis ha misurato il tempo al primo token (TTFT) durante l’uso interno di Claude Opus 5.5: 632K richieste effettuate tra il 6 ottobre e l’8 novembre. Sono dati dell’azienda basati sul proprio traffico, non un benchmark del fornitore.

  • Con un contesto in cache, il TTFT p50 è passato da 0,9 s con 50–100K token a 1,6 s con oltre 600K token.
  • Con oltre 600K token, il TTFT p50 era di 3,5 s senza cache, contro 1,6 s con la cache, circa il doppio. Al p90 il divario era di 3,5 volte: 10,7 s senza cache contro 3,1 s con la cache. «Senza cache» significa che è stato necessario elaborare da zero più di 50K token.
  • Solo l’1,8% delle richieste era senza cache, ma la rielaborazione del contesto ha rappresentato circa il 15% della spesa per Opus 5.5. La maggior parte riguardava nuovi subagenti avviati da zero; il 12% delle sessioni ha pagato circa 3 $ per riprendere dopo oltre un’ora di inattività.

Il thread ha raccolto 29 punti e 15 commenti su X il 17 novembre.

Ricevi notizie come questa via push.

AI Tracker ti avvisa quando cambia qualcosa negli strumenti che usi.

Scarica l'app