Arena: Top-Agenten lesen etwa 93 Eingabe-Token für jedes Token, das sie ausgeben

Arena, der Herausgeber des Leaderboards, gibt an, dass die 10 besten Agenten in seiner Agent Arena über mehr als 26.000 Sitzungen hinweg etwa 93 Eingabe-Token für jedes von ihnen generierte Token verarbeiten. Das sei der Grund, warum Labs darum wetteifern, den Preis für gecachte Eingaben zu senken. Außerdem zeigt Arena ein Video dazu, wie Caching in echten Sitzungen funktioniert. Die Zahlen stammen aus Arenas eigener Analyse.