Søgning
1 briefing-resultat(er) for »prompt-caching«
Derfor faldt LLM-priserne med op til 80 procent
Ved agentarbejde udgør cache-læste tokens 96-99 procent af forbruget, og cachen rammes 90-100 procent af tiden. Det forklarer de store prisfald.
1 briefing-resultat(er) for »prompt-caching«
Ved agentarbejde udgør cache-læste tokens 96-99 procent af forbruget, og cachen rammes 90-100 procent af tiden. Det forklarer de store prisfald.