Cinque minuti, poi riparte da zero

Il tuo modello ti dimentica. Cinque minuti di pausa, e il contesto che avevi già pagato si ripresenta al contatore. Da capo. A prezzo pieno.

In questi giorni su X gira un thread che mette in fila i numeri, e gli sviluppatori se lo stanno passando di mano. La cosa sorprendente non è la scoperta. È che nessuno la sapesse.

La memoria che scade

Ogni modello ha una cache. È la memoria di lavoro che conserva il contesto di una sessione: il codice, il documento, la conversazione. Finché la usi, quel contesto si rilegge a una frazione del prezzo. Fino al 90% in meno.

Il punto è il timer. Ogni fornitore decide quanto vive la sua cache.

ModelloQuanto vive la cache
Claude5 minuti, rinnovati a ogni uso. Un'ora, se la paghi.
OpenAIda 5 a 30 minuti, secondo il modello.
Geminicirca un'ora.
DeepSeekore. Nella pratica, anche giorni.

Cinque minuti è la vita standard. Il caso che rompe la regola è DeepSeek: cache su disco, ore o giorni. La prova che il timer non è una legge fisica. È una scelta di infrastruttura.

Una pausa, una riunione, un tool lento: la cache scade. Alla richiesta successiva il modello rielabora tutto il contesto da zero. E lo ripaghi intero.

La pausa diventa una tassa

Nessuno la chiama tassa. Ma si chiama cache miss, e la paghi a ogni riavvio.

Una sessione agentica fa decine di chiamate: lo stesso contesto rispedito a ogni giro. Una riunione di venti minuti a metà lavoro: al ritorno il contatore riparte. E i nemici peggiori sono i tool lenti: un passaggio che risponde in sei minuti si mangia la cache che stava usando.

La cache non è memoria. È un timer che riparte. E il timer è loro.

C'è un secondo effetto, più silenzioso. La cache resta sui server del fornitore. Il tuo contesto, codice e dati compresi, è parcheggiato lì per tutta la vita del timer. Una finestra di conservazione che non hai mai firmato.

Chi vende token incassa quando la cache scade

Qui il dettaglio tecnico diventa economia. La fatturazione a consumo conta i token, non i motivi. Una cache scaduta è traffico nuovo: ogni riavvio è ricavo. Non serve la malafede. Basta l'incentivo.

E poi c'è il lato strategico, quello che pesa di più. Se a metà progetto cambi fornitore, la cache non ti segue: è calda solo da loro. Tutto il contesto da ripagare e da riscaldare. Il vero lock-in non è nel modello. È nel contesto caldo che nessun altro ha.

Il contatore si può spegnere

La domanda giusta non è quanto costa un token. È chi paga quando arriva la pausa.

Nei progetti Oraclum-X la risposta ha una forma precisa: MLR-AI Proxy, il nostro gateway multi-modello. Si vende a sottoscrizione flat: una chiave, un canone, un plafond incluso. Il timer smette di essere un evento di fatturazione. Lavori a raffica o ti fermi a pensare: la bolletta non cambia.

E c'è la parte architetturale, che conta ancora di più. Nel gateway il timer diventa un parametro di progetto: quale provider, quanto contesto, con quale ritmo. Un problema da macchine, risolto una volta, nello strato di mezzo. Per l'utente era una disciplina: non fermarti, non uscire, non respirare. Sbagliato. La disciplina si impone alle persone. L'architettura la elimina.

Il modello è merce: cambia ogni settimana e costa sempre meno. Il gateway è architettura: resta, e accumula. Chi vince non ha il modello migliore. Ha il router migliore. Lo dicevamo un mese fa. Il timer della cache lo rende solo più evidente. E la bolletta era già il posto giusto dove guardare.

Il timer esiste per tutti. La differenza è chi lo paga: tu o il fornitore.

Parliamone.