Chiedi a un modello AI quante sono le lettere della parola “fragola” e probabilmente ottieni una risposta sbagliata. Chiedigli di analizzare un contratto di 50 pagine e il risultato è spesso eccellente. La stessa tecnologia, lo stesso modello, due esperienze opposte. La ragione sta in come il modello elabora le richieste prima di rispondere — e i thinking tokens sono l’elemento che separa le due situazioni.

Non è un aggiornamento recente. È un cambio di architettura che ha ridisegnato il modo in cui i modelli AI affrontano i problemi complessi, ed è diventato il terreno principale su cui Google, OpenAI e Anthropic competono nel 2026. Capire come funziona serve a usare questi strumenti in modo più consapevole — e a non pagare per computazione che non migliora il risultato.

Cos’è un token: il mattone di base

Prima di arrivare al ragionamento, serve capire cosa si intende per token. Un modello AI non legge il testo come lo leggono gli esseri umani: lo scompone in unità più piccole chiamate appunto token. Per i modelli Gemini, un token equivale a circa 4 caratteri di testo. Cento token corrispondono approssimativamente a 60-80 parole in italiano.

La parola “intelligenza” è un token. “In” e “telligenza” potrebbero essere due token separati, a seconda del tokenizer del modello. Il punto è che il modello processa, prevede e genera token in sequenza — non parole complete, non frasi, ma queste unità sub-lessicali. Ogni token che entra nel modello come input ha un costo. Ogni token che il modello genera come output ha un costo. I thinking tokens sono una categoria aggiuntiva: token generati internamente dal modello, invisibili all’utente nella maggior parte dei casi, ma che consumano risorse computazionali e, nelle implementazioni commerciali, anche budget.

Cosa sono i thinking tokens e da dove vengono

L’idea di far “pensare” il modello prima di rispondere non è nuova. Nel 2022, Wei e colleghi hanno dimostrato con il lavoro sul Chain-of-Thought prompting che guidare un modello a ragionare passo per passo — con l’istruzione “pensa step by step” inserita nel prompt — migliorava significativamente le prestazioni su task complessi come matematica e logica. Il ragionamento avveniva però in modo visibile: il modello scriveva ogni passaggio intermedio nel testo della risposta, allungando l’output in modo spesso inefficiente.

I thinking tokens hanno internalizzato questo processo. Herel e Mikolov, nel paper “Thinking Tokens for Language Modeling” del 2024, hanno tra i primi formalizzato il concetto: token speciali che il modello genera prima della risposta visibile, non come parte dell’output che l’utente legge, ma come spazio di elaborazione interna. Il modello usa questi token per scomporre il problema, verificare assunzioni, esplorare percorsi alternativi — e solo dopo genera la risposta finale.

In pratica: la stessa “voce” che usciva nel Chain-of-Thought classico ora rimane nascosta. L’utente vede solo il risultato di quel processo.

Come funziona il ragionamento interno: il modello che elabora prima di rispondere

Il meccanismo è più vicino a una bozza interna che a un processo step-by-step lineare. Quando un modello con thinking attivo riceve un prompt complesso, prima di generare la prima parola della risposta visibile produce una sequenza di token interni — il “scratch pad” del ragionamento. In questo spazio il modello può:

• scomporre il problema in sotto-problemi
• verificare la coerenza di un’assunzione prima di affidarci una conclusione
• simulare percorsi di risposta alternativi e valutarli
• tornare indietro e correggere un errore di ragionamento prima che diventi visibile

Solo dopo che questo processo interno si completa, il modello comincia a generare l’output visibile. Il risultato finale è più accurato non perché il modello “sappia di più”, ma perché ha usato più computazione per navigare il percorso tra la domanda e la risposta.

La lunghezza del ragionamento interno non è fissa. I modelli moderni la adattano dinamicamente alla complessità percepita della richiesta — un comportamento che Gemini 3 descrive esplicitamente come “dynamic thinking”: se la richiesta è semplice, il modello usa pochi o nessun thinking token; se è complessa, ne usa molti, fino a migliaia.

System 1 e System 2: la distinzione che spiega tutto

La psicologia cognitiva usa da decenni la distinzione tra pensiero di Sistema 1 e Sistema 2, introdotta da Daniel Kahneman. Il Sistema 1 è veloce, automatico, intuitivo — risponde per associazione di pattern senza deliberazione. Il Sistema 2 è lento, logico, deliberato — verifica, scompone, ragiona in modo esplicito.

I modelli AI classici operano sostanzialmente come Sistema 1: prevedono il token successivo più probabile in base al contesto, senza fermarsi a verificare se la risposta complessiva sia coerente o corretta. È per questo che un modello può sbagliare a contare le lettere di una parola — il conteggio richiede Sistema 2, ma il modello risponde con Sistema 1.

I thinking tokens abilitano un comportamento più vicino al Sistema 2. Non è pensiero umano, non è coscienza, non è ragionamento nel senso filosofico del termine — è computazione aggiuntiva che funziona come verificatore interno prima dell’output finale. Il risultato pratico è lo stesso: prestazioni migliori su task che richiedono passaggi logici sequenziali, matematica, pianificazione, analisi di documenti complessi.

Come ogni modello principale implementa il ragionamento avanzato

L’approccio varia significativamente tra i diversi provider, con implicazioni pratiche dirette per chi usa questi strumenti.

OpenAI. I modelli della serie o1, o3 e o4 sono i modelli di ragionamento di OpenAI — progettati specificamente per consumare molti thinking tokens prima di rispondere. I token di ragionamento sono fatturati separatamente dai token di output visibile. La catena di pensiero interna non è esposta all’utente per impostazione predefinita: si vede solo il risultato.

Google Gemini. La serie Gemini 3 usa il parametro thinkingLevel — con valori low, medium e high — per controllare il ragionamento. Per impostazione predefinita, i modelli Gemini 3 usano il livello “high” dinamico, adattando automaticamente la profondità di ragionamento alla complessità della richiesta. Il ragionamento non può essere disabilitato completamente su Gemini 3 Pro. I thinking tokens sono fatturati allo stesso prezzo dei token di output. Tramite thinking_summaries è possibile ricevere un riassunto del processo di ragionamento interno. Nell’app consumer, il livello Extended corrisponde a questo ragionamento più approfondito reso accessibile senza parametri tecnici.

Anthropic Claude. Claude implementa l’extended thinking con budget configurabili. La keyword think assegna circa 4.000 token di ragionamento interno; think hard circa 10.000; ultrathink fino a 32.000. A differenza di Gemini, il ragionamento esteso in Claude non è attivo per default nelle risposte standard: viene invocato esplicitamente. Claude Code può mostrare i thought steps in forma testuale — uno degli aspetti che ha reso il modello popolare per task di coding complessi dove la tracciabilità del ragionamento ha valore pratico.

DeepSeek R1. Il modello open-weight di DeepSeek espone i thinking tokens come testo visibile nella risposta, prima dell’output finale. È la scelta più trasparente delle principali implementazioni: l’utente legge il processo di ragionamento intero, non solo il risultato. Questa visibilità ha un costo: le risposte sono significativamente più lunghe.

Quando il ragionamento esteso serve e quando è computazione sprecata

La ricerca più recente sfida l’assunzione che “più thinking tokens uguale risposta migliore”. Studi pubblicati su arXiv nel 2025 e 2026 documentano relazioni a U invertita tra lunghezza del ragionamento e accuratezza: esiste un punto oltre il quale il ragionamento aggiuntivo non migliora il risultato e può addirittura peggiorarlo su certi tipi di task.

La documentazione Google AI per sviluppatori divide i task in tre categorie, che rimangono una guida pratica utile:

Task semplici — thinking non necessario. Recupero di fatti, classificazione, domande con risposta diretta, traduzioni brevi. Il ragionamento aggiuntivo non cambia il risultato, consuma tempo e, nelle implementazioni a pagamento, token.

Task medi — thinking moderato. Generazione di contenuti, analisi comparative semplici, comprensione contestuale, riepilogo di documenti. Un livello Standard o Medium di thinking è adeguato — dà al modello abbastanza spazio per gestire la complessità senza eccedere.

Task complessi — ragionamento massimo. Matematica avanzata, debugging di codice su architetture complesse, analisi di contratti con implicazioni legali, pianificazione multi-step, sintesi di ricerca scientifica. Qui il ragionamento esteso produce un miglioramento misurabile. Su questi task, Claude con ultrathink attivo riduce le iterazioni necessarie a trovare la soluzione corretta — paradossalmente risparmiando token totali nonostante il costo iniziale più alto.

Il costo dei thinking tokens: la variabile che pochi considerano

Usare il ragionamento avanzato ha un costo reale, e non è trascurabile su volumi significativi.

Per Gemini 3.1 Pro, Google fattura i thinking tokens allo stesso prezzo dei token di output: $12,00 per milione. Una sessione con ragionamento esteso su un documento complesso può generare migliaia di thinking tokens invisibili, con un costo che non appare nel conteggio visibile del testo restituito. Chi non monitora separatamente il consumo di thinking tokens rischia di vedere costi API superiori alle aspettative.

Per i modelli OpenAI della serie o3, i reasoning token hanno una struttura di pricing separata. La regola generale è che più il modello ragiona, più la chiamata API costa — con benefici in termini di qualità che giustificano il costo solo sui task complessi descritti sopra.

Per gli utenti consumer — chi usa l’app Gemini, ChatGPT o Claude direttamente — il costo è incorporato nell’abbonamento. La scelta del livello di ragionamento è operativa: Extended per task che lo richiedono, Standard per il resto. Usare Extended su una domanda che non lo richiede non produce risposte peggiori, ma produce risposte più lente senza un guadagno di qualità apprezzabile.

La strategia più efficiente che emerge dall’uso su scala è la stessa che la ricerca suggerisce: calibrare il livello di ragionamento alla complessità del task. Per lo stesso modello, tenere il thinking basso per classificazioni e recupero di fatti, alto per analisi strutturata e pianificazione. Su molti provider è già il comportamento predefinito — dynamic thinking fa esattamente questo in automatico. Quando si ha il controllo manuale, applicarlo consapevolmente fa la differenza sia sulla qualità delle risposte sia sui costi.

FONTI

• Google AI for Developers — Gemini thinking API documentation
• Ksenia Se / Medium — FOD#122: What Are Thinking Tokens
• arXiv — Think Deep, Not Just Long: Measuring LLM Reasoning Effort via Deep-Thinking Tokens