DeepSeek V4 Flash 0731: stessa architettura, post-training nuovo

Intelligenza Artificiale

Consulenza EU AI Act: classificazione dei sistemi, policy, governance AI, formazione.

Scopri →

Servizi & Sistemi Linux

Domini, hosting, PEC, infrastruttura email, servizi di rete e sistemi Linux. Assistenza e gestione dell’infrastruttura Open Source.

Scopri →

Il 31 luglio DeepSeek ha portato V4 Flash fuori dalla preview con la build 0731. Il modo di chiamare l’API non cambia, e nemmeno l’architettura: stessa taglia e stessa struttura di V4 Preview, che avevamo guardato ad aprile. Quello che è stato rifatto è il post-training, e tutto il guadagno dichiarato sta lì.

Cosa cambia con la build 0731

Il modello resta un Mixture of Experts da 284 miliardi di parametri con 13 miliardi attivi, con contesto da un milione di token e output fino a 384K. La scheda su Hugging Face indica 304B di parametri totali. DeepSeek non spiega la differenza rispetto ai 284B di aprile; la lettura che ci sembra più probabile è che nel conteggio rientrino i pesi del modulo di decodifica speculativa incluso nel checkpoint.

Il checkpoint porta a bordo DSpark, un modulo di decodifica speculativa attivabile in fase di serving, e l’inferenza espone tre livelli di reasoning_effort (low, high, max) per regolare quanto il modello ragiona prima di rispondere. L’aggiornamento riguarda solo l’API V4-Flash: app, sito e API V4-Pro restano invariati, con quest’ultima ancora in preview.

I numeri dichiarati

La scheda del modello riporta nove benchmark, misurati da DeepSeek sul proprio harness e messi a confronto con la preview di aprile, con V4-Pro Preview, con GLM-5.2 e con Claude Opus 4.8:

Su Terminal-Bench 2.1 il salto rispetto alla preview è di 20,9 punti, e su tutte e nove le righe la build 0731 sta sopra V4-Pro Preview, cioè il modello di punta della stessa famiglia. Se il dato regge alla verifica di terzi, sono 13 miliardi di parametri attivi che battono un modello molto più grande su compiti di agente, a parità di famiglia e di dati.

Nella stessa tabella Claude Opus 4.8 resta davanti su tutte e nove le righe, con distanze che vanno dai 2,3 punti di Terminal-Bench ai 15,5 di NL2Repo. Il confronto lo pubblica DeepSeek nella propria scheda, e riportarlo per intero è più informativo di qualunque selezione.

Al momento l’unica misura non prodotta da DeepSeek viene da Artificial Analysis, che colloca la build di ragionamento a 50 sull’Intelligence Index, molto sopra la mediana dei modelli a pesi aperti. Lo stesso rilevamento segnala una verbosità alta, con circa 210 milioni di token di output per completare la suite di valutazione contro una mediana nettamente inferiore, e un costo di poco più di settanta dollari per eseguirla intera ai prezzi di listino. Su un modello che si paga a token la verbosità sposta il costo reale rispetto al prezzo di listino.

I prezzi API sono 0,14 dollari per milione di token in ingresso e 0,28 in uscita, con la cache in ingresso a 0,0028 dollari. Il pricing dinamico con fascia di punta e fascia bassa annunciato in precedenza non risulta ancora attivo.

Come vanno letti i punteggi agentici

Le sei righe della tabella sono benchmark di agente, e su questo tipo di misure vale quanto già visto con l’harness engineering: un punteggio agentico misura il modello insieme all’impalcatura che gli sta attorno, cioè come vengono presentati gli strumenti, come si gestisce il contesto, quanti tentativi sono ammessi e cosa succede quando un comando fallisce. Lo stesso modello, con due harness diversi, dà due numeri diversi.

Le cifre qui sopra sono ottenute da DeepSeek sul proprio harness e al momento non risultano riproduzioni indipendenti. È la prassi in ogni annuncio di modello ed è la ragione per cui questi numeri vanno letti come un’indicazione dell’ordine di grandezza più che come una classifica.

I pesi e cosa serve per farlo girare

Per chi costruisce sistemi conta che i pesi siano pubblicati su Hugging Face con licenza MIT, quindi scaricabili, ospitabili in proprio e utilizzabili in ambito commerciale. È un modello a pesi aperti, con il codice di training e i dati che restano di DeepSeek, secondo la distinzione di cui abbiamo parlato in pesi aperti e leadership americana.

V4 Flash è anche il modello attorno a cui è stato costruito DwarfStar 4 di antirez, il motore di inferenza nativo in C che lo fa girare in locale su una macchina con 96-128 GB di memoria unificata grazie alla quantizzazione a 2 bit asimmetrica sugli esperti della parte MoE. ds4 è stato scritto per i pesi della preview e al momento nessuna fonte conferma che giri già sulla 0731; se il supporto arriva, il guadagno sul post-training si prende senza cambiare hardware.

Le altre strade per tenerlo in casa le abbiamo già raccontate e valgono tutte anche per questa build: colibri che tiene gli esperti su disco e li carica solo quando servono, KTransformers con l’inferenza ibrida CPU e GPU e la quantizzazione di pesi e KV cache con TurboQuant. La leva è sempre la stessa: un MoE è grande ma sparso, e a ogni token se ne attiva solo una frazione.

Cosa ne pensiamo

I punteggi sono dichiarati e andranno verificati. Quello che si è mosso, a parità di architettura, è il post-training. Suggerisce che su questa generazione di modelli il margine di miglioramento sui compiti di agente sta ancora nel modo in cui li si addestra a usare gli strumenti, prima che nella taglia. Per chi valuta un’adozione il vantaggio è sul piano dei costi, perché un modello con 13 miliardi di parametri attivi resta gestibile su hardware che un’azienda può permettersi.

Sul piano pratico i due punti da guardare prima di metterlo in produzione sono la verbosità, che sul conto a fine mese pesa più del prezzo unitario, e il fatto che i numeri agentici arrivino dal fornitore. Per valutarlo noi partiamo da tre o quattro compiti reali del dominio, misurati sul nostro harness e confrontati con il modello che usiamo oggi.

C’è poi la ragione per cui questi rilasci ci interessano. Un modello a pesi aperti con licenza MIT, che gira su hardware locale attraverso motori come ds4, tiene il dato dentro il perimetro e rende la scelta del fornitore reversibile. È lo stesso ragionamento che facciamo su Open Intelligence, Secure Governance: possedere il pavimento operativo conta quanto la qualità del modello che ci gira sopra.

Fonti

• DeepSeek V4 Flash 0731 su Hugging Face (pesi, licenza MIT)
• Artificial Analysis: scheda di DeepSeek V4 Flash
• Digital Applied: DeepSeek V4 Flash 0731, rilascio ufficiale e benchmark agentici
• BenchLM: DeepSeek V4 Flash 0731, benchmark, pesi MIT e prezzi
• antirez: A few words on DS4
• Repository GitHub: antirez/ds4