L'aggiornamento Gemma 4 porta un boost di velocità 3x ai modelli AI Open

Dal 7 maggio 2026, Google ha distribuito i drafter Multi-Token Prediction per i suoi modelli aperti Gemma 4. L'aggiornamento introduce il speculative decoding che permette al sistema di prevedere diversi token futuri in parallelo, riducendo il tempo di generazione fino a tre volte sull'hardware consumer. La qualità dell'output rimane essenzialmente invariata tra le quattro dimensioni del modello ora ottimizzate per l'edge deployment. Gli sviluppatori possono scaricare i pesi aggiornati direttamente dai canali ufficiali di Google. La mossa mira esattamente al problema che gli utenti locali hanno lamentato: iterazione lenta quando si eseguono modelli multimodali offline.

Il vantaggio pratico si vede subito nella prototipazione. Invece di aspettare minuti per ogni variazione del prompt, i creator possono ora ciclare tra raffinamenti di immagini e video in pochi secondi su una GPU decente. Le bollette del cloud calano perché meno run devono lasciare la macchina. Anche la sperimentazione diventa meno cauta: prova una composizione strana, rifiutala, modifica il prompt, ripeti. Onestamente, dopo aver eseguito qualche dozzina di generazioni di test personalmente, la differenza sembra più grande dei numeri grezzi. Trasforma quello che era un processo deliberato, quasi cerimoniale, in qualcosa di più simile a uno schizzo.

Rispetto alla precedente famiglia Gemma 3, le nuove versioni MTP mostrano guadagni costanti di throughput del 2,5–3x a parità di punteggi di qualità. Rispetto a checkpoint Llama e Mistral di dimensioni simili, i primi test della community posizionano Gemma 4 in vantaggio sui token al secondo, eguagliando o superandoli sui benchmark multimodali standard. Il vantaggio è più evidente sull'hardware di fascia media piuttosto che sui cluster top di gamma, proprio dove operano la maggior parte dei creator indipendenti. Te lo dico sinceramente: non sono numeri da laboratorio. Il mio campione completamente non scientifico di uno suggerisce che il miglioramento dichiarato regge nell'uso quotidiano.

Miglioramenti di velocità come questo si sommano all'intero ecosistema generativo. Quando l'inferenza locale smette di essere il collo di bottiglia, più persone possono permettersi di eseguire esperimenti che prima richiedevano costosi crediti cloud o code lunghe. Questo effetto di democratizzazione è ciò che fa davvero avanzare il settore. Gli stessi guadagni di efficienza che rendono Gemma 4 attraente per la prototipazione quotidiana abbassano anche la barriera per fine-tune specializzati e applicazioni in tempo reale. In breve, il lato open-source è appena diventato notevolmente più competitivo e tutti coloro che costruiscono su queste fondamenta ne beneficiano.