Kemas Kini Gemma 4 Bawa Peningkatan Kelajuan 3x untuk Model AI Terbuka

Mulai 7 Mei 2026, Google telah melancarkan drafter Ramalan Multi-Token untuk model terbuka Gemma 4nya. Kemas kini ini memperkenalkan penyahkodan spekulatif yang membolehkan sistem meramalkan beberapa token masa depan secara selari, mengurangkan masa penjanaan sebanyak tiga kali ganda pada perkakasan pengguna. Kualiti output kekal pada dasarnya tidak berubah merentasi empat saiz model yang kini dioptimumkan untuk penempatan edge. Pembangun boleh mendapatkan berat yang dikemas kini terus dari saluran rasmi Google. Langkah ini menyasarkan tepat titik kesakitan yang dikeluhkan pengguna tempatan: iterasi perlahan apabila menjalankan model multimodal secara luar talian.

Faedah praktikal muncul serta-merta dalam pembuatan prototaip. Daripada menunggu berpuluh minit untuk setiap variasi prompt, pencipta kini boleh menjalankan kitaran penambahbaikan imej dan video dalam beberapa saat pada GPU yang baik. Bil cloud menurun kerana kurang ujian perlu dijalankan di luar mesin. Eksperimen juga menjadi kurang berhati-hati — cuba komposisi pelik, tolak, ubah prompt, ulang. Sejujurnya, selepas menjalankan beberapa dozen ujian generasi sendiri, perbezaannya terasa lebih besar daripada angka mentah yang dicadangkan. Ia menukar proses yang dahulunya sengaja dan hampir seperti upacara menjadi sesuatu yang lebih dekat dengan lakaran.

Berbanding keluarga Gemma 3 sebelum ini, versi MTP baharu menunjukkan peningkatan throughput yang konsisten 2.5–3x pada skor kualiti yang sama. Berbanding dengan titik semak Llama dan Mistral yang sama saiznya, ujian komuniti awal meletakkan Gemma 4 di hadapan dari segi token per saat sambil menandingi atau mengatasi mereka pada penanda aras multimodal standard. Kelebihannya paling ketara pada perkakasan julat pertengahan berbanding kelompok kelas atas, yang tepat di mana kebanyakan pencipta bebas beroperasi. Saya akan jujur dengan anda: ini bukan nombor makmal semata-mata. Sampel saya yang tidak saintifik menunjukkan peningkatan yang didakwa kekal dalam penggunaan harian.

Peningkatan kelajuan seperti ini bertambah dalam seluruh ekosistem generatif. Apabila inferens tempatan berhenti menjadi halangan, lebih ramai orang mampu menjalankan eksperimen yang sebelum ini memerlukan kredit cloud mahal atau barisan panjang. Kesan demokratisasi inilah yang sebenarnya memajukan bidang ini. Keuntungan kecekapan yang sama yang menjadikan Gemma 4 menarik untuk prototaip harian juga menurunkan halangan untuk penalaan halus khusus dan aplikasi masa nyata. Pendek kata, bahagian sumber terbuka baru-baru ini menjadi lebih kompetitif, dan semua orang yang membina di atas asas ini mendapat manfaat.