Google TPU v8: Yaratıcıları Devrimleştiren 3 Kat Hızlı AI Çipleri

Google, Cloud Next etkinliğinde sekizinci nesil Tensor İşleme Birimlerini (TPU) tanıttı. TPU v8 iki versiyonda geliyor: dev modelleri eğitmek için v8t ve sadece çıkarım için optimize edilmiş v8i. TechCrunch tarafından rapor edildiği üzere, bu ikili AI donanım savaşlarını sarsacak gibi görünüyor. Dürüst olmak gerekirse? Nvidia'ya gerçek bir rakip gelme vaktiydi. Video üretimi için GPU kümelerine para yakan içerik üreticilerini izledim. TPU v8 bu senaryoyu değiştirebilir, yüksek seviyeli hesaplama lüks olmaktan çıkabilir. Bu ayrım mantıklı—eğitim ham güce ihtiyaç duyar; çıkarım verimlilik ister. Google burada boru hattının her iki ucunu da hedefliyor.

Asıl meseleye gelelim. TPU v8, önceki nesillere kıyasla eğitim iş yüklerinde 3 kat hız artışı sağlıyor. Bu abartı değil—Google'ın kendi Cloud blogu benchmark'larından. Dolar başına performans %80 artıyor. Kümeler bir milyondan fazla çiple ölçekleniyor ve daha düşük enerji tüketiyor. AI video üreticileri için bu, difüzyon tabanlı klipler üretirken elektrik faturası şokunu önlemek demek. Evet, kulağa çok iyi geliyor biliyorum. Ama H100'lerin hakim olduğu pahalı bir pazarda, bu kazanımlar alanı eşitleyebilir.

Şunu hayal edin: Bulut bütçeleriyle uğraşan bağımsız bir AI sanatçısısınız. TPU v8'in çıkarım ayarlamaları difüzyon modelleri için gecikme ve maliyetleri düşürüyor—ölçeklenebilir altyapıda daha uzun, daha keskin NSFW klipler üretmek için ideal. Bu tür ilerlemeler zaten yetişkin içerik üretiminde sınırları zorluyor, her render saniyesi cüzdanı vuruyor. Size doğruyu söyleyeyim: Bulut gen araçlarını oldukça kapsamlı test ettim (hayal gücünüze bırakıyorum nedenini), hız ham FLOPS'lardan daha önemli. Bu donanım, solo üreticilerin stüdyo çıktısını böbrek satmadan eşitlemesini sağlıyor. Nvidia'nın hakimiyeti gevşiyor. Enerji tasarrufu? Sürdürülebilir iş akışları için bonus. Beni en çok şaşırtan—Google'ın nihayet küçük adamı ön plana koyması.