गूगल TPU v8: क्रिएटर्स को क्रांति लाने वाली 3x तेज़ AI चिप्स

गूगल ने अभी Cloud Next में अपनी आठवीं पीढ़ी के Tensor Processing Units लॉन्च किए। TPU v8 दो फ्लेवर्स में आता है: v8t बड़े मॉडल्स की ट्रेनिंग के लिए, और v8i सिर्फ इन्फरेंस के लिए ट्यून किया गया। टेकक्रंच की रिपोर्ट के अनुसार, यह जोड़ी AI हार्डवेयर युद्धों को हिला देगी। ईमानदारी से? Nvidia को सही चुनौती देने का समय आ गया। मैंने क्रिएटर्स को वीडियो जेनरेशन के लिए GPU क्लस्टर्स पर पैसे जलाते देखा है। TPU v8 यह स्क्रिप्ट पलट सकता है, हाई-एंड कंप्यूट को कम लग्जरी महसूस करा सकता है। यह विभाजन समझ में आता है—ट्रेनिंग को ब्रूट फोर्स चाहिए; इन्फरेंस को एफिशिएंसी। गूगल का यह दांव पाइपलाइन के दोनों सिरों को टारगेट करता है।

मुख्य बात पर आते हैं। TPU v8 पिछली पीढ़ियों की तुलना में ट्रेनिंग वर्कलोड्स पर 3x तक स्पीडअप देता है। यह हाइप नहीं—यह गूगल के अपने बेंचमार्क्स से है उनके क्लाउड ब्लॉग में। परफॉर्मेंस प्रति डॉलर 80% बढ़ जाती है। क्लस्टर्स लाखों चिप्स तक स्केल करते हैं कम एनर्जी ड्रॉ के साथ। AI वीडियो क्रिएटर्स के लिए, इसका मतलब है डिफ्यूजन-बेस्ड क्लिप्स निकालना बिना पावर बिल के झटके के। हां, मुझे पता है यह कितना अच्छा लगता है—लगभग बहुत अच्छा। लेकिन H100s के महंगे बाजार में, ये गेंस फील्ड को लेवल कर सकते हैं।

कल्पना कीजिए: आप एक इंडी AI आर्टिस्ट हैं जो क्लाउड बजट्स पर मेहनत कर रहे हैं। TPU v8 के इन्फरेंस ट्वीक्स डिफ्यूजन मॉडल्स के लिए लेटेंसी और कॉस्ट्स को काटते हैं—स्केलेबल इंफ्रा पर लंबे, शार्प NSFW क्लिप्स क्राफ्ट करने के लिए आइडियल। ऐसी प्रगतियां अडल्ट कंटेंट क्रिएशन में सीमाओं को पार करने में पहले से ही मदद कर रही हैं, जहां हर सेकंड का रेंडर टाइम वॉलेट को हिट करता है। मैं आपके साथ सच्चा रहूंगा: क्लाउड जेन टूल्स की मेरी काफी एक्सटेंसिव टेस्टिंग में (जिन कारणों को आपकी कल्पना पर छोड़ता हूं), स्पीड रॉ फ्लॉप्स से ज्यादा मायने रखती है। यह हार्डवेयर सोलो क्रिएटर्स को स्टूडियो आउटपुट मैच करने देता है बिना किडनी बेचे। Nvidia की पकड़ ढीली हो रही है। एनर्जी सेविंग्स? सस्टेनेबल वर्कफ्लोज के लिए बोनस। जो मुझे सबसे ज्यादा सरप्राइज किया—गूगल आखिरकार छोटे खिलाड़ी को प्राथमिकता दे रहा है।