Startupy z chipami do inferencji AI pozyskują 8 mld USD, by rywalizować z Nvidą

Chipy do inferencji AI nagle stały się najgorętszym biletem w mieście. Startupy budujące specjalistyczny sprzęt do uruchamiania modeli AI zebrały oszałamiające 8,3 miliarda dolarów tylko w tym roku, jak donosi CNBC. To nie drobne – to jasny sygnał, że branża mocno skręca w stronę inferencji, fazy, w której wytrenowane modele faktycznie generują wyjścia jak obrazy czy wideo. Szczerze? Śledzę ten sektor od lat i ten przypływ funduszy wydaje się inny. Trenowanie ogromnych modeli przyciąga nagłówki, ale inferencja teraz dominuje obciążenia obliczeniowe. Pomyśl o tym: za każdym razem, gdy generujesz klip wideo lub modyfikujesz obraz, to inferencja pochłania moc obliczeniową. Te nowe chipy obiecują uczynić to tańszym i szybszym. Wiem, jak to brzmi – jak szum medialny. Ale liczby to potwierdzają.

Cerebras prowadzi stawkę z solidnym miliardem dolarów, promując swoje silniki na skalę wafla zaprojektowane do masowego paralelizmu w zadaniach AI. MatX i Ayar Labs każde zgarnęły po 500 milionów; pierwsza celuje w platformy do wysokiej wydajności inferencji, druga stawia na optyczne połączenia, by wyeliminować wąskie gardła w transferze danych. Axelera przekroczyła 200 milionów, skupiając się na akceleratorach edge AI, które oszczędzają energię zamiast ją marnować. Euclyd szykuje się na ponad 100 milionów, a Fractile zamyka grono wielkich nazwisk świeżym kapitałem na niestandardowe krzem do inferencji. To nie gracze z marginesu. Budują architektury dostosowane do świata po trenowaniu, gdzie efektywność wygrywa z surową mocą. Będę z tobą szczery: GPU od Nvidia wciąż rządzą podwórkiem. Ale gdy koszty inferencji balonują – teraz przewyższając trenowanie – te startupy mogą wydzierać realny udział w rynku.

Dla niezależnych twórców ta zmiana nie może nadejść zbyt szybko. Renderowanie pojedynczego segmentu wideo AI w wysokiej rozdzielczości dzisiaj? Mocno bije po kieszeni – pomyśl o minutach czasu GPU na klip, skalujących się do godzin przy ambitnych projektach. Specjalistyczne chipy do inferencji AI odwracają ten scenariusz, obiecując szybszy obrót i rachunki, które nie bolą. Niższe wymagania obliczeniowe oznaczają, że możesz łączyć sceny w pełne minuty treści bez wynajmowania centrum danych. Mój całkowicie nienaukowy sample jednej osoby – ja, majstrujący do późna w nocy – sugeruje, że nawet skromne zyski efektywności transformują workflowy. Oto, czego większość analityków ci nie powie: cholernie lubię testować te narzędzia do granic. Z powodów, które zostawię twojej wyobraźni. Postępy takie jak te już obniżają koszty w wymagających dziedzinach, takich jak generowanie nieocenzurowanych obrazów NSFW, gdzie modele multimodalne pożerają zasoby. Ale czy to naprawdę ma znaczenie? Dla twórców – kurde, tak – to demokratyzuje profesjonalny output.