Стартапы чипов инференса ИИ привлекли $8 млрд для конкуренции с Nvidia

Чипы для ИИ-инференса внезапно стали самым горячим билетом в городе. Стартапы, разрабатывающие специализированное оборудование для запуска моделей ИИ, привлекли ошеломительные $8,3 млрд только в этом году, как сообщает CNBC. Это не мелочь — это явный сигнал, что индустрия резко поворачивается к инференсу, фазе, где обученные модели реально генерируют выходы вроде изображений или видео. Честно? Я слежу за этой сферой годами, и этот всплеск финансирования ощущается по-другому. Обучение огромных моделей бьет в заголовки, но инференс теперь доминирует в нагрузках. Подумайте: каждый раз, когда вы генерируете видеоклип или корректируете изображение, это инференс пожирает вычисления. Эти новые чипы обещают сделать это дешевле и быстрее. Да, знаю, как это звучит — как хайп. Но цифры это подтверждают.

Cerebras лидирует с солидным приливом в $1 млрд, продвигая свои двигатели wafer-scale, предназначенные для массового параллелизма в задачах ИИ. MatX и Ayar Labs каждый получили по $500 млн; первый фокусируется на высокопроизводительных платформах для инференса, второй делает ставку на оптические интерконнекты, чтобы устранить узкие места в передаче данных. Axelera преодолела отметку в $200 млн, специализируясь на ускорителях ИИ для edge-устройств, которые потребляют минимум энергии. Euclyd готовится к более чем $100 млн, а Fractile завершает список крупных имен свежим капиталом для кастомного кремния инференса. Это не маргинальные игроки. Они строят архитектуры, заточенные под пост-обучение мир, где эффективность побеждает сырую мощь. Буду с вами честен: GPU от Nvidia все еще правят бал. Но по мере роста затрат на инференс — теперь они превышают обучение — эти новички могут отхватить реальную долю рынка.

Для независимых создателей этот сдвиг не может наступить слишком рано. Рендеринг одного сегмента высококачественного ИИ-видео сегодня? Бьет по кошельку — минуты GPU-времени на клип, растягивающиеся до часов для чего-то амбициозного. Специализированные чипы ИИ-инференса переворачивают сценарий, обещая быстрый оборот и счета, которые не кусаются. Меньшие требования к вычислениям означают, что вы сможете связывать сцены в полные минуты контента без аренды дата-центра. Мой полностью ненаучный сэмпл из одного человека — я сам, ковыряющийся допоздна — показывает, что даже скромные улучшения эффективности меняют рабочие процессы. Вот что большинство аналитиков вам не скажет: мне нравится выжимать эти инструменты до предела. По причинам, которые я оставлю вашему воображению. Такие продвижения уже снижают затраты в требовательных областях вроде генерации нецензурированных NSFW-изображений, где мультимодальные модели жрут ресурсы. Но имеет ли это значение? Для создателей — чертовски да, это демократизирует профессиональный уровень.