Các Startup Chip Suy Luận AI Huy Động 8 Tỷ USD Để Thách Thức Nvidia

Chip suy luận AI đột nhiên trở thành vé nóng nhất thị trường. Các startup xây dựng phần cứng chuyên dụng để chạy mô hình AI đã huy động được con số đáng kinh ngạc 8,3 tỷ USD chỉ trong năm nay, theo báo cáo của CNBC. Đó không phải là khoản tiền lẻ—đó là tín hiệu rõ ràng rằng ngành công nghiệp đang chuyển hướng mạnh mẽ sang suy luận, giai đoạn mà các mô hình đã huấn luyện thực sự tạo ra đầu ra như hình ảnh hoặc video. Thật lòng? Tôi đã theo dõi lĩnh vực này nhiều năm, và đợt gây quỹ này cảm giác khác biệt. Huấn luyện mô hình khổng lồ chiếm tiêu đề, nhưng suy luận giờ thống trị khối lượng công việc. Hãy nghĩ xem: mỗi lần bạn tạo một đoạn video clip hoặc chỉnh sửa hình ảnh, đó là suy luận đang ngốn tài nguyên tính toán. Những chip mới này hứa hẹn làm nó rẻ hơn và nhanh hơn. Ừ, tôi biết nghe có vẻ như thổi phồng. Nhưng con số chứng minh điều đó.

Cerebras dẫn đầu với khoản đầu tư mát mẻ 1 tỷ USD, thúc đẩy các động cơ quy mô wafer được thiết kế cho tính song song khổng lồ trong các nhiệm vụ AI. MatX và Ayar Labs mỗi bên nhận 500 triệu USD; bên đầu nhắm đến các nền tảng suy luận hiệu suất cao, trong khi bên sau đặt cược vào kết nối quang học để loại bỏ nút thắt chuyển dữ liệu. Axelera vượt 200 triệu USD, tập trung vào các bộ tăng tốc AI biên tiết kiệm năng lượng thay vì ngốn điện. Euclyd đang chuẩn bị cho hơn 100 triệu USD, và Fractile hoàn tất danh sách lớn với vốn mới cho silicon suy luận tùy chỉnh. Đây không phải là những tay chơi biên. Họ đang xây dựng kiến trúc phù hợp cho thế giới hậu huấn luyện, nơi hiệu quả vượt trội hơn sức mạnh thô. Tôi sẽ thẳng thắn với bạn: GPU của Nvidia vẫn thống trị. Nhưng khi chi phí suy luận phình to—giờ vượt huấn luyện—những startup này có thể chiếm thị phần thực sự.

Đối với các nhà sáng tạo độc lập, sự chuyển dịch này không thể đến sớm hơn. Render một đoạn video AI độ phân giải cao ngày nay? Nó đánh mạnh vào ví tiền—nghĩ đến vài phút thời gian GPU mỗi clip, mở rộng thành hàng giờ cho bất cứ thứ gì tham vọng. Chip suy luận AI chuyên dụng lật ngược kịch bản đó, hứa hẹn thời gian quay vòng nhanh hơn và hóa đơn không đau. Nhu cầu tính toán thấp hơn nghĩa là bạn có thể nối các cảnh thành vài phút nội dung đầy đủ mà không cần thuê trung tâm dữ liệu. Mẫu không khoa học hoàn toàn của tôi—tôi, mày mò khuya—cho thấy ngay cả những cải thiện hiệu quả khiêm tốn cũng biến đổi quy trình làm việc. Đây là điều hầu hết các nhà phân tích không nói: Tôi khá thích đẩy các công cụ này đến giới hạn. Vì những lý do tôi để trí tưởng tượng của bạn. Những tiến bộ như thế đã cắt giảm chi phí trong các lĩnh vực đòi hỏi cao như tạo hình ảnh NSFW không kiểm duyệt, nơi các mô hình đa phương thức ngốn tài nguyên. Nhưng điều đó có thực sự quan trọng? Với nhà sáng tạo, chắc chắn có—nó dân chủ hóa đầu ra cấp pro.