Chip suy luận là cơn sốt vàng mới và hầu hết chúng ta đã bỏ lỡ nó
Mọi người đã dành tháng 9 để tranh luận xem mô hình nào thông minh nhất. Khoản tài trợ vào tháng 10 lại kể một câu chuyện khác: tiền được chuyển đến các con chip chạy các mô hình đó. Cả khoản huy động vốn 875 triệu USD của Positron AI cho chip suy luận Asimov và Series E trị giá 1,5 tỷ USD của Tenstorrent đều đã diễn ra vào nửa cuối tháng và cũng không phải là về việc đào tạo một mô hình biên giới mới. Họ đang phục vụ những gì chúng tôi có, nhanh hơn và rẻ hơn.
Đây là lý do tại sao điều đó lại quan trọng đối với những ai chỉ sử dụng các công cụ này. Giá bạn phải trả cho mỗi truy vấn chủ yếu là chi phí suy luận. Khi silicon tốt hơn xuất hiện, giá mỗi mã thông báo sẽ giảm xuống và mức giá rẻ sẽ đủ tốt để thực hiện công việc thực tế. Chúng tôi đã thấy điều đó trong tháng này: Claude Haiku 5.5 rẻ hơn khoảng 90% so với người tiền nhiệm của nó và GPT-6 Sol giảm khoảng 50%, với ba phòng thí nghiệm hội tụ cùng mức giá 2 đô la và 10 đô la trong vòng chín ngày.
Rủi ro là sự tập trung. Nếu hai hoặc ba nhà sản xuất chip sở hữu con đường hiệu quả để phục vụ các mô hình, thì họ sẽ sở hữu con đường thu phí mà mọi ứng dụng đều đi qua. Đó là lý do tại sao đám đông trọng lượng mở cũng quan trọng ở đây: một mô hình bạn có thể chạy trên phần cứng của riêng mình là một hàng rào chống lại thuế silicon của người khác.
Đối với các nhà xây dựng, bước đi thực tế là định tuyến: gửi 80% số lượng lớn, số tiền đặt cược thấp đến một mô hình nhanh giá rẻ trên silicon giá rẻ và tiết kiệm điện toán cao cấp cho các yêu cầu phán đoán. Người điều phối, chứ không phải mô hình, mới là đòn bẩy chi phí thực sự.
Tôi không mua cổ phiếu. Tôi chỉ nhận thấy rằng số tiền thú vị đã ngừng theo đuổi bộ não và bắt đầu theo đuổi hệ thống ống nước, và hệ thống ống nước là thứ thực sự quyết định ai có đủ khả năng vận chuyển.
Cập nhật ngày 28 tháng 10 năm 2026: mức tăng dưới đây được công bố từ ngày 19 đến ngày 20 tháng 10.
Các câu hỏi thường gặp:
Hỏi: Những công ty khởi nghiệp về chip suy luận nào đã huy động được tiền?
Trả lời: Positron AI đã chốt được 875 triệu USD với mức định giá 5 tỷ USD cho chip suy luận Asimov của mình và Tenstorrent đã huy động được Series E trị giá 1,5 tỷ USD - cả về phục vụ các mô hình chứ không phải đào tạo chúng.
Câu hỏi: Tại sao silicon suy luận lại quan trọng đối với người dùng?
Đáp: Cái giá bạn phải trả cho mỗi truy vấn chủ yếu là chi phí suy luận. Silicon tốt hơn giảm giá mỗi mã thông báo - Haiku 5.5 rẻ hơn khoảng 90% so với phiên bản tiền nhiệm.
Hỏi: Nguy cơ tập trung là gì?
Đáp: Nếu hai hoặc ba nhà sản xuất chip sở hữu con đường hiệu quả để phục vụ các mô hình thì họ sở hữu đường thu phí. Trọng lượng mở là hàng rào - một mô hình mà bạn có thể chạy trên phần cứng của riêng mình.