Các mẫu ngày càng rẻ hơn. Các hóa đơn thì không.
Chi phí suy luận rơi xuống vực thẳm. Vậy tại sao mục hàng AI của bạn lại lớn hơn bao giờ hết?
Hàng quý, các phòng thí nghiệm đều công bố các token rẻ hơn. Mỗi quý hóa đơn AI của khách hàng của tôi lại tăng lên. Cả hai tuyên bố đều đúng và đó là phần thú vị.
Đơn giá giảm làm điều mà đơn giá giảm luôn làm: nó làm tăng mức sử dụng. Khi một cuộc gọi có chi phí bằng một phần mười chi phí nó thực hiện, bạn sẽ ngừng phân bổ các cuộc gọi. Bạn gói mọi thứ trong một mô hình.
Sau đó, chi phí thứ hai xuất hiện. Cửa hàng vectơ. Giám sát. Người kỹ sư có công việc toàn thời gian là "làm cho những lời nhắc ngừng ảo giác". Không có điều nào trong số đó có trong giá token.
Những công ty chiến thắng về mặt chi phí là những công ty đặt ra ngân sách và coi mô hình như một tiện ích chứ không phải một món đồ chơi. Những kẻ đổ máu là những kẻ để cho mỗi đội tự xoay sở.
Trí thông minh rẻ tiền vẫn là trí thông minh, và trí thông minh vẫn cần có người nhắm tới. Mục tiêu là tiền đi đâu.