Les modèles sont devenus moins chers. Les projets de loi ne l'ont pas fait.
Les coûts d'inférence sont tombés d'une falaise. Alors, pourquoi votre article d'IA est-il plus grand que jamais ?
Chaque trimestre, les laboratoires annoncent des jetons moins chers. Chaque trimestre, la facture d'IA de mon client augmente. Les deux affirmations sont vraies, et c'est la partie intéressante.
La baisse des prix unitaires fait ce que les prix unitaires en baisse font toujours : elle élargit l'utilisation. Lorsqu'un appel coûte un dixième de ce qu'il a fait, vous arrêtez de rationner les appels. Vous enveloppez tout dans un modèle.
Ensuite, les coûts de deuxième commande apparaissent. Magasins vectoriels. Surveillance. L'ingénieur dont le travail à temps plein est de « faire en sorte que les invites cessent d'halluciner. « Rien de tout cela n'est dans le prix symbolique.
Les entreprises qui gagnent sur les coûts sont celles qui établissent un budget et traitent le modèle comme un utilitaire, pas comme un jouet. Ce sont ceux qui saignent qui laissent chaque équipe monter la sienne.
L'intelligence bon marché est toujours l'intelligence, et l'intelligence a encore besoin de quelqu'un pour la cibler. Le but est de savoir où va l'argent.