La pile IA la moins chère réellement livrée
Vous n'avez pas besoin de trois abonnements à 20 $ pour accomplir un vrai travail. Une pile maigre bat une grosse pile.
J'ai audité mes propres dépenses en IA et j'ai découvert que je payais pour un chevauchement. Deux chatbots qui font la même chose, un outil vidéo que j'ai utilisé deux fois, une application de recherche que j'ai ouverte pour un rapport. Le passage à une pile allégée m'a permis d'économiser de l'argent réel et a donné plus d'importance aux outils que je gardais.
Le noyau est un chatbot puissant pour l'écriture et le raisonnement, un modèle spécialisé pour votre tâche unique la plus lourde (image, audio ou recherche) et une colle d'automatisation si vous déplacez des données entre les applications. Tout ce qui va au-delà est généralement une interface utilisateur plus agréable sur quelque chose que vous possédez déjà.
Pour le prix, les petits modèles ouverts sont une victoire tranquille. Un modèle de décision de 0,04 $ par million gère le routage et la classification sur lesquels j'avais l'habitude de graver un appel frontalier. Le pplx-decider de Perplexity et les petits modèles similaires font les 80 % ennuyeux pour quelques centimes, laissant le modèle coûteux pour les 20 % qui en ont besoin.
Le test est simple : si vous n'avez pas ouvert un outil depuis deux semaines, annulez-le. Une pile qui est réellement expédiée est celle suffisamment petite pour que vous sachiez exactement à quoi sert chaque pièce. Les accumulations de graisse semblent productives et produisent un étalement.