L’ingénierie rapide est morte. L’ingénierie du contexte est le travail maintenant
L’ère des mots magiques est révolue. Obtenir un excellent résultat est désormais un problème d'ingénierie concernant ce que le modèle voit, se souvient et est autorisé à faire.
Il y a eu une brève période dorée où il était important de connaître les mots magiques : demander au modèle de réfléchir étape par étape et de voir la qualité augmenter. Cette époque est révolue, et prétendre le contraire est la façon dont les équipes se retrouvent avec des bibliothèques d'invites pleines d'incantations qui ont cessé de fonctionner il y a deux versions de modèle.
Les modèles sont devenus suffisamment robustes pour que la formulation importe beaucoup moins que le fond, ce qui a déplacé la compétence. Les personnes qui obtiennent aujourd’hui des résultats exceptionnels n’écrivent pas des invites plus intelligentes ; il s'agit du contexte d'ingénierie : quels documents le modèle voit, quels faits sont garantis, quels exemples définissent le registre, quels outils il peut toucher, quelle mémoire persiste entre les sessions. L'invite concerne les cinq derniers pour cent d'un système, et non l'ensemble de l'engin.
Vous pouvez voir le changement dans la destination de l’outillage. Projets, instructions personnalisées, hooks de récupération, fichiers de règles, mémoire : chaque produit majeur a passé son année à créer une infrastructure de contexte, et les utilisateurs qui gagnent avec eux sont ceux qui considèrent la configuration comme le travail. Mon assistant le plus performant dispose d'un guide de style, d'un fichier de faits et d'un journal de corrections. Ses invites sont une phrase.
Il y a une implication en matière d’embauche qui mérite d’être mentionnée. La capacité de décomposer une tâche en contexte, contraintes et vérification est plus proche de la pensée systémique que de l'écriture, et les meilleurs ingénieurs contextuels que je connais viennent des opérations et de la bibliothéconomie, pas des forums d'invite. Les recruteurs qui recherchent toujours des mots-clés d'ingénierie rapides pêchent dans l'étang de l'année dernière.
Retirez donc le terme avec respect : l'ingénierie rapide était la roue d'entraînement qui nous apprenait que les modèles réagissaient à leurs entrées. L’ingénierie contextuelle est la version adulte, et elle ressemble moins à de la magie qu’à la tâche la plus ancienne de l’informatique, consistant à décider quelles informations parviennent à la machine qui effectue le travail.