Nous expédions le travail d'experts plus rapidement que nous ne pouvons le vérifier

Les 722 articles de mathématiques rédigés par l'IA par OpenAI en une journée sont le titre qui devrait effrayer les constructeurs plus qu'il ne les réconforte.

De nombreuses épreuves livrées avec les versions Lean, un ordinateur peut vérifier ligne par ligne, ce qui est réel et utile. Mais le volume lui-même a été qualifié de « slopocalypse » par les mathématiciens qui s'opposaient au processus, et aucun n'a résolu le problème du Prix du Millénaire.

La leçon ne porte pas sur les mathématiques. C’est que l’IA peut désormais produire un travail de niveau expert plus rapidement que nous ne pouvons le vérifier. Le goulot d’étranglement n’a jamais été la génération. C’était une vérification, et ça l’est toujours.

Célébrez la capacité, mais construisez la vérification. Un monde qui ne peut pas vérifier ce qu’il génère est un monde qui transmet des absurdités confiantes à grande échelle.

Je traite chaque brouillon d'IA comme un premier brouillon rédigé par un stagiaire très rapide et très confiant. Je lis toujours l'ouvrage.