Protéines filigranées SynthID Bio. La provenance est désormais un problème scientifique.
Le filigrane protéique de Google atteint 100 % de détection avec un taux de faux positifs de 0,1 %. L’étiquetage des résultats de l’IA est devenu mesurable et non plus ambitieux.
SynthID Bio, un filigrane pour les protéines conçues par l'IA, a atteint 100 % de détection avec un taux de faux positifs de 0,1 % dans un article de Nature. Cela va au-delà de « nous devrions étiqueter les résultats de l'IA » en « nous pouvons, de manière fiable, même sur des molécules ». La provenance n'est plus un slogan.
La règle de transparence de l'UE exige déjà des étiquettes sur le contenu de l'IA, mais la détection avec une telle précision est ce qui rend la règle exécutoire. Un filigrane que vous ne trouvez pas est une promesse ; celui que vous pouvez vérifier est un contrôle. Bio est le cas difficile, et cela a fonctionné, ce qui suggère que la technique se généralise.
Pour les constructeurs, la direction est claire : supposer que le résultat généré sera vérifiable, et pas seulement divulgué. Concevoir dès maintenant la provenance, en intégrant un signal dès la création, coûte moins cher que d'apposer une étiquette après coup, lorsqu'un régulateur le demande.
L’avantage intéressant est l’intention. Un filigrane prouve l'origine, pas le mal, donc la science décide de « qui a fait ceci », et la loi doit encore déterminer « est-ce que ça allait ? ». Mais connaître la source est une condition préalable, et nous y sommes parvenus.