Proteínas com marca d’água SynthID Bio. A proveniência é agora um problema científico.
A marca d'água de proteína do Google atinge 100% de detecção com uma taxa de falsos positivos de 0,1%. Rotular os resultados da IA tornou-se mensurável, não aspiracional.
SynthID Bio, uma marca d'água para proteínas projetadas por IA, atingiu 100% de detecção com uma taxa de falsos positivos de 0,1% em um artigo da Nature. Isso é um passo além de “devemos rotular a produção de IA” como “podemos, de forma confiável, até mesmo em moléculas”. A proveniência deixou de ser um slogan.
A regra de transparência da UE já exige rótulos no conteúdo de IA, mas a detecção com esta precisão é o que torna a regra aplicável. Uma marca d'água que você não consegue encontrar é uma promessa; um que você pode verificar é um controle. Bio é o caso difícil e funcionou, o que sugere que a técnica é generalizada.
Para os construtores, a direção é clara: presuma que a saída gerada será verificável, e não apenas divulgável. Projetar agora com base na proveniência, incorporando um sinal na criação, é mais barato do que afixar um rótulo após o fato, quando um regulador solicitar.
A vantagem interessante é a intenção. Uma marca d'água prova a origem, não o dano, então a ciência decide 'quem fez isso', e a lei ainda precisa decidir 'tudo bem'. Mas conhecer a fonte é o pré-requisito, e ficamos bons nisso.