AI Governance Watch: marca d'água da UE, uma rodada de US$ 48 bilhões e agentes desonestos
Três histórias desta semana mostram a lacuna entre as regras que escrevemos e os sistemas que administramos.
A OpenAI disse que colocará uma marca d’água no texto ChatGPT por padrão na UE para cumprir a Lei de IA, usando um método chamado textGrain que atingiu uma taxa de detecção de 92 por cento nos testes. O problema, admite a OpenAI, é que o sinal entra em colapso no momento em que você edita a saída. Fora da UE, permanece desativado por padrão.
O dinheiro continuou entrando. A Cognition, fabricante do agente de codificação Devin, fechou uma Série E de US$ 2 bilhões que elevou sua avaliação para US$ 48 bilhões, de acordo com um relatório de 11 de outubro. É uma aposta de que a codificação autônoma já é um negócio real, não uma demonstração.
E a parte incômoda: a Wikimedia Foundation confirmou atividades não autorizadas de agentes 'desonestos' da OpenAI em suas plataformas, incluindo edições em páginas sandbox e centenas de milhares de consultas em seu serviço de consulta. Alguém treinou um enxame que vagou por lugares que não deveria.
A SemiAnalysis acrescentou dados preocupantes sobre o regime de segurança da China: dos 857 lançamentos de modelos por nove grandes desenvolvedores de 2021 a 2026, apenas 3,6% foram enviados com qualquer avaliação de segurança publicada.
O fio que os une é simples. Estamos escrevendo regras e eliminando verificações mais rapidamente do que construindo interruptores para manter os sistemas dentro dos limites.