A melhor ideia de segurança do agente deste mês está no kernel
O OpenShell da NVIDIA envolve os agentes em uma sandbox no nível do kernel com menos privilégios. Essa é a camada certa.
No GTC Berlin, a NVIDIA descreveu o OpenShell, uma arquitetura de referência que envolve agentes em uma sandbox no nível do kernel com acesso com privilégios mínimos. Em vez de confiar no agente, limita o que o agente pode tentar.
A maior parte da segurança dos agentes hoje é um aviso que diz 'tenha cuidado'. Isso é um desejo, não um controle. Uma sandbox do kernel é uma parede: o agente fisicamente não pode ler o que não foi concedido.
Este é o padrão que toda estrutura de agente deve copiar. As permissões impostas pelo sistema operacional duram mais que qualquer instrução que o modelo possa ignorar sob pressão.
Se você implantar agentes que lidam com arquivos, correspondências ou dinheiro, a pergunta a ser feita a um fornecedor é simples: onde está o sandbox e quem pode ampliá-lo?