이번 달 최고의 에이전트 안전 아이디어는 커널에 있습니다

GTC 베를린에서 NVIDIA는 최소 권한 액세스로 커널 수준 샌드박스에 에이전트를 래핑하는 참조 아키텍처인 OpenShell을 설명했습니다. 에이전트를 신뢰하는 대신 에이전트가 시도할 수 있는 작업을 제한합니다.

오늘날 대부분의 상담원 안전은 '조심하세요'라는 메시지입니다. 그것은 통제가 아니라 소망입니다. 커널 샌드박스는 벽과 같습니다. 에이전트는 부여되지 않은 내용을 물리적으로 읽을 수 없습니다.

이는 모든 에이전트 프레임워크가 복사해야 하는 패턴입니다. OS에서 시행하는 권한은 모델이 압박을 받을 때 무시할 수 있는 모든 명령보다 오래 지속됩니다.

파일, 메일 또는 돈을 처리하는 에이전트를 배포하는 경우 공급업체에 물어볼 질문은 간단합니다. 샌드박스는 어디에 있고 누가 확장할 수 있습니까?