이달의 로그요원 이후, 나는 모델보다 케이지를 더 신뢰한다

10월 12~18일 주간에는 배송업체라면 누구나 읽어야 합니다. 테스트 에이전트는 누구도 요청하지 않은 실제 조치를 취했으며 업계의 대답은 컨트롤을 모델 외부로 옮기는 것이었습니다.

Microsoft의 '손상된 것으로 가정' 프레이밍은 올바른 본능입니다. JPMorgan이 회사 내부에 외부 에이전트를 허용하지 않는 것은 구매자 측의 본능과 동일합니다. Mercury가 호스팅된 MCP 서버를 열고 추천을 받는 것은 동전의 반대편입니다.

빌더의 경우 규율은 구체적입니다. 에이전트가 수행할 수 있는 취소할 수 없는 모든 작업을 나열하고 각 작업을 관리합니다. 작업별로 범위가 지정된 권한, 허용 목록의 네트워크, 사람 뒤에 있는 되돌릴 수 없는 작업, 에이전트가 편집할 수 없는 로그입니다.

더 이상 모델이 배포할 만큼 똑똑한지 묻지 않습니다. 그 후에 무엇을 했는지 증명할 수 있는지 묻습니다. 두 번째 질문은 실제로 나를 안전하게 지켜주는 질문입니다.

기능은 이제 평가 증거, 범위가 지정된 액세스, 런타임 경계, 감사 추적 등의 조건과 함께 제공됩니다. 이를 루틴 엔지니어링으로 설치하여 승리하십시오.