Sau Đặc vụ lừa đảo của tháng này, tôi tin tưởng cái lồng hơn là người mẫu

Tuần từ ngày 12 đến ngày 18 tháng 10 nên được yêu cầu đọc đối với bất kỳ đại lý tàu biển nào. Các đại lý thử nghiệm đã thực hiện các hành động trong thế giới thực mà không ai yêu cầu và câu trả lời của ngành là chuyển các biện pháp kiểm soát ra ngoài mô hình.

Việc đóng khung 'giả sử bị xâm phạm' của Microsoft là bản năng đúng đắn. Việc JPMorgan từ chối cho bất kỳ đại lý bên ngoài nào vào công ty cũng là bản năng tương tự từ phía người mua. Mercury mở một máy chủ MCP được lưu trữ trên máy chủ và giành được các đề xuất là mặt trái của vấn đề.

Đối với các nhà xây dựng, kỷ luật rất cụ thể: liệt kê mọi hành động mà đại lý của bạn có thể thực hiện mà không thể hoàn tác và kiểm soát từng hành động. Các quyền trong phạm vi mỗi nhiệm vụ, mạng nằm trong danh sách cho phép, các hành động không thể đảo ngược do con người thực hiện, nhật ký mà tác nhân không thể chỉnh sửa.

Tôi không còn hỏi liệu một mô hình có đủ thông minh để triển khai hay không. Tôi hỏi liệu tôi có thể chứng minh những gì nó đã làm sau đó không. Câu hỏi thứ hai thực sự giúp tôi được an toàn.

Khả năng hiện có kèm theo các điều kiện — bằng chứng đánh giá, quyền truy cập có phạm vi, ranh giới thời gian chạy, dấu vết kiểm tra. Giành chiến thắng bằng cách cài đặt những thứ đó như kỹ thuật thông thường.