Lý do thực sự khiến đại lý AI ngừng hoạt động
Nó hiếm khi là mô hình. Đó là hệ thống ống nước nhàm chán: quyền, trạng thái và con người tin tưởng vào kết quả.
Khi một bản demo của đại lý ngừng sản xuất, kết quả khám nghiệm tử thi hiếm khi nói rằng 'mô hình này quá ngu ngốc'. Nó cho biết tác nhân không thể có được sự cho phép phù hợp, mất chuỗi giữa các bước hoặc đã thực hiện nhiệm vụ và không ai đủ tin tưởng vào kết quả đầu ra để thực hiện hành động đó. Mô hình bây giờ là phần dễ dàng.
Quyền là kẻ giết người thầm lặng. Một đặc vụ biết đọc mà không viết được, hoặc viết sai chỗ, là một thứ rất thông minh bị trói tay. Hầu hết các lỗi của tác nhân mà tôi từng thấy là các vấn đề về quyền truy cập mặc trang phục lý luận, được giải quyết bằng trợ cấp của quản trị viên chứ không phải bằng mô hình lớn hơn.
Nhà nước là thứ hai. Những nhân viên quên mất những gì họ đang làm khi đang làm nhiệm vụ sẽ tạo ra công việc chưa hoàn thành một nửa trông có vẻ như đã hoàn thành. Cơ sở hạ tầng nhàm chán của bộ nhớ và các điểm kiểm tra quyết định liệu một tác nhân có đáng tin cậy hay không và cơ sở hạ tầng đó là nơi các nhóm đầu tư dưới mức vì đó không phải là bản demo.
Phần được con người tin tưởng là phần không ai lên lịch. Một tác nhân hành động và báo cáo sau đó sẽ bị vô hiệu hóa; một người đăng ký vào đúng thời điểm sẽ được thông qua. Lý do thực sự khiến các đặc vụ bị đình trệ không phải là khả năng mà là do chúng tôi đã vận chuyển bộ não và bỏ qua các rào chắn, bộ nhớ và phanh.