Những điều Đại lý AI vẫn chưa làm được (Ghi chú sau một năm cố gắng ủy quyền)

Tôi đã dành một năm để cố gắng giao phó công việc thực sự cho các nhân viên AI: nhiệm vụ thực, thời hạn thực, hậu quả thực. Các bản demo không phải là giả; các nhiệm vụ trong đó được thực hiện. Điều mà các bản demo che giấu là hình dạng của ranh giới, hóa ra lại rất nhất quán trên mọi tác nhân mà tôi đã thử.

Mặt đầu tiên của ranh giới: các tác nhân thất bại ở những mục tiêu mà việc hoàn thành nó không rõ ràng. 'Dọn dẹp cơ sở mã này' tạo ra sự sắp xếp lại sai một cách đáng tin cậy, vì không có thông số kỹ thuật và nhân viên không thể đặt các câu hỏi văn phòng có thể xuất hiện. Việc ủy quyền hoạt động chính xác ở mức độ được xác định trước. Hầu hết các công việc tri thức thì không.

Mặt thứ hai: các tác nhân thất bại trong các bối cảnh chống lại việc liệt kê. Đặt một chuyến bay là vô số (trang web, hình thức, xác nhận). Đàm phán lại hợp đồng với một người đang có một ngày tồi tệ thì không. Thất bại không phải là khả năng; đó là bối cảnh thực chứa thông tin không bao giờ được đưa vào bất kỳ lời nhắc nào và tác nhân không biết những gì nó không biết.

Bên thứ ba là bên im lặng: hậu quả là các đặc vụ thất bại. Họ sẽ hành động dựa trên một tiền đề sai với sự tự tin giống như một tiền đề đúng, bởi vì không có gì trong vòng lặp của họ cảm thấy bị đe dọa. Mọi hệ thống ủy quyền thực sự mà tôi xây dựng cuối cùng đều phát triển một trạm kiểm soát của con người vào đúng thời điểm hành động không thể thay đổi được, không phải vì tác nhân thường xuyên mắc lỗi mà vì khi nó mắc lỗi thì không có tín hiệu nào cho đến khi bị hư hỏng.

Không ai trong số này là một sự sa thải; Năm cũng tạo ra những chiến thắng thực sự trong khu vực có thể đếm được và xác định được, lớn hơn những gì những người hoài nghi nghĩ. Nhưng bản đồ ranh giới trung thực còn quan trọng hơn các bản demo, bởi vì các phái đoàn thất bại không phải là vấn đề về năng lực. Chúng là các vấn đề về đặc điểm kỹ thuật và không có cải tiến mô hình nào ghi lại đặc điểm kỹ thuật cho bạn.