Tôi học được gì từ 100 vé hỗ trợ AI
Sau khi đọc hàng trăm chủ đề hỗ trợ, các kiểu thất bại trở nên nhàm chán và lặp đi lặp lại. Các bản sửa lỗi cũng vậy.
Tôi đã xem qua hàng trăm phiếu hỗ trợ được gắn thẻ liên quan đến AI và dự đoán sẽ có những thất bại kỳ lạ. Họ không như vậy. 80% là ba điều giống nhau: lời nhắc giả định rằng mô hình biết bối cảnh riêng tư mà nó không có, tự động hóa không có điểm kiểm tra của con người và đầu ra không ai xem xét trước khi xuất xưởng.
Bối cảnh một là bối cảnh lớn. Mọi người yêu cầu mô hình 'sử dụng chính sách của chúng tôi' như thể nó đang đọc sổ tay. Nó không. Cách khắc phục rất đơn giản: đưa tài liệu cho nó hoặc kết nối quá trình truy xuất hoặc ngừng giả vờ mô hình có khả năng ngoại cảm. Mọi vé như thế này đều đóng ngay khi chúng tôi cung cấp nguồn thực tế cho nó.
Việc tự động hóa không có điểm kiểm tra là điều đáng sợ. Luồng gửi email cho khách hàng bằng văn bản do AI tạo và không ai đọc nó là một sự cố danh tiếng đang chờ xảy ra. Việc thêm một bước phê duyệt của con người đã giết chết loại khiếu nại tồi tệ nhất chỉ sau một đêm.
Bài học không phải là 'AI không đáng tin cậy'. It's that the failures are process failures wearing an AI costume. Những tấm vé không phải về việc mô hình bị sai; they were about us skipping the steps we'd do for any other draft. Đọc đầu ra. Cung cấp cho nó bối cảnh. Giữ một con người trong vòng lặp. Nhàm chán, và nó hoạt động.