Tóm tắt AI của bạn không trích dẫn gì và đó là vấn đề

Kết quả đẹp nhất từ chatbot là bản tóm tắt: đạn gọn gàng, giọng điệu bình tĩnh, không phòng ngừa. Nó cũng nguy hiểm nhất vì nó thường không có trích dẫn nào bạn có thể kiểm tra.

Tôi phát hiện ra điều này khi 'bản tóm tắt' của AI về một thay đổi chính sách bị sai ngày theo cách nghe có vẻ hợp lý. Văn xuôi tự tin, sự thật đã mất một năm và không có mối liên hệ nào để xác minh. Một bản tóm tắt không có nguồn chỉ là sự phỏng đoán lịch sự với hình thức phù hợp.

Cách khắc phục mà tôi sử dụng bây giờ rất đơn giản: đối với bất cứ điều gì tôi sẽ thực hiện hoặc lặp lại, tôi sẽ hỏi nguồn, sau đó tôi mở nó ra. Nếu công cụ không thể chỉ ra vị trí tồn tại của xác nhận quyền sở hữu thì tôi coi xác nhận quyền sở hữu đó là chưa được xác minh bất kể nó có vẻ chắc chắn đến mức nào.

Đây là lý do tại sao tôi dựa vào các công cụ nghiên cứu như Elicit và Scite để tìm bất kỳ thứ gì dựa trên bằng chứng. Họ cho xem tờ giấy và câu chính xác. Một chatbot diễn giải từ bộ nhớ sẽ luôn đi sau một công cụ thể hiện hoạt động của nó.

Sử dụng tóm tắt để định hướng, không bao giờ để kết luận. Thời điểm bạn đặt cược thứ gì đó vào các từ, hãy yêu cầu người mẫu cho bạn xem biên lai.