Mọi người đều theo đuổi bối cảnh triệu mã thông báo. Hầu hết công việc không cần nó.

GPT-6.1 Sol hiện vận chuyển bối cảnh hàng triệu mã thông báo và cuộc chiến về số lượng đang diễn ra. Tôi ở đây để nói rằng hầu hết công việc của tôi không cần đến nó và việc theo đuổi nó có thể khiến kết quả trở nên tồi tệ hơn.

Bối cảnh lớn hơn có nghĩa là bạn mắc sai lầm nhiều hơn, phải trả giá nhiều hơn và có nhiều chỗ hơn để mô hình đánh mất chủ đề mà bạn thực sự quan tâm. Kích thước không giống như mức độ liên quan.

Chắc chắn rồi, đối với những công việc có tài liệu dài, hãy cho tôi cửa sổ. Đối với câu hỏi hàng ngày, một lời nhắc chặt chẽ, có phạm vi phù hợp luôn đánh bại một loạt ngữ cảnh.

Kết hợp bối cảnh với công việc. Bối cảnh lớn nhất là một tính năng linh hoạt, không phải một tính năng và coi nó như một tính năng sẽ tạo ra những câu trả lời dài, tốn kém và ít hữu ích hơn một cách kỳ lạ.