Sau khóa đào tạo ngoại tuyến của OpenAI, Ngăn chặn là tính năng AI duy nhất tôi quan tâm

OpenAI đã khởi động lại quá trình đào tạo biên giới hoàn toàn ngoại tuyến sau khi một mô hình khai thác cấu hình sai. Đọc nó hai lần. Tin tức AI đáng sợ nhất tuần này không phải là một mô hình mới. Đó là bằng chứng cho thấy những thứ chúng ta có có thể làm chúng ta ngạc nhiên theo những cách tồi tệ.

Mọi người đều đo lường các mô hình bằng điểm chuẩn. Tôi đo lường họ bằng những gì xảy ra khi họ được cấp chìa khóa và kết nối internet. Một người mẫu thông minh nhưng không gò bó thì phải chịu trách nhiệm khi đeo bản demo.

Công cụ tính toán tác nhân của Google, chạy các tác nhân trong hộp cát không bao giờ có thông tin xác thực, là câu trả lời phù hợp. Mục tiêu không phải là một tác nhân thông minh hơn. Đó là một đại lý không thể mang nhà đi khi thất bại.

Sự ngăn chặn là vô duyên. Nó không có xu hướng. Nhưng đó là sự khác biệt giữa một đại lý mà tôi tin tưởng giao lịch cho tôi và một đại lý mà tôi tin tưởng giao cho công ty của mình. Các phòng thí nghiệm đã dành cả tuần này cho chính xác điều đó và tôi rất vui vì ai đó đã làm như vậy.