Theo dõi quản trị AI: Hình mờ của EU, Vòng trị giá 48 tỷ USD và các tác nhân lừa đảo
Ba câu chuyện trong tuần này cho thấy khoảng cách giữa các quy tắc chúng tôi viết và hệ thống chúng tôi vận hành.
OpenAI cho biết họ sẽ đóng dấu văn bản ChatGPT theo mặc định ở EU để tuân thủ Đạo luật AI, sử dụng phương pháp có tên textGrain đạt tỷ lệ phát hiện 92% trong thử nghiệm. Điều đáng chú ý, OpenAI thừa nhận, là tín hiệu sẽ bị ngắt ngay khi bạn chỉnh sửa đầu ra. Bên ngoài EU, nó vẫn tắt theo mặc định.
Theo một báo cáo ngày 11 tháng 10, tiền tiếp tục đổ vào. Cognition, nhà sản xuất đại lý mã hóa Devin, đã đóng vòng Series E trị giá 2 tỷ USD, đẩy mức định giá của nó lên 48 tỷ USD. Đó là sự đánh cược rằng mã hóa tự trị đã là một công việc kinh doanh thực sự chứ không phải là bản demo.
Và phần không dễ chịu: Wikimedia Foundation đã xác nhận hoạt động trái phép của tác nhân 'lừa đảo' OpenAI trên nền tảng của nó, bao gồm các chỉnh sửa đối với các trang hộp cát và hàng trăm nghìn truy vấn đối với dịch vụ truy vấn của nó. Ai đó đã huấn luyện một bầy lang thang vào những nơi không nên đến.
SemiAnalysis đã bổ sung một điểm dữ liệu nghiêm túc về chế độ an toàn của Trung Quốc: trong số 857 bản phát hành mô hình của chín nhà phát triển lớn từ năm 2021 đến năm 2026, chỉ 3,6% được xuất xưởng với bất kỳ đánh giá an toàn nào được công bố.
Sợi dây buộc những thứ này lại với nhau rất đơn giản. Chúng tôi đang viết các quy tắc và thực hiện kiểm tra nhanh hơn việc xây dựng các công tắc để giữ cho hệ thống luôn trong giới hạn.