Claude song ca và cuộc đua đặc vụ cá nhân khiến tôi lo lắng

Anthropic đã ra mắt Claude Duet, một đặc vụ nền tảng hoạt động cho bạn và tham gia cùng Meta và OpenAI trong cuộc đua sống trong cuộc sống của bạn. Tôi muốn sự giúp đỡ. Tôi không muốn rủi ro đi kèm với nó.

Tác nhân cá nhân là sản phẩm AI hữu ích nhất và nguy hiểm nhất, bởi vì nó hành động chứ không chỉ tư vấn. Khi nó đúng, nó sẽ tiết kiệm buổi tối của bạn. Khi nó sai, nó sẽ tiêu tiền của bạn hoặc gửi tin nhắn của bạn.

Các biện pháp bảo vệ là sản phẩm chứ không phải là mô hình đằng sau nó. Một tác nhân không thể bị ràng buộc là một đứa trẻ mới biết đi với thẻ tín dụng của bạn, bất kể nó nghe có vẻ thông minh đến đâu.

Tôi sẽ sử dụng nó vào ngày tôi có thể biết chính xác những gì nó được phép chạm vào và những gì không được phép chạm vào. Cho đến khi lồng tốt như não, tôi đứng bên lề quan sát.