クロード・デュエットとパーソナル・エージェント・レースに緊張する
Anthropic は、ユーザーに代わって機能するバックグラウンド エージェントである Claude Duet を立ち上げ、Meta と OpenAI に参加して、ユーザーの生活の中で生きていく競争に参加しました。助けてほしい。それに伴うリスクは望んでいません。
パーソナル エージェントは、アドバイスするだけでなく行動するため、これまでで最も便利で最も危険な AI 製品です。適切なタイミングで、夜の時間を節約できます。それが間違っている場合は、お金を費やすか、メッセージを送信します。
安全装置は製品であり、その背後にあるモデルではありません。どんなに賢く聞こえるとしても、拘束できないエージェントはクレジットカードを持った幼児のようなものです。
どこに触れていいのか、何がダメなのかがはっきりわかる日には使ってみます。檻が脳と同じくらいになるまで、私は傍観しています。
