オンデバイス AI が重要な部分を静かに獲得
Google のオフライン会議アプリと Apple のオンデバイスへの取り組みは、興味深い競争は大型モデルではなく、ラップトップから離れないモデルであることを証明しています。
Google は、オンデバイスの Gemma 4 モデルを使用して完全にオフラインで会議を記録、文字に起こし、質問に答える Mac アプリである AI Edge Foresight をリリースしました。 Apple の Siri 拡張機能は、今月より多くの言語でデバイスに導入されます。どちらもベンチマークの話題にはならなかったし、フロンティアのおしゃべりよりもどちらも重要かもしれない。
利点は、プライバシーと体感できる遅延です。ラップトップから決して離れない会議の記録はポリシーではなく、アーキテクチャのプロパティです。クライアントや医療上の会話を扱う人にとって、これは音声を最初に出荷するよりスマートなクラウド モデルよりも優れています。
オンデバイスとは、機能が平面上で動作することも意味します。クラウドのデモは常に接続を前提としています。デバイス上の静かなメッセージは、あなたが信号にむらのある人であると想定します。これは私たちのほとんどです。
フロンティアは依然として厳しい推論で勝利を収めていますが、日常的なアシスタントは、データがすでに存在する場所で実行されるものになりつつあります。これはリーダーボードのポイントよりも永続的な利点です。
