L'IA sur appareil gagne tranquillement les parties qui comptent
L'application de réunion hors ligne de Google et le push sur appareil d'Apple prouvent que la course intéressante ne réside pas dans les modèles plus gros, mais dans les modèles qui ne quittent pas votre ordinateur portable.
Google a publié AI Edge Foresight, une application Mac qui enregistre, transcrit et répond aux questions sur les réunions à l'aide d'un modèle Gemma 4 sur appareil, entièrement hors ligne. L'extension Siri d'Apple arrive ce mois-ci sur l'appareil dans davantage de langues. Ni l’un ni l’autre n’ont fait sensation, et les deux pourraient avoir plus d’importance que le bavardage sur la frontière.
La victoire est la confidentialité et la latence que vous pouvez ressentir. Une transcription de réunion qui ne quitte jamais l'ordinateur portable n'est pas une politique, c'est une propriété de l'architecture. Pour toute personne gérant des conversations client ou médicales, cela bat un modèle cloud plus intelligent qui expédie votre audio en premier.
Sur l'appareil signifie également que la fonctionnalité fonctionne dans un avion. Les démos cloud supposent toujours une connexion ; ceux qui sont silencieux sur l'appareil supposent que vous êtes une personne avec un signal irrégulier, ce qui est la plupart d'entre nous.
La frontière gagne toujours sur le raisonnement dur, mais l'assistant quotidien est de plus en plus celui qui travaille là où les données se trouvent déjà. C'est un avantage plus durable qu'un point au classement.