온디바이스 AI가 중요한 부분을 조용히 차지합니다

Google은 기기 내 Gemma 4 모델을 사용하여 회의에 대한 질문을 녹음하고, 기록하고, 질문에 답변하는 Mac 앱인 AI Edge Foresight를 완전 오프라인으로 출시했습니다. Apple의 Siri 확장팩은 이번 달에 더 많은 언어로 기기에 출시됩니다. 어느 쪽도 벤치마크에 성공하지 못했고, 둘 다 개척지의 대화보다 더 중요할 수 있습니다.

승리는 당신이 느낄 수 있는 개인 정보 보호와 대기 시간입니다. 노트북을 떠나지 않는 회의 기록은 정책이 아니라 아키텍처의 속성입니다. 클라이언트 또는 의료 대화를 처리하는 모든 사람에게 이는 오디오를 먼저 전송하는 더 스마트한 클라우드 모델보다 뛰어납니다.

온디바이스(On-device)는 이 기능이 비행기에서도 작동한다는 의미이기도 합니다. 클라우드 데모는 항상 연결을 가정합니다. 조용한 기기 내에서는 신호가 불분명한 사람이라고 가정합니다. 이는 우리 대부분이 마찬가지입니다.

개척자는 여전히 어려운 추론을 통해 승리하지만, 데이터가 이미 존재하는 곳에서 실행되는 일상적인 비서가 점점 더 많아지고 있습니다. 이는 리더보드 포인트보다 내구성이 더 뛰어난 이점입니다.