NVIDIA의 개방형 코딩 모델이 책상 위에서 실행됩니다. 클라우드가 일자리를 잃었습니다.

하드웨어와 함께 NVIDIA는 RTX Spark 하드웨어에서 초당 220개 이상의 토큰을 보고한 Apache 2.0에서 개방형 가중치를 갖춘 400억 매개변수 혼합 코딩 모델인 Recursive Flint를 도입했습니다.

훌륭하고 작은 로컬 모델은 많은 'API로 보내기' 코딩 작업이 머신에 남아 있을 수 있음을 의미합니다. 지연 시간이 줄어들고 코드가 상자 밖으로 나가지 않습니다.

어려운 추론 작업에 대한 프론티어 모델을 대체하지는 않습니다. 그러나 일상적인 80%(상용구, 테스트, 리팩터링)에는 이제 무료 비공개 옵션이 있습니다.

개발 도구를 구축하는 경우 지루한 부분을 수행하는 로컬 모델을 계획하세요. 클라우드는 더 이상 유일한 장소 코드가 작성되지 않습니다.