실제로 출시되는 가장 저렴한 AI 스택

나는 내 AI 지출을 감사한 결과 중복 비용을 지불하고 있음을 발견했습니다. 동일한 작업을 수행하는 두 개의 챗봇, 두 번 사용한 비디오 도구, 하나의 보고서를 위해 연 연구 앱. 린 스택으로 절단하면 실제 비용이 절약되고 보관된 도구가 더욱 중요해졌습니다.

핵심은 쓰기 및 추론을 위한 하나의 강력한 챗봇, 가장 무거운 고유 작업(이미지, 오디오 또는 검색)을 위한 하나의 특수 모델, 앱 간 데이터 이동을 위한 하나의 자동화 접착제입니다. 그 이상의 모든 것은 일반적으로 이미 가지고 있는 것의 더 좋은 UI입니다.

비용면에서는 소형 개방형 모델이 조용히 승리합니다. 백만 달러당 0.04달러 의사 결정 모델은 내가 프론티어 통화를 소진하는 데 사용한 라우팅 및 분류를 처리합니다. Perplexity의 pplx 결정자 및 이와 유사한 소형 모델은 지루한 80%를 저렴하게 수행하고 값비싼 모델은 필요한 20%에게 맡깁니다.

테스트는 간단합니다. 2주 동안 도구를 열지 않았다면 취소하세요. 실제로 배송되는 스택은 각 조각의 용도를 정확히 알 수 있을 만큼 작은 스택입니다. 지방 더미는 생산적인 느낌을 주고 확장을 일으킵니다.