올해 실제로 잠금 해제된 현지 모델

AI 붐의 대부분에서 흥미로운 모델은 다른 사람의 API 뒤에 있었고 이를 사용하는 것은 데이터를 전송하고 호출당 비용을 지불하는 것을 의미했습니다. 올해에는 다른 문이 열렸고, 그 문을 통과하는 사람들은 기조연설에서 기대했던 사람들이 아니었습니다.

개방형 릴리스가 작업을 수행했습니다. Mistral의 Le Chonk, Mistral Large 4는 누구나 실행할 수 있는 다운로드로 출시되었으며, 코드와 보안이 충분히 강력하여 진지한 팀이 클라우드 비용 없이 심각하게 받아들였습니다. GoTo는 인도네시아어와 4개 지역 언어에 맞게 조정된 270억 개의 매개변수 모델을 출시하여 동남아시아 개발자에게 서구 클라우드를 거치지 않는 기반을 제공했습니다. 요점은 이것이 폐쇄된 국경을 이겼다는 것이 아닙니다. 그것은 의존성을 제거했다는 것입니다.

실제로 잠금 해제된 것은 원시 기능이 아니라 주권과 비용이었습니다. 지방 정부, 환자 기록이 어디로 가는지 걱정하는 병원, 대규모 토큰당 가격 책정을 감당할 수 없는 스타트업 등 이제 모두 자체 하드웨어에 있는 신뢰할 수 있는 대안을 갖게 되었습니다. 그들에게는 그들이 관리하는 약간 작은 모델이 그들이 임대하는 더 큰 모델보다 낫습니다.

나는 오늘 밤 일반 사용자에게 GPU를 설정하고 웨이트를 실행하라고 말하지 않을 것입니다. 폐쇄형 API는 여전히 대부분의 경우 더 쉬운 경로입니다. 그런데 바닥이 움직였어요. 문제는 더 이상 우리 자신의 것을 구축할 수 있느냐는 것이 아니라, 그렇게 해야 하는지 여부입니다. 점점 더 많은 팀에 대한 대답은 마침내 '예'입니다.