내가 모든 새로운 AI 모델을 쫓는 것을 중단한 이유
새로운 기함은 그날 밤에 시험해 봐야 한다는 의미였습니다. 그런 다음 업그레이드로 인해 출력이 변경되지 않는 것을 확인했습니다.
2년 동안 나는 모든 새 모델이 출시되는 날 바로 설치했습니다. 새로운 벤치마크 리더는 새 탭, 새 API 키, 그룹 채팅에 대한 새로운 '이것은 모든 것을 바꿉니다' 메시지를 의미했습니다. 첫 주 이후에는 그 어느 것도 내 작업을 눈에 띄게 개선하지 못했습니다.
내가 피한 진실: 내 작업의 대부분은 쓰기, 요약, 가벼운 코딩입니다. 그러한 경우, 좋은 모델과 훌륭한 모델 사이의 격차는 명확한 브리핑과 모호한 모델 사이의 격차보다 작습니다. 이 모델은 병목 현상이 거의 발생하지 않았습니다.
나는 이제 두 가지를 유지합니다. 하나는 대량 작업을 위한 값싼 도구이고 다른 하나는 어려운 추론을 위한 강력한 모델입니다. 새 릴리스가 출시되면 신경 쓰기 전에 실제 작업 하나를 실행합니다. 대부분의 경우 괜찮고 계속 진행합니다.
모델을 쫓는 일은 쉽기 때문에 진전이 있는 것처럼 느껴졌습니다. 실제로 개선이란 더 나은 프롬프트를 작성하고 결과를 판단하는 것을 의미했는데, 이는 더 어렵고 더 많은 성과를 거두었습니다.