오픈 웨이트와 오픈 소스 사운드는 동일합니다. 그 중 하나가 당신을 해고할 수 있습니다.

저는 '오픈 소스 AI'라고 말했는데 세 가지 다른 의미를 갖고 있었습니다. 그것들은 동일하지 않으며 회의에서 그것들을 혼합하는 것은 규정 준수 담당자가 차단할 것을 약속하는 방법입니다.

오픈 소스는 코드가 공개되어 라이선스에 따라 코드를 검사하고 수정할 수 있음을 의미합니다. 공개 가중치는 훈련된 모델 파일이 게시되지만 훈련 데이터나 코드를 볼 수 없거나 상업적으로 사용할 권한이 없음을 의미합니다. 하나는 조리법이 담긴 책이고; 다른 하나는 오븐이 잠겨 있는 상태로 완성된 케이크입니다.

문제가 되는 이유: '무료'로 다운로드한 무게에는 상업적 사용을 금지하거나 자신의 변경 사항을 게시하도록 요구하는 라이선스가 포함될 수 있습니다. 이 모델은 노트북에서 실행되지만 용어에 그렇게 나와 있으면 여전히 문제가 발생합니다.

제가 사용하는 실제 규칙은 제품을 제작하는 경우 다운로드한 후가 아니라 다운로드하기 전에 라이선스를 읽습니다. '열림'은 느낌입니다. 라이센스는 계약이다.

올라마(ollama.com)

최적의 대상: 자신의 컴퓨터에서 개방형 모델을 실행하려는 개발자

주요 기능: 단일 명령 모델 풀링, 로컬 추론, 일반 도구와 API 호환

무료 플랜: 무료 오픈 소스 사용 가능

가격: 무료; 하드웨어와 전기 비용을 지불합니다.

장점: 기본적으로 비공개이며 데이터가 컴퓨터 외부로 유출되지 않으며 실험에 적합합니다.

단점: 대형 모델에는 적절한 GPU가 필요하며 모델 품질은 릴리스에 따라 다릅니다.

오픈 웨이트 덕분에 책상 위에 실험실이 생겼습니다. 오픈 소스는 나에게 그것을 이해할 권리를 주었다. 멋진 데모와 방어 가능한 제품의 차이점을 아는 것입니다.

자주 묻는 질문:

Q: 개방형 모델은 상업적으로 무료로 사용할 수 있나요?

답변: 항상 그런 것은 아닙니다. 라이센스를 확인하세요. 많은 경우 상업적 사용을 금지하거나 공개를 요구합니다.

Q: 모델을 로컬에서 실행하는 이유는 무엇입니까?

A: 개인 정보 보호, 규모에 따른 비용, 다른 사람의 API에 대한 종속성 중단이 없습니다.

Q: 오픈소스란 그것이 어떻게 훈련되었는지 볼 수 있다는 뜻인가요?

A: 그렇지 않은 경우가 많습니다. 가중치는 결과입니다. 학습 코드와 데이터는 별도의 질문입니다.