ਨੋਟ: ਇਹ ਲੇਖ ਉੱਚ-ਪੱਧਰੀ ਸੰਖੇਪ ਜਾਣਕਾਰੀ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ. ਤਕਨੀਕੀ ਸੈਟਅਪ ਲਈ ਜਾਣਕਾਰੀ gpt-oss ਵੈੱਬਸਾਈਟ, GitHub, Hugging Face, ਅਤੇ OpenAI Cookbooks 'ਤੇ ਮਿਲ ਸਕਦੀ ਹੈ.
ਸੰਖੇਪ ਜਾਣਕਾਰੀ
ਦੋ ਓਪਨ-ਵੇਟ ਰੀਜ਼ਨਿੰਗ ਮਾਡਲ ਪੇਸ਼ ਕਰ ਰਹੇ ਹਾਂ: gpt‑oss‑120b ਅਤੇ gpt‑oss‑20b. ਇਹ ਤੁਹਾਡੇ ਕੰਟਰੋਲ ਵਾਲੇ ਇਨਫ੍ਰਾਸਟ੍ਰਕਚਰ 'ਤੇ ਜਾਂ ਹੋਸਟਿੰਗ ਪ੍ਰਦਾਤਾਵਾਂ ਰਾਹੀਂ ਚੱਲਦੇ ਹਨ.
ਨੋਟ: ਇਹ ਮਾਡਲ OpenAI API ਰਾਹੀਂ ਸਰਵ ਨਹੀਂ ਕੀਤੇ ਜਾਂਦੇ ਅਤੇ ChatGPT ਵਿੱਚ ਉਪਲਬਧ ਨਹੀਂ ਹਨ.
ਓਪਨ-ਵੇਟ ਕਿਉਂ
ਚੋਣ ਅਤੇ ਕੰਟਰੋਲ: ਮਾਡਲਾਂ ਨੂੰ ਆਨ-ਪ੍ਰੈਮਿਸਿਜ਼ ਜਾਂ ਆਪਣੇ ਪ੍ਰਾਈਵੇਟ ਕਲਾਊਡ ਵਿੱਚ ਚਲਾਓ, ਡਾਟਾ ਰੈਜ਼ਿਡੈਂਸੀ ਰੱਖੋ, ਅਤੇ ਆਪਣੀਆਂ ਲੋੜਾਂ ਲਈ ਕਾਰਗੁਜ਼ਾਰੀ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਓ.
ਕਸਟਮਾਈਜ਼ੇਸ਼ਨ: ਆਪਣੇ ਪਸੰਦੀਦਾ ਓਪਨ ਟੂਲਿੰਗ ਨਾਲ ਮਾਡਲਾਂ ਨੂੰ ਫਾਈਨ-ਟਿਊਨ ਜਾਂ ਢਾਲੋ.
ਉਪਲਬਧਤਾ ਅਤੇ ਲਾਇਸੰਸਿੰਗ
ਲਾਇਸੰਸ: Apache 2.0 ਵਿਆਪਕ ਵਰਤੋਂ, ਸੋਧ ਅਤੇ ਮੁੜ-ਵੰਡ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਵਪਾਰਕ ਵਰਤੋਂ ਵੀ ਸ਼ਾਮਲ ਹੈ (ਸਾਡੀ gpt-oss ਵਰਤੋਂ ਨੀਤੀ ਦੇ ਅਧੀਨ).
ਸਰਵਿੰਗ: OpenAI API ਰਾਹੀਂ ਉਪਲਬਧ ਨਹੀਂ, ਇਸ ਲਈ API ਕੀਮਤਾਂ ਅਤੇ ਰੇਟ ਲਿਮਿਟ ਲਾਗੂ ਨਹੀਂ ਹੁੰਦੀਆਂ.
ਅਨੁਕੂਲਤਾ: vLLM, Ollama, llama.cpp ਵਰਗੇ ਆਮ ਓਪਨ ਇਨਫਰੈਂਸ ਸਟੈਕਾਂ ਨਾਲ ਅਤੇ ਕਲਾਊਡ ਜਾਂ ਸਵੈ-ਪ੍ਰਬੰਧਿਤ GPU ਵਾਤਾਵਰਣਾਂ 'ਤੇ ਚਲਾਇਆ ਜਾ ਸਕਦਾ ਹੈ.
ਸ਼ੁਰੂਆਤ
ਮਾਡਲ ਵੇਟ ਅਤੇ ਸਹਾਇਕ ਸਰੋਤ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ, ਤੁਸੀਂ ਇਹ ਕਰ ਸਕਦੇ ਹੋ:
ਸੰਖੇਪ ਜਾਣਕਾਰੀ ਅਤੇ ਸਿੱਧੇ ਲਿੰਕਾਂ ਲਈ gpt-oss ਵੈੱਬਸਾਈਟ 'ਤੇ ਜਾਓ.
Hugging Face ਸੰਗ੍ਰਹਿ ਤੋਂ ਵੇਟ ਡਾਊਨਲੋਡ ਕਰੋ—ਇਹ ਇੱਕ ਭਾਈਚਾਰਕ ਕੇਂਦਰ ਹੈ ਜਿੱਥੇ ਤੁਸੀਂ ਦੋਵੇਂ ਮਾਡਲ ਲੱਭ ਸਕਦੇ ਹੋ, ਵਰਤੋਂ ਦੀਆਂ ਉਦਾਹਰਨਾਂ ਦੇਖ ਸਕਦੇ ਹੋ ਅਤੇ ਚਾਹੋ ਤਾਂ Hugging Face ਦੀਆਂ ਸੇਵਾਵਾਂ ਰਾਹੀਂ ਸਿੱਧਾ ਇਨਫ਼ਰੈਂਸ ਚਲਾ ਸਕਦੇ ਹੋ.
ਹਵਾਲਾ ਇਨਫ਼ਰੈਂਸ ਕੋਡ ਲਈ ਸਾਡੀ GitHub ਕੋਡ ਰਿਪੋਜ਼ਟਰੀ ਵਰਤੋ.
Ollama, vLLM ਅਤੇ Transformers ਵਰਗੇ ਸਮਰਥਿਤ ਰਨਟਾਈਮਾਂ ਨਾਲ ਸੈੱਟਅੱਪ ਕਰਨ ਲਈ OpenAI ਵਿਅੰਜਨਾਂ ਵਿਚਲੀਆਂ ਗਾਈਡਾਂ ਵਰਤੋ. ਇਨ੍ਹਾਂ ਵਿਅੰਜਨਾਂ ਵਿੱਚ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਚਲਾਉਣ, ਆਮ ਰਨਟਾਈਮ ਵਰਤਣ ਅਤੇ ਜਿੱਥੇ ਸਮਰਥਨ ਉਪਲਬਧ ਹੋਵੇ, gpt-oss ਮਾਡਲਾਂ ਨੂੰ ਫਾਈਨ-ਟਿਊਨ ਕਰਨ ਲਈ ਕਦਮ-ਦਰ-ਕਦਮ ਹਦਾਇਤਾਂ ਵੀ ਸ਼ਾਮਲ ਹਨ.
gpt‑oss‑safeguard (ਖੋਜ ਪੂਰਵਦਰਸ਼ਨ)
gpt‑oss‑safeguard, gpt‑oss ਉੱਤੇ ਬਣੇ ਖੁੱਲ੍ਹੇ ਵੇਟਾਂ ਵਾਲੇ ਦੋ ਸੁਰੱਖਿਆ ਰੀਜ਼ਨਿੰਗ ਮਾਡਲਾਂ ਦਾ ਸਮੂਹ ਹੈ. ਇਹ ਨੀਤੀ-ਅਧਾਰਿਤ ਸੁਰੱਖਿਆ ਵਰਗੀਕਰਨ ਅਤੇ ਭਰੋਸੇ ਤੇ ਸੁਰੱਖਿਆ ਨਾਲ ਜੁੜੇ ਉਨ੍ਹਾਂ ਕੰਮਾਂ ਲਈ ਬਣਾਏ ਗਏ ਹਨ, ਜੋ ਤੁਸੀਂ ਆਪਣੇ ਨਿਯੰਤਰਣ ਵਾਲੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਉੱਤੇ ਚਲਾਉਂਦੇ ਹੋ. ਹੋਰ gpt‑oss ਮਾਡਲਾਂ ਵਾਂਗ, ਇਹ ਵੇਟ OpenAI API ਜਾਂ ChatGPT ਰਾਹੀਂ ਉਪਲਬਧ ਨਹੀਂ ਕਰਵਾਏ ਜਾਂਦੇ.
ਸੰਦਰਭ ਸਟਰੱਕਚਰਡ ਆਉਟਪੁੱਟ ਸਕੀਮਿਆਂ ਵਾਲੇ ਸਿਰਫ਼-ਲਿਖਤ ਮਾਡਲ (ਜਿਵੇਂ ਨੀਤੀਗਤ ਫ਼ੈਸਲਾ ਅਤੇ ਉਸਦਾ ਤਰਕ).
ਆਪਣੀ ਨੀਤੀ ਵਰਤੋ: ਮਾਡਲ ਤੁਹਾਡੀ ਲਿਖਤੀ ਨੀਤੀ ਨੂੰ ਸਮਝਦਾ ਹੈ, ਤਾਂ ਜੋ ਘੱਟੋ-ਘੱਟ ਇੰਜੀਨੀਅਰਿੰਗ ਨਾਲ ਵੱਖ-ਵੱਖ ਉਤਪਾਦਾਂ ਉੱਤੇ ਇਸਨੂੰ ਲਾਗੂ ਕੀਤਾ ਜਾ ਸਕੇ.
ਤਰਕ-ਅਧਾਰਿਤ ਫ਼ੈਸਲੇ: ਤਰੁੱਟੀ-ਜਾਂਚ ਅਤੇ ਲੇਖਾ-ਜਾਂਚ ਵਿੱਚ ਮਦਦ ਲਈ ਵਿਕਲਪਿਕ ਰੀਜ਼ਨਿੰਗ ਵੇਰਵੇ (ਡਿਵੈਲਪਰਾਂ ਅਤੇ ਸੁਰੱਖਿਆ ਮਾਹਰਾਂ ਲਈ ਹਨ, ਅੰਤਿਮ ਵਰਤੋਂਕਾਰਾਂ ਨੂੰ ਦਿਖਾਉਣ ਲਈ ਨਹੀਂ).
ਵਿਵਸਥਿਤ ਕੀਤੀ ਜਾ ਸਕਣ ਵਾਲੀ ਰੀਜ਼ਨਿੰਗ ਕੋਸ਼ਿਸ਼: ਜਵਾਬੀ ਦੇਰੀ ਅਤੇ ਗਹਿਰਾਈ ਵਿਚਕਾਰ ਸੰਤੁਲਨ ਲਈ ਘੱਟ / ਮੀਡੀਅਮ / ਹਾਈ ਚੁਣੋ.
ਲਾਇਸੈਂਸ: Apache 2.0 (ਹੇਠਾਂ ਉਪਲਬਧਤਾ ਅਤੇ ਲਾਇਸੈਂਸਿੰਗ ਦੇਖੋ).
gpt‑oss‑safeguard, LLM ਲਈ ਇਨਪੁੱਟ/ਆਉਟਪੁੱਟ ਛਾਂਟਣ, ਔਨਲਾਈਨ ਸਮੱਗਰੀ ਨੂੰ ਲੇਬਲ ਕਰਨ ਅਤੇ ਔਫ਼ਲਾਈਨ ਬੈਚ ਲੇਬਲਿੰਗ ਜਾਂ ਸਮੀਖਿਆ ਕਾਰਜ-ਪ੍ਰਵਾਹਾਂ ਲਈ ਢੁਕਵਾਂ ਹੈ. ਆਮ ਐਪਲੀਕੇਸ਼ਨਾਂ (ਗੱਲਬਾਤ, ਏਜੰਟ ਆਦਿ) ਲਈ ਅਸੀਂ ਮੁੱਖ gpt‑oss ਮਾਡਲਾਂ ਦੀ ਸਿਫ਼ਾਰਸ਼ ਕਰਦੇ ਹਾਂ.
ਤੁਸੀਂ ਆਪਣੀਆਂ ਲੋੜਾਂ ਅਨੁਸਾਰ ਸਕੀਮਾ ਨੂੰ ਢਾਲ ਸਕਦੇ ਹੋ. ਨਿਰਦੇਸ਼ ਲਿਖਣ ਬਾਰੇ ਮਾਰਗਦਰਸ਼ਨਾਂ ਅਤੇ ਉਦਾਹਰਨਾਂ ਲਈ OpenAI ਕੁੱਕਬੁੱਕ ਦੇਖੋ.
ਮਾਡਲ ਵੈਰੀਐਂਟ ਅਤੇ ਆਕਾਰ
| ਮਾਡਲ | ਉਦੇਸ਼ਿਤ ਵਰਤੋਂ | ਨੋਟਸ |
|---|---|---|
| gpt‑oss‑safeguard‑120b | ਪ੍ਰੋਡਕਸ਼ਨ, ਉੱਚ-ਸਮਰੱਥਾ ਸੁਰੱਖਿਆ ਰੀਜ਼ਨਿੰਗ | 117B ਪੈਰਾਮੀਟਰ (≈5.1B ਸਰਗਰਮ). ਇੱਕ ਸਿੰਗਲ 80 GB GPU 'ਤੇ ਫਿੱਟ ਹੋਣ ਲਈ ਡਿਜ਼ਾਈਨ ਕੀਤਾ ਗਿਆ (ਉਦਾਹਰਨ ਲਈ, NVIDIA H100; AMD MI300X ਵਰਗੇ ਵੱਧ-ਮੈਮੋਰੀ GPUs 'ਤੇ ਵੀ ਚੱਲਦਾ ਹੈ). |
| gpt‑oss‑safeguard‑20b | ਘੱਟ-ਲੇਟੈਂਸੀ / ਸੀਮਿਤ ਵਾਤਾਵਰਣ | 21B ਪੈਰਾਮੀਟਰ (≈3.6B ਸਰਗਰਮ). |
ਦੋਵੇਂ ਮਾਡਲ ਬਿਨਾਂ ਕਿਸੇ ਆਰਕੀਟੈਕਚਰ ਬਦਲਾਅ ਦੇ gpt‑oss ਤੋਂ ਫਾਈਨ-ਟਿਊਨ ਕੀਤੇ ਗਏ ਹਨ. ਉਹ gpt‑oss ਵਾਲਾ ਹੀ ਚੈਟ ਟੈਂਪਲੇਟ ਵਰਤਦੇ ਹਨ; ਤੁਸੀਂ ਆਪਣਾ ਮੌਜੂਦਾ ਸੈਟਅਪ ਰੱਖ ਸਕਦੇ ਹੋ. ਸਿਫਾਰਸ਼ੀ ਪ੍ਰੌੰਪਟਿੰਗ ਪੈਟਰਨ ਇਹ ਹੈ ਕਿ ਆਪਣੀ ਨੀਤੀ ਡਿਵੈਲਪਰ ਸੁਨੇਹੇ ਵਿੱਚ ਅਤੇ ਮੁਲਾਂਕਣ ਲਈ ਸਮੱਗਰੀ ਯੂਜ਼ਰ ਸੁਨੇਹੇ ਵਿੱਚ ਰੱਖੋ.
ਸਹਾਇਤਾ ਅਤੇ ਕਮਿਊਨਿਟੀ
ਓਪਨ-ਵੇਟ ਡਿਪਲੌਇਮੈਂਟ ਸਵੈ-ਪ੍ਰਬੰਧਿਤ ਅਤੇ ਸਵੈ-ਸੇਵਾ ਵਾਲੀਆਂ ਹੁੰਦੀਆਂ ਹਨ. ਸਹਾਇਤਾ ਇੱਥੋਂ ਪ੍ਰਾਪਤ ਕਰੋ:
ਸਵਾਲ, ਚਰਚਾ, ਸੁਝਾਅ: ਕਮਿਊਨਿਟੀ ਨਾਲ ਜੁੜਨ ਲਈ Hugging Face ਮਾਡਲ ਪੇਜ ਵਰਤੋ.
OpenAI ਦੇ ਰੈਫਰੈਂਸ ਇਨਫਰੈਂਸ ਕੋਡ ਵਿੱਚ ਦੁਹਰਾਏ ਜਾ ਸਕਣ ਵਾਲੇ ਬੱਗ: gpt-oss GitHub ਰਿਪੋ 'ਤੇ ਇਸ਼ੂ ਖੋਲ੍ਹੋ.
ਤੀਜੀ-ਪੱਖੀ ਰਨਟਾਈਮ ਨਾਲ ਸਮੱਸਿਆਵਾਂ (ਉਦਾਹਰਨ ਲਈ, vLLM, Ollama, llama.cpp): ਸੰਬੰਧਿਤ ਪ੍ਰੋਜੈਕਟ ਦੇ ਇਸ਼ੂ ਟ੍ਰੈਕਰ, ਫੋਰਮਾਂ ਜਾਂ ਸਹਾਇਤਾ ਪ੍ਰਕਿਰਿਆ ਦੀ ਵਰਤੋਂ ਕਰੋ.
OpenAI ਕਿਸੇ ਵੀ ਸਵੈ-ਹੋਸਟ ਕੀਤੇ ਜਾਂ ਤੀਜੀ-ਪੱਖੀ-ਹੋਸਟ ਕੀਤੇ ਓਪਨ-ਵੇਟ ਸੈਟਅਪਾਂ, ਸੰਰਚਨਾਵਾਂ, ਵਾਤਾਵਰਣਾਂ ਜਾਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਸਹਾਇਤਾ, ਹੱਥੋਂ ਇੰਪਲੀਮੈਂਟੇਸ਼ਨ ਜਾਂ ਡੀਬੱਗਿੰਗ ਸਹਾਇਤਾ ਪ੍ਰਦਾਨ ਨਹੀਂ ਕਰਦਾ.
ਅਸੀਂ ROOST Model Community (RMC) ਸਮੇਤ, ਓਪਨ ਸੁਰੱਖਿਆ ਟੂਲਿੰਗ ਨੂੰ ਸੁਧਾਰਣ ਲਈ ਕਮਿਊਨਿਟੀ ਨਾਲ ਲਗਾਤਾਰ ਦੁਹਰਾਉਂਦੇ ਰਹਾਂਗੇ. RMC ਸੁਰੱਖਿਆ ਪ੍ਰੈਕਟੀਸ਼ਨਰਾਂ ਅਤੇ ਖੋਜਕਰਤਿਆਂ ਨੂੰ ਇਕੱਠਾ ਕਰਦਾ ਹੈ ਤਾਂ ਜੋ ਸੁਰੱਖਿਆ ਵਰਕਫਲੋਜ਼ ਵਿੱਚ ਓਪਨ ਸੋਰਸ AI ਮਾਡਲਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਲਈ ਸਰਵੋਤਮ ਅਭਿਆਸ ਸਾਂਝੇ ਕੀਤੇ ਜਾ ਸਕਣ, ਜਿਸ ਵਿੱਚ ਮੁਲਾਂਕਣ ਨਤੀਜੇ ਅਤੇ ਮਾਡਲ ਫੀਡਬੈਕ ਵੀ ਸ਼ਾਮਲ ਹਨ. ਇਸ ਭਾਈਵਾਲੀ ਬਾਰੇ ਹੋਰ ਜਾਣਨ ਅਤੇ ਸ਼ਾਮਲ ਹੋਣ ਦੇ ਤਰੀਕੇ ਲਈ RMC GitHub ਰਿਪੋ 'ਤੇ ਜਾਓ.
ਸਹਾਇਤਾ ਅਤੇ ਕਮਿਊਨਿਟੀ
ਓਪਨ-ਵੇਟ ਡਿਪਲੌਇਮੈਂਟ ਸਵੈ-ਪ੍ਰਬੰਧਿਤ ਅਤੇ ਸਵੈ-ਸੇਵਾ ਵਾਲੀਆਂ ਹੁੰਦੀਆਂ ਹਨ. ਸਹਾਇਤਾ ਇੱਥੋਂ ਪ੍ਰਾਪਤ ਕਰੋ:
ਸਵਾਲ, ਚਰਚਾ, ਸੁਝਾਅ: ਕਮਿਊਨਿਟੀ ਨਾਲ ਜੁੜਨ ਲਈ Hugging Face ਮਾਡਲ ਪੇਜ ਵਰਤੋ.
OpenAI ਦੇ ਰੈਫਰੈਂਸ ਇਨਫਰੈਂਸ ਕੋਡ ਵਿੱਚ ਦੁਹਰਾਏ ਜਾ ਸਕਣ ਵਾਲੇ ਬੱਗ: gpt-oss GitHub ਰਿਪੋ 'ਤੇ ਇਸ਼ੂ ਖੋਲ੍ਹੋ.
ਤੀਜੀ-ਪੱਖੀ ਰਨਟਾਈਮ ਨਾਲ ਸਮੱਸਿਆਵਾਂ (ਉਦਾਹਰਨ ਲਈ, vLLM, Ollama, llama.cpp): ਸੰਬੰਧਿਤ ਪ੍ਰੋਜੈਕਟ ਦੇ ਇਸ਼ੂ ਟ੍ਰੈਕਰ, ਫੋਰਮਾਂ ਜਾਂ ਸਹਾਇਤਾ ਪ੍ਰਕਿਰਿਆ ਦੀ ਵਰਤੋਂ ਕਰੋ.
OpenAI ਕਿਸੇ ਵੀ ਸਵੈ-ਹੋਸਟ ਕੀਤੇ ਜਾਂ ਤੀਜੀ-ਪੱਖੀ-ਹੋਸਟ ਕੀਤੇ ਓਪਨ-ਵੇਟ ਸੈਟਅਪਾਂ, ਸੰਰਚਨਾਵਾਂ, ਵਾਤਾਵਰਣਾਂ ਜਾਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਸਹਾਇਤਾ, ਹੱਥੋਂ ਇੰਪਲੀਮੈਂਟੇਸ਼ਨ ਜਾਂ ਡੀਬੱਗਿੰਗ ਸਹਾਇਤਾ ਪ੍ਰਦਾਨ ਨਹੀਂ ਕਰਦਾ.
ਪਰਦੇਦਾਰੀ ਅਤੇ ਸੁਰੱਖਿਆ
ਪਰਦੇਦਾਰੀ ਅਤੇ ਡਾਟਾ
ਇਹ ਮਾਡਲ ਤੁਹਾਡੇ ਕੰਟਰੋਲ ਵਾਲੇ ਇਨਫ੍ਰਾਸਟ੍ਰਕਚਰ 'ਤੇ ਚੱਲਣ ਲਈ ਡਿਜ਼ਾਈਨ ਕੀਤੇ ਗਏ ਹਨ (ਆਨ-ਪ੍ਰੈਮਿਸਿਜ਼ ਜਾਂ ਤੁਹਾਡੇ ਕਲਾਊਡ ਜਾਂ ਹੋਸਟਿੰਗ ਪਾਰਟਨਰ ਵਿੱਚ). OpenAI ਇਨ੍ਹਾਂ ਸਵੈ-ਹੋਸਟ ਕੀਤੇ ਮਾਡਲਾਂ ਨੂੰ ਤੁਹਾਡੇ ਵੱਲੋਂ ਭੇਜੇ ਡਾਟਾ ਨੂੰ ਪ੍ਰਾਪਤ ਜਾਂ ਪ੍ਰੋਸੈਸ ਨਹੀਂ ਕਰਦਾ, ਜਦੋਂ ਤੱਕ ਤੁਸੀਂ ਇਸਨੂੰ OpenAI ਨਾਲ ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਸਾਂਝਾ ਨਹੀਂ ਕਰਦੇ, ਜਾਂ ਸਾਡੇ ਕਿਸੇ ਮੈਨੇਜਡ ਹੋਸਟਿੰਗ ਪਾਰਟਨਰ ਦੀ ਵਰਤੋਂ ਨਹੀਂ ਕਰਦੇ.
ਸੁਰੱਖਿਆ
ਇਨ੍ਹਾਂ ਮਾਡਲਾਂ ਦੀ ਵਿਸਤ੍ਰਿਤ ਸੁਰੱਖਿਆ ਟ੍ਰੇਨਿੰਗ ਅਤੇ ਟੈਸਟਿੰਗ ਹੋਈ ਹੈ. ਹੋਰ ਵੇਰਵਿਆਂ ਲਈ, ਸਾਡਾ ਮਾਡਲ ਕਾਰਡ ਅਤੇ ਤਕਨੀਕੀ ਰਿਪੋਰਟ ਵੇਖੋ.
ਸਮੱਗਰੀ ਉਲੰਘਣਾਵਾਂ ਦੀ ਰਿਪੋਰਟ ਕਰਨਾ
ਜੇ ਤੁਹਾਨੂੰ ਲੱਗਦਾ ਹੈ ਕਿ gpt‑oss ਮਾਡਲਾਂ ਨਾਲ ਬਣਾਈ ਸਮੱਗਰੀ ਸਾਡੀਆਂ ਨੀਤੀਆਂ ਦੀ ਉਲੰਘਣਾ ਕਰਦੀ ਹੈ, ਤਾਂ ਤੁਸੀਂ ਇਸ ਦੀ ਰਿਪੋਰਟ ਸਾਡੇ Report Content ਫਾਰਮ ਰਾਹੀਂ ਕਰ ਸਕਦੇ ਹੋ. ਕਿਰਪਾ ਕਰਕੇ ਸਾਡੀ ਟੀਮ ਨੂੰ ਤੁਹਾਡੀ ਸਬਮਿਸ਼ਨ ਦੀ ਸਮੀਖਿਆ ਕਰਨ ਵਿੱਚ ਮਦਦ ਲਈ ਜਿੰਨਾ ਸੰਭਵ ਹੋ ਸਕੇ ਉਤਨਾ ਵੇਰਵਾ ਦਿਓ.
ਅਕਸਰ ਪੁੱਛੇ ਜਾਣ ਵਾਲੇ ਸਵਾਲ
ਕੀ ਇਹ ਮਾਡਲ ਮੁਫ਼ਤ ਹਨ?
gpt-oss ਮਾਡਲ ਵੇਟ Apache 2.0 ਲਾਇਸੰਸ ਅਤੇ gpt-oss ਵਰਤੋਂ ਨੀਤੀ ਅਧੀਨ ਡਾਊਨਲੋਡ ਅਤੇ ਵਰਤੋਂ ਲਈ ਮੁਫ਼ਤ ਹਨ. ਹਾਲਾਂਕਿ, ਉਨ੍ਹਾਂ ਨੂੰ ਚਲਾਉਣ ਨਾਲ ਜੁੜੀਆਂ ਕਿਸੇ ਵੀ ਲਾਗਤਾਂ ਲਈ ਤੁਸੀਂ ਜ਼ਿੰਮੇਵਾਰ ਹੋ — ਜਿਵੇਂ ਕੰਪਿਊਟ, ਸਟੋਰੇਜ ਜਾਂ ਤੀਜੀ-ਪੱਖੀ ਹੋਸਟਿੰਗ ਫੀਸਾਂ. ਉਨ੍ਹਾਂ ਦੀ ਕੀਮਤ ਤੁਹਾਡੇ ਚੁਣੇ ਇਨਫ੍ਰਾਸਟ੍ਰਕਚਰ ਜਾਂ ਪ੍ਰਦਾਤਾ 'ਤੇ ਨਿਰਭਰ ਕਰੇਗੀ.
ਕੀ ਇਹ ਮਾਡਲ “ਓਪਨ ਸੋਰਸ” ਹਨ?
ਅਸੀਂ ਓਪਨ ਮਾਡਲ ਜਾਂ ਓਪਨ-ਵੇਟ ਸ਼ਬਦ ਇਹ ਦਰਸਾਉਣ ਲਈ ਵਰਤਦੇ ਹਾਂ ਕਿ ਟ੍ਰੇਨ ਕੀਤੇ ਵੇਟ ਪਰਮਿਸਿਵ Apache 2.0 ਲਾਇਸੰਸ ਅਤੇ gpt-oss ਵਰਤੋਂ ਨੀਤੀ ਅਧੀਨ ਜਨਤਕ ਤੌਰ 'ਤੇ ਉਪਲਬਧ ਹਨ. ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਤੁਸੀਂ ਮਾਡਲ ਡਾਊਨਲੋਡ ਕਰ ਸਕਦੇ ਹੋ, ਉਨ੍ਹਾਂ ਨੂੰ ਆਪਣੇ ਇਨਫ੍ਰਾਸਟ੍ਰਕਚਰ 'ਤੇ ਜਾਂ ਸਮਰਥਿਤ ਹੋਸਟਿੰਗ ਫਰੇਮਵਰਕਾਂ ਨਾਲ ਚਲਾ ਸਕਦੇ ਹੋ, ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਕਸਟਮਾਈਜ਼ ਜਾਂ ਫਾਈਨ-ਟਿਊਨ ਕਰ ਸਕਦੇ ਹੋ.
ਓਪਨ ਮਾਡਲ ਡਿਵੈਲਪਰਾਂ ਅਤੇ ਸੰਸਥਾਵਾਂ ਨੂੰ ਵਧੇਰੇ ਕੰਟਰੋਲ ਅਤੇ ਲਚਕਤਾ ਦਿੰਦੇ ਹਨ. ਤੁਸੀਂ ਹੋਸਟ ਕਰਨ ਦੀ ਥਾਂ ਚੁਣ ਸਕਦੇ ਹੋ, ਖਾਸ ਵਰਤੋਂ ਮਾਮਲਿਆਂ ਲਈ ਮਾਡਲਾਂ ਨੂੰ ਢਾਲ ਸਕਦੇ ਹੋ, ਅਤੇ ਐਸੇ ਲਾਇਸੰਸਿੰਗ ਤੋਂ ਲਾਭ ਲੈ ਸਕਦੇ ਹੋ ਜੋ ਵਿਆਪਕ ਵਰਤੋਂ, ਸੋਧ ਅਤੇ ਮੁੜ-ਵੰਡ ਦੀ ਆਗਿਆ ਦਿੰਦੀ ਹੈ. ਹਾਲਾਂਕਿ ਟ੍ਰੇਨ ਕੀਤੇ ਵੇਟ ਓਪਨ ਹਨ, ਕੁਝ ਆਲੇ-ਦੁਆਲੇ ਦਾ ਇਨਫ੍ਰਾਸਟ੍ਰਕਚਰ ਜਾਂ ਟੂਲਿੰਗ ਆਪਣੇ ਪ੍ਰਦਾਤਾਵਾਂ ਦੀ ਮਾਲਕੀ ਰਹਿ ਸਕਦੀ ਹੈ.
ਕੀ ਮੈਂ ਇਨ੍ਹਾਂ ਮਾਡਲਾਂ ਨੂੰ OpenAI API ਜਾਂ ChatGPT ਰਾਹੀਂ ਐਕਸੈੱਸ ਕਰ ਸਕਦਾ ਹਾਂ?
ਨਹੀਂ. ਇਹ ਮਾਡਲ OpenAI API ਵਿੱਚ ਸਰਵ ਨਹੀਂ ਕੀਤੇ ਜਾਂਦੇ ਅਤੇ ChatGPT ਵਿੱਚ ਦਿਖਾਈ ਨਹੀਂ ਦਿੰਦੇ.
ਕੀ ਮੈਂ ਮਾਡਲਾਂ ਨੂੰ ਫਾਈਨ-ਟਿਊਨ ਕਰ ਸਕਦਾ ਹਾਂ?
ਹਾਂ. ਤੁਸੀਂ ਓਪਨ-ਸੋਰਸ ਟੂਲਾਂ ਅਤੇ ਆਪਣੇ ਪਸੰਦੀਦਾ ਇਨਫ੍ਰਾਸਟ੍ਰਕਚਰ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਫਾਈਨ-ਟਿਊਨ ਕਰ ਸਕਦੇ ਹੋ. ਅਸੀਂ ਇਨ੍ਹਾਂ ਮਾਡਲਾਂ ਲਈ OpenAI APIs ਰਾਹੀਂ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਦੀ ਪੇਸ਼ਕਸ਼ ਨਹੀਂ ਕਰਦੇ.
ਕੀ ਓਪਨ-ਵੇਟ ਮਾਡਲ API ਵਰਤਣ ਨਾਲੋਂ ਸਸਤੇ ਹਨ?
ਲਾਗਤਾਂ ਇਨਫ੍ਰਾਸਟ੍ਰਕਚਰ, ਵਰਕਲੋਡ ਅਤੇ ਓਪਰੇਸ਼ਨਲ ਪਹੁੰਚ ਦੇ ਆਧਾਰ 'ਤੇ ਵੱਖ-ਵੱਖ ਹੁੰਦੀਆਂ ਹਨ. ਕੁਝ ਮਾਮਲਿਆਂ ਵਿੱਚ ਸਵੈ-ਹੋਸਟਿੰਗ ਸਸਤੀ ਹੋ ਸਕਦੀ ਹੈ, ਜਦਕਿ ਹੋਸਟਿੰਗ, ਰਖ-ਰਖਾਅ ਅਤੇ ਅੱਪਗ੍ਰੇਡਾਂ ਨੂੰ ਧਿਆਨ ਵਿੱਚ ਰੱਖਣ 'ਤੇ ਸਾਡਾ API Platform ਹੋਰ ਕੁਸ਼ਲ ਹੋ ਸਕਦਾ ਹੈ.
ਇਹ ਮਾਡਲ ਕਿਹੜੀਆਂ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨੂੰ ਸਮਰਥਨ ਦਿੰਦੇ ਹਨ?
ਇਹ ਮਾਡਲ ਇਸ ਵੇਲੇ ਕੇਵਲ-ਟੈਕਸਟ ਰੀਜ਼ਨਿੰਗ ਮਾਡਲ ਹਨ. ਆਮ ਰਨਟਾਈਮ ਸਟ੍ਰੀਮਿੰਗ, ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ ਅਤੇ ਸਟਰੱਕਚਰਡ ਆਉਟਪੁੱਟਸ ਨੂੰ ਸਮਰਥਨ ਦਿੰਦੇ ਹਨ. ਸਹੀ ਸਮਰੱਥਾਵਾਂ ਲਈ ਆਪਣੇ ਰਨਟਾਈਮ ਦੇ ਦਸਤਾਵੇਜ਼ਾਂ ਦੀ ਜਾਂਚ ਕਰੋ.
ਇਹ ModAPI ਤੋਂ ਕਿਵੇਂ ਵੱਖਰਾ ਹੈ?
ਇਹ ਇੱਕ ਬਹੁਤ ਸਮਰੱਥ ਰੀਜ਼ਨਿੰਗ ਮਾਡਲ ਹੈ ਜੋ ਤੁਹਾਨੂੰ ਆਪਣੀ ਨੀਤੀ ਲਿਆਉਣ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ. ਇਹ ModAPI ਨਾਲ ਮਿਲ ਕੇ ਕੰਮ ਕਰ ਸਕਦਾ ਹੈ, ਪਰ ਘੱਟ ਲੇਟੈਂਸੀ ਵਾਲੇ ਵਰਤੋਂ ਮਾਮਲਿਆਂ ਲਈ ਸ਼ਾਇਦ ਬਦਲ ਨਹੀਂ ਹੈ.