കുറിപ്പ്: ഈ ലേഖനം ഉയർന്ന തലത്തിലുള്ള ഒരു അവലോകനം നൽകുന്നു. സാങ്കേതിക സജ്ജീകരണത്തിനുള്ള വിവരങ്ങൾ gpt-oss വെബ്സൈറ്റിലും, GitHub-ലും, Hugging Face-ലും, OpenAI Cookbooks-ലും ലഭ്യമാണ്.
അവലോകനം
രണ്ട് ഓപ്പൺ-വെയ്റ്റ് റീസണിംഗ് മോഡലുകൾ അവതരിപ്പിക്കുന്നു: gpt‑oss‑120b, gpt‑oss‑20b. നിങ്ങൾ നിയന്ത്രിക്കുന്ന ഇൻഫ്രാസ്ട്രക്ചറിലോ ഹോസ്റ്റിംഗ് ദാതാക്കളിലൂടെയോ അവ പ്രവർത്തിക്കും.
കുറിപ്പ്: ഈ മോഡലുകൾ OpenAI API വഴിയായി സർവ് ചെയ്യപ്പെടുന്നില്ല, കൂടാതെ ChatGPTയിൽ ലഭ്യവുമല്ല.
ഓപ്പൺ-വെയ്റ്റുകൾ എന്തുകൊണ്ട്
തിരഞ്ഞെടുപ്പും നിയന്ത്രണവും: മോഡലുകൾ ഓൺ-പ്രിമൈസിലോ നിങ്ങളുടെ സ്വകാര്യ ക്ലൗഡിലോ പ്രവർത്തിപ്പിക്കുക, ഡാറ്റ റെസിഡൻസി നിലനിർത്തുക, നിങ്ങളുടെ ആവശ്യങ്ങൾക്ക് പ്രകടനം അനുയോജ്യമാക്കുക.
കസ്റ്റമൈസേഷൻ: നിങ്ങൾക്ക് ഇഷ്ടമുള്ള ഓപ്പൺ ടൂളിംഗ് ഉപയോഗിച്ച് മോഡലുകൾ ഫൈൻ-ട്യൂൺ ചെയ്യുകയോ മാറ്റിച്ചേര്ക്കുകയോ ചെയ്യുക.
ലഭ്യതയും ലൈസൻസിംഗും
ലൈസൻസ്: Apache 2.0 വാണിജ്യ ഉപയോഗം ഉൾപ്പെടെ വിപുലമായ ഉപയോഗം, മാറ്റം, പുനർവിതരണം എന്നിവ അനുവദിക്കുന്നു (ഞങ്ങളുടെ gpt-oss ഉപയോഗ നയത്തിന് വിധേയമായി).
സർവിംഗ്: OpenAI API വഴി ലഭ്യമല്ല, അതിനാൽ API വിലയും നിരക്ക് പരിധികളും ബാധകമല്ല.
അനുയോജ്യത: vLLM, Ollama, llama.cpp പോലുള്ള സാധാരണ ഓപ്പൺ ഇൻഫറൻസ് സ്റ്റാക്കുകളിലും ക്ലൗഡിലോ സ്വയം മാനേജ് ചെയ്യുന്ന GPU എൻവയോൺമെന്റുകളിലോ പ്രവർത്തിപ്പിക്കാം.
ആരംഭിക്കാം
മോഡൽ വെയ്റ്റുകളും അനുബന്ധ വിഭവങ്ങളും ലഭിക്കാൻ നിങ്ങൾക്ക് ഇവ ചെയ്യാം:
ഒരു അവലോകനത്തിനും നേരിട്ടുള്ള ലിങ്കുകൾക്കുമായി gpt-oss വെബ്സൈറ്റ് സന്ദർശിക്കുക.
ഹഗ്ഗിങ് ഫേസ് ശേഖരത്തിൽ നിന്ന് വെയ്റ്റുകൾ ഡൗൺലോഡ് ചെയ്യുക. രണ്ട് മോഡലുകളും കണ്ടെത്താനും ഉപയോഗ ഉദാഹരണങ്ങൾ കാണാനും ആവശ്യമെങ്കിൽ ഹഗ്ഗിങ് ഫേസിന്റെ സേവനങ്ങളിലൂടെ നേരിട്ട് ഇൻഫറൻസ് പ്രവർത്തിപ്പിക്കാനും കഴിയുന്ന ഒരു സമൂഹകേന്ദ്രമാണിത്.
ഇൻഫറൻസിനുള്ള മാതൃകാ കോഡിനായി ഞങ്ങളുടെ ഗിറ്റ്ഹബ് സംഭരണി ഉപയോഗിക്കുക.
Ollama, vLLM, Transformers എന്നിവ പോലുള്ള പിന്തുണയുള്ള റൺടൈമുകളിൽ സജ്ജീകരിക്കുന്നതിന് OpenAI പാചകക്കുറിപ്പുകളിലെ മാർഗനിർദേശങ്ങൾ ഉപയോഗിക്കുക. പ്രാദേശികമായി പ്രവർത്തിപ്പിക്കുന്നതിനും പൊതുവായ റൺടൈമുകൾ ഉപയോഗിക്കുന്നതിനും പിന്തുണയുള്ളിടത്ത് gpt-oss മോഡലുകൾ സൂക്ഷ്മമായി ക്രമീകരിക്കുന്നതിനുമുള്ള ഘട്ടംഘട്ടമായ നിർദേശങ്ങളും പാചകക്കുറിപ്പുകളിൽ ഉൾപ്പെടുന്നു.
gpt‑oss‑safeguard (ഗവേഷണത്തിനായുള്ള പ്രാരംഭ പതിപ്പ്)
gpt‑oss‑safeguard എന്നത് gpt‑oss അടിസ്ഥാനമാക്കി നിർമിച്ച, തുറന്ന വെയ്റ്റുകളുള്ള രണ്ട് സുരക്ഷാ റീസണിംഗ് മോഡലുകളാണ്. നിങ്ങളുടെ നിയന്ത്രണത്തിലുള്ള അടിസ്ഥാനസൗകര്യത്തിൽ പ്രവർത്തിപ്പിക്കുന്ന നയം അടിസ്ഥാനമാക്കിയുള്ള സുരക്ഷാ വർഗീകരണത്തിനും അനുബന്ധ വിശ്വാസ & സുരക്ഷാ പ്രവർത്തനങ്ങൾക്കുമായാണ് അവ രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത്. മറ്റ് gpt‑oss മോഡലുകളിലേതുപോലെ, ഈ വെയ്റ്റുകൾ OpenAI API വഴിയോ ChatGPT വഴിയോ ലഭ്യമാക്കുന്നില്ല.
റഫറൻസ് സ്ട്രക്ചേഡ് ഔട്ട്പുട്ട് സ്കീമകളോടുകൂടിയ ടെക്സ്റ്റ് മാത്രമുള്ള മോഡലുകൾ (ഉദാ., നയവിധി, ന്യായീകരണം).
നിങ്ങളുടെ സ്വന്തം നയം ഉപയോഗിക്കുക: മോഡൽ നിങ്ങളുടെ രേഖാമൂലമുള്ള നയം വ്യാഖ്യാനിക്കുന്നതിനാൽ, കുറഞ്ഞ എൻജിനീയറിങ് ഉപയോഗിച്ച് വിവിധ ഉൽപ്പന്നങ്ങളിൽ അത് പ്രയോഗിക്കാനാകും.
റീസണിംഗ് അടിസ്ഥാനമാക്കിയുള്ള തീരുമാനങ്ങൾ: പിഴവുകൾ കണ്ടെത്താനും ഓഡിറ്റുകൾ നടത്താനും സഹായിക്കുന്ന ഐച്ഛിക റീസണിംഗ് രേഖകൾ (ഡെവലപ്പർമാർക്കും സുരക്ഷാ വിദഗ്ധർക്കുമായി ഉദ്ദേശിച്ചത്; അന്തിമ ഉപയോക്താക്കൾക്ക് പ്രദർശിപ്പിക്കാനുള്ളതല്ല).
ക്രമീകരിക്കാവുന്ന റീസണിംഗ് തീവ്രത: കാലതാമസവും വിശകലനത്തിന്റെ ആഴവും തമ്മിൽ സന്തുലനം പാലിക്കാൻ കുറഞ്ഞത് / മാധ്യമം / ഉയർന്നത് എന്നിവയിൽ ഒന്ന് തിരഞ്ഞെടുക്കുക.
ലൈസൻസ്: Apache 2.0 (ചുവടെയുള്ള ലഭ്യതയും ലൈസൻസിങ്ങും കാണുക).
LLM-കൾക്കായുള്ള ഇൻപുട്ട്/ഔട്ട്പുട്ട് ഫിൽട്ടറിങ്, ഓൺലൈൻ ഉള്ളടക്ക ലേബലിങ്, ഓഫ്ലൈൻ ബാച്ച് ലേബലിങ് അല്ലെങ്കിൽ അവലോകന പ്രവർത്തനക്രമങ്ങൾ എന്നിവയ്ക്ക് gpt‑oss‑safeguard അനുയോജ്യമാണ്. പൊതുവായ ആപ്ലിക്കേഷനുകൾക്ക് (ചാറ്റ്, ഏജന്റുകൾ തുടങ്ങിയവ) അടിസ്ഥാന gpt‑oss മോഡലുകൾ ഉപയോഗിക്കാൻ ഞങ്ങൾ ശുപാർശ ചെയ്യുന്നു.
നിങ്ങളുടെ ആവശ്യങ്ങൾക്കനുസരിച്ച് സ്കീമ ക്രമീകരിക്കാം. പ്രോംപ്റ്റുകൾ തയ്യാറാക്കുന്നതിനുള്ള മാർഗനിർദേശങ്ങൾക്കും ഉദാഹരണങ്ങൾക്കും OpenAI കുക്ക്ബുക്ക് കാണുക.
മോഡൽ വകഭേദങ്ങളും വലുപ്പവും
| മോഡൽ | ഉദ്ദേശിച്ച ഉപയോഗം | കുറിപ്പുകൾ |
|---|---|---|
| gpt‑oss‑safeguard‑120b | തത്സമയ ഉപയോഗത്തിനുള്ള, ഉയർന്ന ശേഷിയുള്ള സുരക്ഷാ റീസണിംഗ് | 117B പാരാമീറ്ററുകൾ (≈5.1B സജീവം). ഒരു ഒറ്റ 80 GB GPU -യിൽ അനുയോജ്യമാകുന്ന രീതിയിൽ രൂപകൽപ്പന ചെയ്തിരിക്കുന്നു (ഉദാ., NVIDIA H100; AMD MI300X പോലുള്ള വലിയ മെമ്മറിയുള്ള GPU-കളിലും പ്രവർത്തിക്കുന്നു). |
| gpt‑oss‑safeguard‑20b | കുറഞ്ഞ ലേറ്റൻസി / നിയന്ത്രിത പരിതസ്ഥിതികൾ | 21B പാരാമീറ്ററുകൾ (≈3.6B സജീവം). |
രണ്ടും ആർക്കിടെക്ചർ മാറ്റമില്ലാതെ gpt‑oss-ൽ നിന്ന് ഫൈൻ-ട്യൂൺ ചെയ്ത മോഡലുകളാണ്. അവ gpt‑oss ഉപയോഗിക്കുന്ന അതേ ചാറ്റ് ടെംപ്ലേറ്റ് ഉപയോഗിക്കുന്നു; നിങ്ങളുടെ നിലവിലെ സജ്ജീകരണം തുടരാം. നിങ്ങളുടെ നയം ഒരു ഡെവലപ്പർ സന്ദേശത്തിലും വിലയിരുത്തേണ്ട ഉള്ളടക്കം ഒരു ഉപയോക്തൃ സന്ദേശത്തിലും ഇടുന്നതാണ് ശുപാർശ ചെയ്യുന്ന പ്രോംപ്റ്റിംഗ് മാതൃക.
പിന്തുണയും കമ്മ്യൂണിറ്റിയും
ഓപ്പൺ-വെയ്റ്റ് ഡിപ്ലോയ്മെന്റുകൾ സ്വയം മാനേജ് ചെയ്യുകയും സ്വയം സർവീസ് ചെയ്യുകയും ചെയ്യേണ്ടവയാണ്. പിന്തുണ ലഭിക്കേണ്ട ഇടങ്ങൾ ഇവയാണ്:
ചോദ്യങ്ങൾ, ചർച്ച, നിർദ്ദേശങ്ങൾ: കമ്മ്യൂണിറ്റിയുമായി ഇടപഴകാൻ Hugging Face മോഡൽ പേജുകൾ ഉപയോഗിക്കുക.
OpenAI-യുടെ റഫറൻസ് ഇൻഫറൻസ് കോഡിലെ പുനരുത്പാദിപ്പിക്കാവുന്ന ബഗുകൾ: gpt-oss GitHub റിപ്പോയിൽ ഒരു ഇഷ്യൂ തുറക്കുക.
മൂന്നാം കക്ഷി റൺടൈമുമായി ബന്ധപ്പെട്ട പ്രശ്നങ്ങൾ (ഉദാ., vLLM, Ollama, llama.cpp): ബന്ധപ്പെട്ട പ്രോജക്റ്റിന്റെ ഇഷ്യൂ ട്രാക്കർ, ഫോറങ്ങൾ, അല്ലെങ്കിൽ പിന്തുണാ പ്രക്രിയ ഉപയോഗിക്കുക.
സ്വയം ഹോസ്റ്റ് ചെയ്തതോ മൂന്നാം കക്ഷി ഹോസ്റ്റ് ചെയ്തതോ ആയ ഏതെങ്കിലും ഓപ്പൺ-വെയ്റ്റ് സജ്ജീകരണങ്ങൾ, കോൺഫിഗറേഷനുകൾ, എൻവയോൺമെന്റുകൾ, അല്ലെങ്കിൽ ആപ്ലിക്കേഷനുകൾക്കായി OpenAI സഹായം, നേരിട്ടുള്ള ഇംപ്ലിമെന്റേഷൻ, അല്ലെങ്കിൽ ഡീബഗ്ഗിംഗ് പിന്തുണ നൽകുന്നില്ല.
ROOST Model Community (RMC) വഴിയും ഉൾപ്പെടെ, ഓപ്പൺ സുരക്ഷാ ടൂളിംഗ് മെച്ചപ്പെടുത്താൻ ഞങ്ങൾ കമ്മ്യൂണിറ്റിയുമായി തുടർച്ചയായി ആവർത്തിച്ച് പ്രവർത്തിക്കും. മൂല്യനിർണ്ണയ ഫലങ്ങളും മോഡൽ ഫീഡ്ബാക്കും ഉൾപ്പെടെ, സുരക്ഷാ വർക്ക്ഫ്ലോകളിലേക്ക് ഓപ്പൺ സോഴ്സ് AI മോഡലുകൾ നടപ്പിലാക്കുന്നതിനുള്ള മികച്ച പ്രാക്ടീസുകൾ പങ്കിടാൻ RMC സുരക്ഷാ പ്രാക്ടീഷണർമാരെയും ഗവേഷകരെയും ഒന്നിപ്പിക്കുന്നു. ഈ പങ്കാളിത്തത്തെക്കുറിച്ച് കൂടുതൽ അറിയാനും എങ്ങനെ പങ്കെടുക്കാമെന്ന് മനസ്സിലാക്കാനും RMC GitHub റിപ്പോ സന്ദർശിക്കുക.
പിന്തുണയും കമ്മ്യൂണിറ്റിയും
ഓപ്പൺ-വെയ്റ്റ് ഡിപ്ലോയ്മെന്റുകൾ സ്വയം മാനേജ് ചെയ്യുകയും സ്വയം സർവീസ് ചെയ്യുകയും ചെയ്യേണ്ടവയാണ്. പിന്തുണ ലഭിക്കേണ്ട ഇടങ്ങൾ ഇവയാണ്:
ചോദ്യങ്ങൾ, ചർച്ച, നിർദ്ദേശങ്ങൾ: കമ്മ്യൂണിറ്റിയുമായി ഇടപഴകാൻ Hugging Face മോഡൽ പേജുകൾ ഉപയോഗിക്കുക.
OpenAI-യുടെ റഫറൻസ് ഇൻഫറൻസ് കോഡിലെ പുനരുത്പാദിപ്പിക്കാവുന്ന ബഗുകൾ: gpt-oss GitHub റിപ്പോയിൽ ഒരു ഇഷ്യൂ തുറക്കുക.
മൂന്നാം കക്ഷി റൺടൈമുമായി ബന്ധപ്പെട്ട പ്രശ്നങ്ങൾ (ഉദാ., vLLM, Ollama, llama.cpp): ബന്ധപ്പെട്ട പ്രോജക്റ്റിന്റെ ഇഷ്യൂ ട്രാക്കർ, ഫോറങ്ങൾ, അല്ലെങ്കിൽ പിന്തുണാ പ്രക്രിയ ഉപയോഗിക്കുക.
സ്വയം ഹോസ്റ്റ് ചെയ്തതോ മൂന്നാം കക്ഷി ഹോസ്റ്റ് ചെയ്തതോ ആയ ഏതെങ്കിലും ഓപ്പൺ-വെയ്റ്റ് സജ്ജീകരണങ്ങൾ, കോൺഫിഗറേഷനുകൾ, എൻവയോൺമെന്റുകൾ, അല്ലെങ്കിൽ ആപ്ലിക്കേഷനുകൾക്കായി OpenAI സഹായം, നേരിട്ടുള്ള ഇംപ്ലിമെന്റേഷൻ, അല്ലെങ്കിൽ ഡീബഗ്ഗിംഗ് പിന്തുണ നൽകുന്നില്ല.
സ്വകാര്യതയും സുരക്ഷയും
സ്വകാര്യതയും ഡാറ്റയും
നിങ്ങൾ നിയന്ത്രിക്കുന്ന ഇൻഫ്രാസ്ട്രക്ചറിൽ (ഓൺ-പ്രിമൈസിലോ നിങ്ങളുടെ ക്ലൗഡിലോ ഹോസ്റ്റിംഗ് പങ്കാളിയിലോ) പ്രവർത്തിക്കാനാണ് ഈ മോഡലുകൾ രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത്. നിങ്ങൾ OpenAI-യുമായി വ്യക്തമായി പങ്കിടുകയോ, ഞങ്ങളുടെ മാനേജ് ചെയ്യുന്ന ഹോസ്റ്റിംഗ് പങ്കാളികളിൽ ഒരാളെ ഉപയോഗിക്കുകയോ ചെയ്തില്ലെങ്കിൽ, ഈ സ്വയം ഹോസ്റ്റ് ചെയ്ത മോഡലുകളിലേക്ക് നിങ്ങൾ അയക്കുന്ന ഡാറ്റ OpenAI സ്വീകരിക്കുകയോ പ്രോസസ്സ് ചെയ്യുകയോ ചെയ്യില്ല.
സുരക്ഷ
ഈ മോഡലുകൾ വിപുലമായ സുരക്ഷാ പരിശീലനവും പരിശോധനയും കടന്നുപോയിട്ടുണ്ട്. കൂടുതൽ വിവരങ്ങൾക്ക്, ഞങ്ങളുടെ മോഡൽ കാർഡ്യും സാങ്കേതിക റിപ്പോർട്ടും കാണുക.
ഉള്ളടക്ക ലംഘനങ്ങൾ റിപ്പോർട്ട് ചെയ്യൽ
gpt‑oss മോഡലുകൾ ഉപയോഗിച്ച് സൃഷ്ടിച്ച ഉള്ളടക്കം ഞങ്ങളുടെ നയങ്ങൾ ലംഘിക്കുന്നുവെന്ന് നിങ്ങൾ വിശ്വസിക്കുന്നുവെങ്കിൽ, ഞങ്ങളുടെ ഉള്ളടക്കം റിപ്പോർട്ട് ചെയ്യുക ഫോം വഴി അത് റിപ്പോർട്ട് ചെയ്യാം. നിങ്ങളുടെ സമർപ്പണം പരിശോധിക്കാൻ ഞങ്ങളുടെ ടീമിനെ സഹായിക്കുന്നതിന് കഴിയുന്നത്ര വിശദാംശങ്ങൾ നൽകുക.
പതിവുചോദ്യങ്ങൾ
ഈ മോഡലുകൾ സൗജന്യമാണോ?
gpt-oss മോഡൽ വെയ്റ്റുകൾ Apache 2.0 ലൈസൻസിന്റെയും gpt-oss ഉപയോഗ നയത്തിന്റെയും കീഴിൽ സൗജന്യമായി ഡൗൺലോഡ് ചെയ്ത് ഉപയോഗിക്കാം. എന്നിരുന്നാലും, അവ പ്രവർത്തിപ്പിക്കുന്നതുമായി ബന്ധപ്പെട്ട ഏത് ചെലവുകൾക്കും നിങ്ങൾ ഉത്തരവാദിയാണ് — കംപ്യൂട്ട്, സംഭരണം, അല്ലെങ്കിൽ മൂന്നാം കക്ഷി ഹോസ്റ്റിംഗ് ഫീസ് പോലുള്ളവ. അവയുടെ വിലനിർണ്ണയം നിങ്ങൾ തിരഞ്ഞെടുത്ത ഇൻഫ്രാസ്ട്രക്ചറിനെയോ ദാതാവിനെയോ ആശ്രയിച്ചിരിക്കും.
ഈ മോഡലുകൾ “ഓപ്പൺ സോഴ്സ്” ആണോ?
പരിശീലിപ്പിച്ച വെയ്റ്റുകൾ അനുമതിപരമായ Apache 2.0 ലൈസൻസിനും gpt-oss ഉപയോഗ നയത്തിനും കീഴിൽ പൊതുവായി ലഭ്യമാണെന്ന് സൂചിപ്പിക്കാൻ ഞങ്ങൾ ഓപ്പൺ മോഡലുകൾ അല്ലെങ്കിൽ ഓപ്പൺ-വെയ്റ്റ് എന്ന പദം ഉപയോഗിക്കുന്നു. ഇതിന്റെ അർത്ഥം നിങ്ങൾക്ക് മോഡലുകൾ ഡൗൺലോഡ് ചെയ്യാനും, സ്വന്തം ഇൻഫ്രാസ്ട്രക്ചറിലോ പിന്തുണയുള്ള ഹോസ്റ്റിംഗ് ഫ്രെയിംവർക്കുകളിലോ പ്രവർത്തിപ്പിക്കാനും, അവ കസ്റ്റമൈസ് ചെയ്യാനോ ഫൈൻ-ട്യൂൺ ചെയ്യാനോ കഴിയും എന്നതാണ്.
ഓപ്പൺ മോഡലുകൾ ഡെവലപ്പർമാർക്കും സ്ഥാപനങ്ങൾക്കും കൂടുതൽ നിയന്ത്രണവും ഇളവും നൽകുന്നു. എവിടെ ഹോസ്റ്റ് ചെയ്യണമെന്ന് നിങ്ങൾക്ക് തിരഞ്ഞെടുക്കാം, നിർദ്ദിഷ്ട ഉപയോഗ കേസുകൾക്കായി മോഡലുകൾ മാറ്റിച്ചേര്ക്കാം, കൂടാതെ വിപുലമായ ഉപയോഗം, മാറ്റം, പുനർവിതരണം എന്നിവ അനുവദിക്കുന്ന ലൈസൻസിംഗിന്റെ ഗുണം നേടാം. പരിശീലിപ്പിച്ച വെയ്റ്റുകൾ ഓപ്പൺ ആയിരിക്കുമ്പോഴും, ചുറ്റുമുള്ള ചില ഇൻഫ്രാസ്ട്രക്ചറോ ടൂളിംഗോ അവയുടെ ദാതാക്കൾക്ക് ഉടമസ്ഥതയിലുള്ളതായിരിക്കാൻ സാധ്യതയുണ്ട്.
OpenAI API അല്ലെങ്കിൽ ChatGPT വഴി എനിക്ക് ഈ മോഡലുകൾ ആക്സസ് ചെയ്യാനാകുമോ?
ഇല്ല. ഈ മോഡലുകൾ OpenAI API-യിൽ സർവ് ചെയ്യുന്നില്ല, ChatGPT-യിൽ പ്രത്യക്ഷപ്പെടുകയും ചെയ്യുന്നില്ല.
മോഡലുകൾ ഫൈൻ-ട്യൂൺ ചെയ്യാൻ എനിക്ക് കഴിയുമോ?
അതെ. ഓപ്പൺ-സോഴ്സ് ടൂളുകളും നിങ്ങൾക്ക് ഇഷ്ടമുള്ള ഇൻഫ്രാസ്ട്രക്ചറും ഉപയോഗിച്ച് നിങ്ങൾക്ക് ഫൈൻ-ട്യൂൺ ചെയ്യാം. ഈ മോഡലുകൾക്കായി OpenAI API-കൾ വഴി ഞങ്ങൾ ഫൈൻ-ട്യൂണിംഗ് നൽകുന്നില്ല.
API ഉപയോഗിക്കുന്നതിനെക്കാൾ ഓപ്പൺ-വെയ്റ്റ് മോഡലുകൾ ചെലവ് കുറഞ്ഞതാണോ?
ഇൻഫ്രാസ്ട്രക്ചർ, വർക്ക്ലോഡ്, പ്രവർത്തന സമീപനം എന്നിവയെ ആശ്രയിച്ച് ചെലവുകൾ മാറും. ചില സാഹചര്യങ്ങളിൽ സ്വയം ഹോസ്റ്റിംഗ് ചെലവ് കുറഞ്ഞതാകാം, എന്നാൽ ഹോസ്റ്റിംഗ്, മെയിന്റനൻസ്, അപ്ഗ്രേഡുകൾ എന്നിവ കൂടി പരിഗണിക്കുമ്പോൾ ഞങ്ങളുടെ API പ്ലാറ്റ്ഫോം കൂടുതൽ കാര്യക്ഷമമായേക്കാം.
ഈ മോഡലുകൾ ഏത് ഫീച്ചറുകളെ പിന്തുണയ്ക്കുന്നു?
ഈ മോഡലുകൾ നിലവിൽ ടെക്സ്റ്റ്-മാത്രം റീസണിംഗ് മോഡലുകളാണ്. സാധാരണ റൺടൈമുകൾ സ്ട്രീമിംഗ്, ഫംഗ്ഷൻ കോളിംഗ്, സ്ട്രക്ചേഡ് ഔട്ട്പുട്ടുകൾ എന്നിവ പിന്തുണയ്ക്കുന്നു. കൃത്യമായ ശേഷികൾക്കായി നിങ്ങളുടെ റൺടൈമിന്റെ ഡോക്യുമെന്റേഷൻ പരിശോധിക്കുക.
ഇത് ModAPI-യിൽ നിന്ന് എങ്ങനെ വ്യത്യസ്തമാണ്?
നിങ്ങളുടെ സ്വന്തം നയം കൊണ്ടുവരാൻ അനുവദിക്കുന്ന ഉയർന്ന ശേഷിയുള്ള റീസണിംഗ് മോഡലാണിത്. ഇത് ModAPI-യോടൊപ്പം പ്രവർത്തിക്കാം, പക്ഷേ കുറഞ്ഞ ലേറ്റൻസി ഉപയോഗ കേസുകൾക്ക് പകരക്കാരനാകാൻ സാധ്യതയില്ല.