Yfirlit

Kynnum tvö rakalíkön með opnum þyngdum: gpt‑oss‑120b og gpt‑oss‑20b. Þau keyra á innviðum sem þú stýrir, eða í gegnum hýsingaraðila.

Af hverju opnar þyngdir

• Val og stjórn: Keyrðu líkön á staðnum eða í einkaskýinu þínu, haltu gagnageymslu og lagaðu afköst að þínum þörfum.

• Sérsnið: Fínstilltu eða aðlagaðu líkönin með þeim opnu verkfærum sem þú kýst.

Framboð og leyfisveiting

• Leyfi: Apache 2.0 heimilar víðtæka notkun, breytingar og endurdreifingu, þar á meðal í viðskiptalegum tilgangi (háð notkunarstefnu okkar fyrir gpt-oss).

• Þjónusta: Ekki í boði í gegnum OpenAI API, svo API-verðlagning og hraðatakmarkanir eiga ekki við.

• Samhæfi: Hægt að keyra með algengum opnum ályktunarstæðum eins og vLLM, Ollama, llama.cpp og í skýjaumhverfum eða sjálfstýrðum GPU-umhverfum.

Hafist handa

Til að sækja vægi líkansins og tengd hjálpargögn geturðu:

• Skoðað vefsvæði gpt-oss til að fá yfirlit og beina tengla.

• Sótt vægin í Hugging Face-safninu — samfélagsmiðstöð þar sem þú finnur bæði líkönin, getur skoðað notkunardæmi og, ef þú vilt, keyrt ályktun beint í gegnum þjónustur Hugging Face.

• Nálgast GitHub-kóðasafnið okkar með viðmiðunarkóða fyrir ályktun.

• Notað leiðbeiningarnar í OpenAI-uppskriftum til að setja upp studd keyrsluumhverfi á borð við Ollama, vLLM og Transformers. Í uppskriftunum eru einnig skref-fyrir-skref leiðbeiningar um staðbundna keyrslu, notkun algengra keyrsluumhverfa og fínstillingu gpt-oss-líkana þar sem hún er studd.

gpt‑oss‑safeguard (rannsóknarútgáfa)

gpt‑oss‑safeguard eru tvö öryggisrakalíkön með opnum vægjum sem byggja á gpt‑oss. Þau eru hönnuð fyrir öryggisflokkun samkvæmt stefnu og tengd verkefni á sviði trausts & öryggis sem þú keyrir á eigin innviðum. Líkt og hjá öðrum gpt‑oss-líkönum eru þessi vægi hvorki í boði í gegnum OpenAI API né ChatGPT.

• Líkön sem vinna eingöngu með texta, með viðmiðunarskemum fyrir skipulögð úttök (t.d. úrskurð samkvæmt stefnu og rökstuðning).

• Notaðu eigin stefnu: líkanið túlkar skriflega stefnu þína svo það geti alhæft milli vara með lágmarksþróunarvinnu.

• Rökstuddar ákvarðanir: valfrjálsar rakaslóðir auðvelda villuleit og úttektir (ætlaðar forriturum og öryggissérfræðingum, ekki til birtingar fyrir endanotendur).

• Stillanleg rökavinna: veldu Lágt / Miðlungs / Hátt til að vega biðtíma á móti dýpt.

• Leyfi: Apache 2.0 (sjá Framboð og leyfisveitingar hér fyrir neðan).

gpt‑oss‑safeguard hentar vel til að sía inntak og úttak LLM-líkana, merkja efni á netinu og sinna lotumerkingu eða yfirferðarferlum án nettengingar. Fyrir almenn forrit (spjall, fulltrúa o.fl.) mælum við með grunnlíkönum gpt‑oss.

Þú getur lagað skemað að þínum þörfum. Leiðbeiningar og dæmi um gerð fyrirmæla er að finna í uppskriftasafni OpenAI.

Tilbrigði líkana og stærðir

Bæði líkönin eru fínstillt út frá gpt‑oss án breytinga á arkitektúr. Þau nota sama spjallsniðmát og gpt‑oss; þú getur haldið núverandi uppsetningu. Mælt kvaðningamynstur er að setja stefnu þína í skilaboð þróunaraðila og efnið sem á að meta í notandaskilaboð.

Stuðningur og samfélag

Uppsetningar með opnum þyngdum eru sjálfstýrðar og sjálfsafgreiddar. Hér geturðu fengið stuðning:

• Spurningar, umræður, ábendingar: Notaðu líkanssíður Hugging Face til að eiga samskipti við samfélagið.

• Endurskapanlegar villur í viðmiðunarkóða OpenAI fyrir ályktun: Opnaðu mál í gpt-oss GitHub-geymslunni.

• Vandamál með keyrsluumhverfi þriðja aðila (t.d. vLLM, Ollama, llama.cpp): Notaðu málaskrá viðkomandi verkefnis, spjallborð eða stuðningsferli.

OpenAI veitir ekki aðstoð, handvirka innleiðingu eða villuleitarstuðning fyrir sjálfhýstar eða þriðja aðila hýstar uppsetningar, stillingar, umhverfi eða forrit með opnum þyngdum.

Við munum halda áfram að vinna með samfélaginu að því að bæta opin öryggisverkfæri, meðal annars í gegnum ROOST Model Community (RMC). RMC sameinar öryggissérfræðinga og rannsakendur til að deila bestu starfsvenjum við innleiðingu opinna gervigreindarlíkana í öryggisverkflæði, þar á meðal matsniðurstöðum og endurgjöf um líkön. Heimsæktu RMC GitHub-geymsluna til að læra meira um þetta samstarf og hvernig þú getur tekið þátt.

Stuðningur og samfélag

Uppsetningar með opnum þyngdum eru sjálfstýrðar og sjálfsafgreiddar. Hér geturðu fengið stuðning:

• Spurningar, umræður, ábendingar: Notaðu líkanssíður Hugging Face til að eiga samskipti við samfélagið.

• Endurskapanlegar villur í viðmiðunarkóða OpenAI fyrir ályktun: Opnaðu mál í gpt-oss GitHub-geymslunni.

• Vandamál með keyrsluumhverfi þriðja aðila (t.d. vLLM, Ollama, llama.cpp): Notaðu málaskrá viðkomandi verkefnis, spjallborð eða stuðningsferli.

OpenAI veitir ekki aðstoð, handvirka innleiðingu eða villuleitarstuðning fyrir sjálfhýstar eða þriðja aðila hýstar uppsetningar, stillingar, umhverfi eða forrit með opnum þyngdum.

Persónuvernd og öryggi

Persónuvernd og gögn

Þessi líkön eru hönnuð til að keyra á innviðum sem þú stýrir (á staðnum eða í þínu skýi eða hjá hýsingarsamstarfsaðila). OpenAI tekur ekki við eða vinnur úr gögnum sem þú sendir til þessara sjálfhýstu líkana nema þú deilir þeim sérstaklega með OpenAI eða notir einn af stýrðum hýsingarsamstarfsaðilum okkar.

Öryggi

Þessi líkön gengust undir víðtæka öryggisþjálfun og prófanir. Nánari upplýsingar má finna í líkanskortinu okkar og tækniskýrslunni.

Tilkynning um efnisbrot

Ef þú telur að efni sem búið er til með gpt‑oss-líkönum brjóti gegn stefnum okkar geturðu tilkynnt það í gegnum eyðublaðið Tilkynna efni. Vinsamlegast veittu eins miklar upplýsingar og mögulegt er til að hjálpa teyminu okkar að yfirfara innsendinguna þína.

Algengar spurningar

Eru þessi líkön ókeypis?

Líkanavigtir gpt-oss eru ókeypis að sækja og nota samkvæmt Apache 2.0-leyfinu og notkunarstefnu gpt-oss. Hins vegar berð þú ábyrgð á öllum kostnaði sem fylgir því að keyra þau — svo sem reikniafli, geymslu eða hýsingargjöldum þriðja aðila. Verð fyrir slíkt fer eftir þeim innviðum eða þjónustuveitanda sem þú velur.

Eru þessi líkön „opinn hugbúnaður“?

Við notum hugtakið opin líkön eða með opnum þyngdum til að gefa til kynna að þjálfuðu þyngdirnar séu opinberlega aðgengilegar samkvæmt leyfinu Apache 2.0 og notkunarstefnu gpt-oss. Þetta þýðir að þú getur sótt líkönin, keyrt þau á eigin innviðum eða með studdum hýsingarrömmum og sérsniðið eða fínstillt þau.

Opin líkön veita þróunaraðilum og stofnunum meiri stjórn og sveigjanleika. Þú getur valið hvar á að hýsa, aðlagað líkönin að tilteknum notkunartilvikum og notið leyfisveitingar sem heimilar víðtæka notkun, breytingar og endurdreifingu. Þótt þjálfuðu þyngdirnar séu opnar geta sumir aðliggjandi innviðir eða verkfæri áfram verið séreign viðkomandi veitenda.

Get ég fengið aðgang að þessum líkönum í gegnum OpenAI API eða ChatGPT?

Nei. Þessi líkön eru ekki í boði í OpenAI API og birtast ekki í ChatGPT.

Get ég fínstillt líkönin?

Já. Þú getur fínstillt með opnum hugbúnaðarverkfærum og þeim innviðum sem þú kýst. Við bjóðum ekki upp á fínstillingu í gegnum OpenAI API fyrir þessi líkön.

Eru líkön með opnum þyngdum ódýrari en að nota API-ið?

Kostnaður er breytilegur eftir innviðum, álagi og rekstraraðferð. Sjálfhýsing getur verið ódýrari í sumum tilvikum, en API-vettvangurinn okkar getur verið skilvirkari þegar hýsing, viðhald og uppfærslur eru tekin með í reikninginn.

Hvaða eiginleika styðja þessi líkön?

Þessi líkön eru sem stendur rakalíkön eingöngu fyrir texta. Algeng keyrsluumhverfi styðja streymi, eiginleikakall og skipulögð úttök. Skoðaðu skjöl keyrsluumhverfisins þíns til að fá nákvæma yfirsýn yfir getu.

Hvernig er þetta frábrugðið ModAPI?

Þetta er mjög öflugt rakalíkan sem gerir þér kleift að koma með þína eigin stefnu. Það getur unnið samhliða ModAPI en kemur líklega ekki í staðinn fyrir notkunartilvik sem krefjast lítils biðtíma.