Yfirlit

Kynnum tvö rakalíkön með opnum þyngdum: gpt‑oss‑120b og gpt‑oss‑20b. Þau keyra á innviðum sem þú stýrir, eða í gegnum hýsingaraðila.

Af hverju opnar þyngdir

• Val og stjórn: Keyrðu líkön á staðnum eða í einkaskýinu þínu, haltu gagnageymslu og lagaðu afköst að þínum þörfum.

• Sérsnið: Fínstilltu eða aðlagaðu líkönin með þeim opnu verkfærum sem þú kýst.

Framboð og leyfisveiting

• Leyfi: Apache 2.0 heimilar víðtæka notkun, breytingar og endurdreifingu, þar á meðal í viðskiptalegum tilgangi (háð notkunarstefnu okkar fyrir gpt-oss).

• Þjónusta: Ekki í boði í gegnum OpenAI API, svo API-verðlagning og hraðatakmarkanir eiga ekki við.

• Samhæfi: Hægt að keyra með algengum opnum ályktunarstæðum eins og vLLM, Ollama, llama.cpp og í skýjaumhverfum eða sjálfstýrðum GPU-umhverfum.

Að hefjast handa

Til að sækja líkanþyngdirnar og stuðningsefni geturðu:

• Heimsótt gpt-oss-vefsíðuna fyrir yfirlit og beina tengla.

• Sótt þyngdir úr Hugging Face-safninu — samfélagsmiðstöð þar sem þú getur fundið bæði líkönin, séð notkunardæmi og valfrjálst keyrt ályktun beint í gegnum þjónustu Hugging Face.

• Fengið aðgang að GitHub-geymslunni okkar fyrir viðmiðunarkóða fyrir ályktun.

• Notaðu leiðbeiningar í OpenAI Cookbook fyrir uppsetningu með studdum keyrsluumhverfum eins og Ollama, vLLM og Transformers. Cookbook inniheldur einnig skref-fyrir-skref leiðbeiningar um staðbundna keyrslu, notkun algengra keyrsluumhverfa og—þar sem það er stutt—fínstillingu gpt‑oss-líkana.

gpt‑oss‑safeguard (rannsóknarútgáfa til forskoðunar)

gpt‑oss‑safeguard er par af öryggisrakalíkönum með opnum þyngdum sem byggja á gpt‑oss. Þau eru hönnuð fyrir öryggisflokkun byggða á stefnu og tengd verkefni á sviði trausts og öryggis sem þú keyrir á innviðum sem þú stýrir. Eins og önnur gpt‑oss-líkön eru þessar þyngdir ekki í boði í gegnum OpenAI API eða ChatGPT.

• Líkön eingöngu fyrir texta með viðmiðunarskemum fyrir skipulögð úttök (t.d. stefnuúrskurð, rökstuðning).

• Komdu með þína eigin stefnu: líkanið túlkar skriflegu stefnuna þína svo það geti alhæft milli vara með lágmarks verkfræðivinnu.

• Rökstuddar ákvarðanir: valfrjáls rökrakning til að auðvelda villuleit og úttektir (ætlað þróunaraðilum og öryggissérfræðingum, ekki til birtingar fyrir endanotendur).

• Stillanleg rökáreynsla: veldu lága / miðlungs / háa til að vega biðtíma á móti dýpt.

• Leyfi: Apache 2.0 (sjá Framboð og leyfisveiting hér að neðan).

gpt‑oss‑safeguard hentar vel fyrir síun inntaks/úttaks fyrir LLM, merkingu efnis á netinu og magnmerkingu eða yfirferðarverkflæði án nettengingar. Fyrir almenn forrit (spjall, fulltrúa o.s.frv.) mælum við með grunnlíkönunum gpt‑oss.

Þú getur lagað skemað að þínum þörfum. Vinsamlegast skoðaðu OpenAI Cookbook fyrir leiðbeiningar um kvaðningar og dæmi.

Tilbrigði líkana og stærðir

Bæði líkönin eru fínstillt út frá gpt‑oss án breytinga á arkitektúr. Þau nota sama spjallsniðmát og gpt‑oss; þú getur haldið núverandi uppsetningu. Mælt kvaðningamynstur er að setja stefnu þína í skilaboð þróunaraðila og efnið sem á að meta í notandaskilaboð.

Stuðningur og samfélag

Uppsetningar með opnum þyngdum eru sjálfstýrðar og sjálfsafgreiddar. Hér geturðu fengið stuðning:

• Spurningar, umræður, ábendingar: Notaðu líkanssíður Hugging Face til að eiga samskipti við samfélagið.

• Endurskapanlegar villur í viðmiðunarkóða OpenAI fyrir ályktun: Opnaðu mál í gpt-oss GitHub-geymslunni.

• Vandamál með keyrsluumhverfi þriðja aðila (t.d. vLLM, Ollama, llama.cpp): Notaðu málaskrá viðkomandi verkefnis, spjallborð eða stuðningsferli.

OpenAI veitir ekki aðstoð, handvirka innleiðingu eða villuleitarstuðning fyrir sjálfhýstar eða þriðja aðila hýstar uppsetningar, stillingar, umhverfi eða forrit með opnum þyngdum.

Við munum halda áfram að vinna með samfélaginu að því að bæta opin öryggisverkfæri, meðal annars í gegnum ROOST Model Community (RMC). RMC sameinar öryggissérfræðinga og rannsakendur til að deila bestu starfsvenjum við innleiðingu opinna gervigreindarlíkana í öryggisverkflæði, þar á meðal matsniðurstöðum og endurgjöf um líkön. Heimsæktu RMC GitHub-geymsluna til að læra meira um þetta samstarf og hvernig þú getur tekið þátt.

Stuðningur og samfélag

Uppsetningar með opnum þyngdum eru sjálfstýrðar og sjálfsafgreiddar. Hér geturðu fengið stuðning:

• Spurningar, umræður, ábendingar: Notaðu líkanssíður Hugging Face til að eiga samskipti við samfélagið.

• Endurskapanlegar villur í viðmiðunarkóða OpenAI fyrir ályktun: Opnaðu mál í gpt-oss GitHub-geymslunni.

• Vandamál með keyrsluumhverfi þriðja aðila (t.d. vLLM, Ollama, llama.cpp): Notaðu málaskrá viðkomandi verkefnis, spjallborð eða stuðningsferli.

OpenAI veitir ekki aðstoð, handvirka innleiðingu eða villuleitarstuðning fyrir sjálfhýstar eða þriðja aðila hýstar uppsetningar, stillingar, umhverfi eða forrit með opnum þyngdum.

Persónuvernd og öryggi

Persónuvernd og gögn

Þessi líkön eru hönnuð til að keyra á innviðum sem þú stýrir (á staðnum eða í þínu skýi eða hjá hýsingarsamstarfsaðila). OpenAI tekur ekki við eða vinnur úr gögnum sem þú sendir til þessara sjálfhýstu líkana nema þú deilir þeim sérstaklega með OpenAI eða notir einn af stýrðum hýsingarsamstarfsaðilum okkar.

Öryggi

Þessi líkön gengust undir víðtæka öryggisþjálfun og prófanir. Nánari upplýsingar má finna í líkanskortinu okkar og tækniskýrslunni.

Tilkynning um efnisbrot

Ef þú telur að efni sem búið er til með gpt‑oss-líkönum brjóti gegn stefnum okkar geturðu tilkynnt það í gegnum eyðublaðið Tilkynna efni. Vinsamlegast veittu eins miklar upplýsingar og mögulegt er til að hjálpa teyminu okkar að yfirfara innsendinguna þína.

Algengar spurningar

Eru þessi líkön ókeypis?

Líkanavigtir gpt-oss eru ókeypis að sækja og nota samkvæmt Apache 2.0-leyfinu og notkunarstefnu gpt-oss. Hins vegar berð þú ábyrgð á öllum kostnaði sem fylgir því að keyra þau — svo sem reikniafli, geymslu eða hýsingargjöldum þriðja aðila. Verð fyrir slíkt fer eftir þeim innviðum eða þjónustuveitanda sem þú velur.

Eru þessi líkön „opinn hugbúnaður“?

Við notum hugtakið opin líkön eða með opnum þyngdum til að gefa til kynna að þjálfuðu þyngdirnar séu opinberlega aðgengilegar samkvæmt leyfinu Apache 2.0 og notkunarstefnu gpt-oss. Þetta þýðir að þú getur sótt líkönin, keyrt þau á eigin innviðum eða með studdum hýsingarrömmum og sérsniðið eða fínstillt þau.

Opin líkön veita þróunaraðilum og stofnunum meiri stjórn og sveigjanleika. Þú getur valið hvar á að hýsa, aðlagað líkönin að tilteknum notkunartilvikum og notið leyfisveitingar sem heimilar víðtæka notkun, breytingar og endurdreifingu. Þótt þjálfuðu þyngdirnar séu opnar geta sumir aðliggjandi innviðir eða verkfæri áfram verið séreign viðkomandi veitenda.

Get ég fengið aðgang að þessum líkönum í gegnum OpenAI API eða ChatGPT?

Nei. Þessi líkön eru ekki í boði í OpenAI API og birtast ekki í ChatGPT.

Get ég fínstillt líkönin?

Já. Þú getur fínstillt með opnum hugbúnaðarverkfærum og þeim innviðum sem þú kýst. Við bjóðum ekki upp á fínstillingu í gegnum OpenAI API fyrir þessi líkön.

Eru líkön með opnum þyngdum ódýrari en að nota API-ið?

Kostnaður er breytilegur eftir innviðum, álagi og rekstraraðferð. Sjálfhýsing getur verið ódýrari í sumum tilvikum, en API-vettvangurinn okkar getur verið skilvirkari þegar hýsing, viðhald og uppfærslur eru tekin með í reikninginn.

Hvaða eiginleika styðja þessi líkön?

Þessi líkön eru sem stendur rakalíkön eingöngu fyrir texta. Algeng keyrsluumhverfi styðja streymi, eiginleikakall og skipulögð úttök. Skoðaðu skjöl keyrsluumhverfisins þíns til að fá nákvæma yfirsýn yfir getu.

Hvernig er þetta frábrugðið ModAPI?

Þetta er mjög öflugt rakalíkan sem gerir þér kleift að koma með þína eigin stefnu. Það getur unnið samhliða ModAPI en kemur líklega ekki í staðinn fyrir notkunartilvik sem krefjast lítils biðtíma.