OpenAI
Ang page na ito ay isinalin ng AI. Tingnan ang orihinal na artikulo sa English.

Pag-optimize ng mga file upload sa ChatGPT Enterprise

Alamin kung paano pinoproseso ng ChatGPT Enterprise ang mga file batay sa uri, bilang, at laki ng mga ito, at kung paano mapapahusay ang iyong mga resulta.

Na-update: 2 hours ago

Sinusuportahan na ngayon ng ChatGPT Enterprise ang pagbasa at pag-unawa sa mga biswal (larawan, graph, diagram, atbp.) na naka-embed sa mga PDF file na kasama sa mga prompt. Maaaring mag-upload ang mga user ng PDF, at kayang bigyang-kahulugan ng ChatGPT ang teksto at anumang biswal na elemento sa file na iyon.

Para sa mga detalye, tingnan ang: Mga Madalas Itanong tungkol sa Pagkuha ng Biswal na Impormasyon mula sa mga PDF.

Maaari kang mag-upload ng mga file sa ChatGPT Enterprise sa ilang paraan:

Ipinapaliwanag ng gabay na ito kung paano pinoproseso ng mga feature ng ChatGPT Enterprise ang mga file batay sa uri, bilang, at laki ng mga ito, at tinatalakay ang mga estratehiya para mapahusay ang mga output batay sa mga kinakailangan ng file.

Buod

Malaki ang pagkakaiba ng pagproseso ng ChatGPT Enterprise sa iba't ibang uri ng file: kinukuha nito ang teksto mula sa mga dokumentong tulad ng mga PDF, presentation, at Word file, sinusuri ang nakaayos na datos mula sa mga spreadsheet gamit ang Python code, at inilalarawan ang mga image file sa pamamagitan ng GPT-Vision. Mahalagang maunawaan kung aling workflow ang ginagamit para sa bawat uri ng file upang makuha ang inaasahang resulta.

Para sa mga dokumentong nakabatay sa teksto, isinasama ng ChatGPT Enterprise ang pinakamaraming kaugnay na tekstong maaari nang direkta kasama ng prompt, at gumagamit ito ng sistema ng paghahanap para ma-access ang karagdagang impormasyon. Mabisa ito sa pagsagot sa mga partikular na tanong. Gayunman, maaaring mahirapan ang pamamaraang ito sa mga kumplikadong gawain gaya ng pagbubuod ng napakalalaking dokumento o paghahambing ng maraming malalaking file. Magbasa pa para maunawaan ang mga estratehiya sa pagpapahusay ng iyong mga resulta.

Pagproseso ng mga file batay sa uri

Pinoproseso ng ChatGPT Enterprise ang mga file sa tatlong pangunahing paraan: pagkuha ng teksto, pagsusuri gamit ang code, at pagbibigay-kahulugan sa larawan. Ang uri ng file ang nagtatakda kung aling workflow ang susundin ng ChatGPT Enterprise.

Pagkuha ng impormasyon batay sa tekstoCode InterpreterPagproseso ng larawanPagkuha ng Biswal na Impormasyon
Mga halimbawa ng uri ng filepptx, docx, txt, md, json, xml, pdf*
* Mga PDF na na-upload bilang

Kaalaman ng GPT
o

Mga File ng Proyekto
csv, xls, xlsx*
*Tandaan: Kayang magproseso ng Code Interpreter ng anumang uri ng file, pero karaniwang awtomatikong gumagamit ng CI ang ChatGPT Enterprise para sa mga spreadsheet
jpg, pngpdf*
* Mga PDF na kasama sa mga prompt ng user
Paraan ng pagprosesoKinukuha ang teksto mula sa file – direktang idinidikit (“isinisiksik”) ang ilang bahagi ng teksto sa context window; iniimbak naman ang iba para sa paghahanapIpinapasa ng Code Interpreter ang file sa Python para iprosesoDirektang binibigyang-kahulugan ng mga multi-modal na modelo ang mga larawan, nang may

mga kilalang limitasyon
.
Pinagsamang pagkuha ng teksto at pagproseso ng larawan. Kinukuha ang teksto sa digital na paraan, at direktang binibigyang-kahulugan ng mga multi-modal na modelo ang biswal na nilalaman.

Para sa mga file na puro teksto, mga image file, o mga file na may malinaw na pagkakaayos ng datos (hal., talahanayan ng mga transaksyon sa Excel), ang mga paraang ito ang pinakamainam na pagproseso.

May ilang sitwasyong hindi gaanong malinaw, halimbawa:

  • Hindi pinoproseso ang mga larawang naka-embed sa mga file na hindi PDF. Para maisama ang mga ito, i-convert ang file sa PDF bago i-upload.

  • Palaging gagamit ang ChatGPT Enterprise ng Code Interpreter para magproseso ng mga spreadsheet, kahit maraming teksto ang dokumento. Halimbawa, kung hihilingin mo sa ChatGPT Enterprise na isalin ang isang CSV file na may 10 hanay ng teksto, susubukan nitong isalin ang file gamit ang isang Python library, na hindi kasingtumpak ng direktang pagsasalin ng modelo. Para mabawasan ang problemang ito, subukang i-export ang spreadsheet sa isang format na nakabatay sa teksto (halimbawa, PDF).

  • Gayundin, kung mag-a-upload ka ng isang JSON file na may nakaayos na talahanayan ng mga transaksyon, ituturing ito ng ChatGPT Enterprise bilang plain text. Kung gusto mong suriin ang datos sa isang JSON file, sabihin sa iyong prompt na gumamit ang modelo ng Code Interpreter.

Pangangasiwa ng mga file batay sa laki

Gumagamit ang ChatGPT Enterprise ng mga modelo na may maximum na context window na 128k token (humigit-kumulang 200 pahina ng text). Gayunpaman, hindi lahat ng token ay ginagamit para isama ang text mula sa mga na-upload na file. Nag-iiba ang bilang ng mga “stuffed” na token ayon sa uri ng paggamit.

“Ini-stuff” ng ChatGPT Enterprise ang ilang dami ng text, at ang natitirang text ay ipinapadala sa isang pribadong search index (isang “vector store”, na isang uri ng database na idinisenyo upang mahusay na mag-imbak at kumuha ng malalaking dami ng text). Kapag nagtanong ka, isinasama ng ChatGPT Enterprise ang nakasamang text kasama ng mga nauugnay na chunk na nakuha mula sa isang pribadong search index.

Kung mag-a-upload ka ng isang dokumento, isinasama ng ChatGPT Enterprise ang text mula sa simula hanggang maabot nito ang limitasyon nito. Kung mag-a-upload ka ng maraming dokumento, isinasama ng ChatGPT Enterprise ang ilan o lahat ng bahagi ng bawat dokumento. Ipinapadala rin ang lahat ng text mula sa mga dokumento sa isang pribadong search index.

Context stuffing para sa mga text document

Ang feature na ito ay nasa aktibong pag-develop. Kaya, ang mga sumusunod na detalye ay maaaring magbago nang walang abiso.

Kayang magproseso ng ChatGPT Enterprise ng hanggang 110k token mula sa mga na-upload na dokumento sa context window. Kung mag-a-upload ka ng isa o higit pang dokumento na may pinagsamang kabuuang mas mababa sa 110k token, isasama ang buong nilalaman.

Para sa isang dokumentong lampas sa 110k token, ang unang 110k token lang mula sa simula nito ang isasama. Sa pribadong search index lang ipapadala ang natitira.

Kung maraming dokumento ang ia-upload at lampas sa 110k token ang pinagsamang kabuuan ng mga ito, ginagamit ng ChatGPT Enterprise ang sumusunod na proseso para balansehin kung gaano karami ang isasama mula sa bawat dokumento:

  1. Kumuha ng hanggang 55k token, na pantay-pantay na hinahati sa mga na-upload na dokumento.

  2. Para sa mga dokumentong hindi pa naisama nang buo sa unang hakbang, ilaan ang natitirang 55k token nang proporsyonal batay sa dami ng natitirang token sa bawat dokumento.

  3. Sa pribadong search index lang ipapadala ang anumang natitirang token.

Matatantiya mo ang bilang ng mga token sa isang tekstong dokumento sa pamamagitan ng pagkopya ng teksto nito sa OpenAI Tokenizer.

Paglalagay ng nilalaman ng mga multimedia PDF sa context window

Kapag nag-upload ang mga user ng mga PDF na may teksto at larawan, nagbibigay-daan ang Pagkuha ng Biswal na Impormasyon na direktang maproseso ng ChatGPT ang mga larawang ito kasama ng tekstong kinuha sa digital na paraan. Karagdagan ang mga sumusunod na hakbang sa aming karaniwang mga pamamaraan ng paghawak ng konteksto para sa mga multimedia PDF:

  • Pagkuha at Pag-embed ng mga Larawan: Kinukuha at ine-embed ang mga larawan kasama ng kaugnay na digital na teksto.

  • Matalinong Pagsasaayos ng Laki: Awtomatikong isinasaayos ang laki ng mga larawan para mapanatili ang balanse sa kalidad ng impormasyon at mahusay na paggamit ng available na context window.

Kapag lumampas sa limitasyong 110k token ang mga na-upload na PDF, parehong ine-embed sa pribadong search index ang mga larawan at teksto. Tinutukoy ng mga text embedding ang mga kaugnay na larawan, kaya nakukuha ng ChatGPT ang angkop na mga pares ng teksto at larawan batay sa mga tanong ng user. Pagkatapos, pinoproseso ang mga nakuhang larawan gamit ang likas na kakayahang multimodal ng ChatGPT.

Mahirap tumpak na tantiyahin kung ilang token ang kailangan para sa mga multimedia PDF. Batay sa mga pagsusuri, humigit-kumulang 350 pahina na may halong teksto at larawan ang makakapuno sa context window na may kapasidad na 110k token.

Mga strategy sa paghahanap batay sa uri ng modelo

Parehong sumusuporta ang mga modelo ng GPT-series at o-series sa pag-upload ng file at gumagamit ng magkaparehong context stuffing at logic ng search embedding. Nagsasagawa ang lahat ng modelo ng mga hybrid na paghahanap sa isang pribadong search index, na pinagsasama ang mga pamamaraang keyword at semantic. Sa hybrid na paghahanap, bumubuo ang modelo ng parirala sa paghahanap batay sa prompt ng user, at kinukuha ng pribadong search index ang nauugnay na text at mga larawan ayon dito.

Gayunpaman, nagkakaiba ang mga modelong ito sa paraan ng paghahanap nila sa malalaking dokumentong lumalampas sa context window:

mga modelo ng GPT-series

  • Isang paghahanap sa bawat prompt: Nagsasagawa ang mga modelo ng GPT-series ng isang paghahanap sa bawat prompt ng user.

  • Mga angkop na gamit: Mainam para sa pagsagot sa mga simpleng tanong na nasa malawak na dokumentasyon.

Mga halimbawang query:

  • "Ano ang patakaran ng HR para sa maagang pagreretiro?"

  • "Ano ang ginagawa ng function na process_order?"

mga modelo ng o-series

  • Maraming paghahanap sa bawat prompt: Maaaring magsagawa ng maraming paghahanap (karaniwan ay 2–3) sa bawat prompt ng user, gamit ang magkakaibang parirala sa paghahanap. Sunod-sunod na isinasagawa ang mga paghahanap, at maaaring baguhin ng modelo ang paraan nito batay sa impormasyong nakuha sa mga naunang paghahanap.

  • Mga angkop na gamit: Mas angkop sa mga komplikadong tanong na nangangailangan ng maraming naka-target na paghahanap sa malawak na dokumentasyon.

Mga halimbawang query:

  • "Ano ang mga patakaran ng HR para sa maagang pagreretiro, parental leave, at paglipat sa ibang bansa?"

  • "Ipaliwanag kung ano ang ginagawa ng function na process_order, ilista ang lahat ng method na tinatawag nito, at maikling ilarawan ang bawat isa."

Sa kabila ng mga kalakasan ng mga ito, maaaring mahirapan ang mga modelo ng o-series kapag nangangailangan ang isang query ng higit sa tatlong paghahanap.

Mga tip para mapahusay ang mga resulta ng file search

  • Subukang gumamit ng modelo ng o-series para sa mga komplikadong tanong na nangangailangan ng maraming paghahanap.

  • Tandaan na maaaring mag-iba ang mga sagot depende sa uri, bilang, at laki ng mga dokumentong ina-upload mo.

  • Sa pangkalahatan, hahantong sa mas mataas na katumpakan ang pag-load ng mas kaunti at nakatuong mga dokumento.

  • Gawing iisang tanong ang mga paksang maraming tanong:

    • Kung kailangan mong malaman ang mga patakaran ng HR ng bawat estado, itanong ang mga ito nang paisa-isa.

    • Kung kailangan mong ibuod ang maraming dokumento, humingi ng isang dokumento sa bawat pagkakataon. Kung ang dokumentong iyon ay maraming daang pahina, isaalang-alang na hatiin ito sa mas maliliit na bahagi.

      • Maaari mong hilingin sa ChatGPT Enterprise na magsulat ng “buod ng mga buod” kung bibigyan mo ito ng maraming buod sa halip na buong mga dokumento.

    • Kung mayroon kang CSV ng isang RFP (bawat linya ay ibang tanong), itanong ang mga iyon nang paisa-isa sa halip na i-load lang ang CSV at humiling ng isang sagot.

  • Humanap ng mga paraan para i-audit ang mga sagot ng modelo. Nasa ibaba ang mga halimbawang tagubilin para sa GPT:

# Konteksto 

Eksperto ka sa pag-unawa ng mga dokumento. Mag-a-attach ang user ng isang dokumento at magtatanong. Kailangan nilang maiugnay ang iyong sagot pabalik sa eksaktong bahagi ng teksto kung saan mo kinuha ang iyong sagot.

# Mga Tagubilin

1. Sagutin ang tanong ng user batay sa naka-attach nilang dokumento gamit ang eksaktong format na ibinigay sa ibaba

# Format

- Tanong: { ulitin ang tanong ng user }
- Sagot: { magbigay ng sagot sa tanong ng user }
Pinagmulan:
- - Numero ng Seksyon: { ibigay ang numero ng seksyon kung saan mo kinuha ang sagot }
- - Pamagat ng Seksyon: { ibigay ang pamagat ng seksyon kung saan mo kinuha ang sagot }
- - Eksaktong Teksto: { ibigay ang eksaktong teksto kung saan mo kinuha ang sagot }

# Mga Panuntunan

- Magbigay ng mga sagot na malinaw at maikli
- Tanging impormasyong ibinigay sa dokumento ang ilahad
- Kung hindi mo mahanap ang sagot sa dokumento, tumugon lamang ng “Walang nakitang impormasyon.”

Nakatulong ba ang artikulong ito?