OpenAI
Ang page na ito ay isinalin ng AI. Tingnan ang orihinal na artikulo sa English.

Pag-optimize ng mga File Upload sa ChatGPT Enterprise

Unawain kung paano hinahawakan ng mga feature ng ChatGPT Enterprise ang mga file batay sa uri, dami, at laki ng mga ito. Pagbutihin ang output ayon sa mga kailangan ng file.

Na-update: 27 days ago

Sinusuportahan na ngayon ng ChatGPT Enterprise ang pagbabasa at pag-unawa ng mga visual (mga larawan, graph, diagram, atbp.) na naka-embed sa mga PDF file na kasama sa mga prompt. Maaaring mag-upload ang mga user ng PDF, at kayang bigyang-kahulugan ng ChatGPT ang text at anumang visual element sa loob ng file na iyon.

Para sa mga detalye, tingnan ang FAQ sa Visual Retrieval gamit ang mga PDF.

Pinapayagan ka ng ChatGPT Enterprise na mag-upload ng mga file sa ilang paraan:

Ipinapaliwanag ng gabay na ito kung paano pinangangasiwaan ng mga feature ng ChatGPT Enterprise ang mga file batay sa uri, bilang, at laki ng mga ito, at tinatalakay ang mga strategy para mapahusay ang mga output batay sa mga kinakailangan ng file.

Buod

Iba-iba ang pagtrato ng ChatGPT Enterprise sa iba’t ibang uri ng file: pag-extract ng text mula sa mga text document gaya ng mga PDF, Presentation, at Word file; pagsusuri ng structured data mula sa mga spreadsheet gamit ang Python code; at paglalarawan ng mga image file sa pamamagitan ng GPT-Vision. Mahalagang maunawaan kung aling uri ng file ang nagpapagana sa aling workflow para makuha ang inaasahang resulta.

Para sa mga text-based na dokumento, direktang isinasama ng ChatGPT Enterprise ang pinakamaraming nauugnay na text hangga’t maaari kasama ng prompt at gumagamit ng search system para ma-access ang karagdagang impormasyon. Gumagana ito nang maayos para sa pagsagot sa mga partikular na tanong. Gayunpaman, maaaring mahirapan ang pamamaraang ito sa mga komplikadong gawain gaya ng pagbubuod ng napakalalaking dokumento o paghahambing ng maraming malalaking file. Magpatuloy sa pagbabasa para maunawaan ang mga strategy para mapahusay ang iyong mga resulta.

Pangangasiwa ng mga file batay sa uri

Pinoproseso ng ChatGPT Enterprise ang mga file sa tatlong pangunahing paraan: pag-extract ng text, pagsusuri ng code, at interpretasyon ng larawan. Tinutukoy ng uri ng file kung aling workflow ang susundin ng ChatGPT Enterprise.

Text-Based RetrievalCode InterpreterPagproseso ng LarawanVisual Retrieval
Mga Halimbawa ng Uri ng Filepptx, docx, txt, md, json, xml, pdf*
* Mga PDF na na-upload bilang

GPT Knowledge
o

Project Files
csv, xls, xlsx*
*Tandaan: Maaaring gumana ang Code Interpreter sa anumang uri ng file, ngunit pinakakaraniwang nagde-default ang ChatGPT Enterprise sa CI para sa mga spreadsheet
jpg, pngpdf*
* Mga PDF na kasama sa mga prompt ng user
GawiIne-extract ang text mula sa file – ang ilan sa text ay direktang ipinapaste (“ini-stuff”) sa context window; ang ilang text ay iniimbak para sa paghahanapIpinapasa ng Code Interpreter ang file sa Python para sa pagprosesoNative na binibigyang-kahulugan ang mga larawan ng mga multi-modal na modelo, na napapailalim sa

mga kilalang limitasyon
.
Isang hybrid ng text retrieval at pagproseso ng larawan. Digitally ine-extract ang text, at native na binibigyang-kahulugan ng mga multi-modal na modelo ang visual content.

Para sa mga text-only file, image file, o malinaw na structured na data file (hal., isang Excel table ng mga transaksyon), kinakatawan ng mga dibisyong ito ang pinakamainam na posibleng gawi.

May ilang gray area na hindi gaanong halata, halimbawa:

  • Hindi pinoproseso ang mga larawang naka-embed sa mga file maliban sa mga PDF. Para maisama ang mga ito, i-convert ang file sa PDF bago mag-upload.

  • Palaging gagamit ang ChatGPT Enterprise ng Code Interpreter para makipag-interact sa mga spreadsheet, kahit na naglalaman ang dokumento ng malaking dami ng text. Halimbawa, kung hihilingin mo sa ChatGPT Enterprise na isalin ang isang CSV file na may 10 row ng text, susubukan nitong isalin ang file gamit ang isang Python library, na hindi kasing-tumpak ng pagpapahintulot sa modelo na direktang bumuo ng salin. Para mabawasan ito, subukang i-export ang spreadsheet sa isang text-based na format (PDF, halimbawa).

  • Katulad nito, kung mag-a-upload ka ng structured transactional table na nasa JSON file, bibigyang-kahulugan ng ChatGPT Enterprise ang file na ito bilang plain text. Kung gusto mong suriin ang data na nasa JSON file, atasan ang modelo na gumamit ng Code Interpreter sa iyong prompt.

Pangangasiwa ng mga file batay sa laki

Gumagamit ang ChatGPT Enterprise ng mga modelo na may maximum na context window na 128k token (humigit-kumulang 200 pahina ng text). Gayunpaman, hindi lahat ng token ay ginagamit para isama ang text mula sa mga na-upload na file. Nag-iiba ang bilang ng mga “stuffed” na token ayon sa uri ng paggamit.

“Ini-stuff” ng ChatGPT Enterprise ang ilang dami ng text, at ang natitirang text ay ipinapadala sa isang pribadong search index (isang “vector store”, na isang uri ng database na idinisenyo upang mahusay na mag-imbak at kumuha ng malalaking dami ng text). Kapag nagtanong ka, isinasama ng ChatGPT Enterprise ang nakasamang text kasama ng mga nauugnay na chunk na nakuha mula sa isang pribadong search index.

Kung mag-a-upload ka ng isang dokumento, isinasama ng ChatGPT Enterprise ang text mula sa simula hanggang maabot nito ang limitasyon nito. Kung mag-a-upload ka ng maraming dokumento, isinasama ng ChatGPT Enterprise ang ilan o lahat ng bahagi ng bawat dokumento. Ipinapadala rin ang lahat ng text mula sa mga dokumento sa isang pribadong search index.

Context stuffing para sa mga text document

Ang feature na ito ay nasa aktibong pag-develop. Kaya, ang mga sumusunod na detalye ay maaaring magbago nang walang abiso.

Kayang iproseso ng ChatGPT Enterprise ang hanggang 110k token mula sa mga na-upload na dokumento sa context window. Kung mag-a-upload ka ng isa o higit pang dokumento na ang pinagsamang kabuuan ay mas mababa sa 110k token, isasama ang buong nilalaman.

Para sa isang dokumentong lumalampas sa 110k token, ang unang 110k token lang ang isasama, simula sa umpisa. Ang natitira ay ipapadala lamang sa pribadong search index.

Kung maraming dokumento ang na-upload at lumampas sa 110k token ang pinagsamang kabuuan ng mga ito, gumagamit ang ChatGPT Enterprise ng dalawang hakbang na proseso para balansehin ang representasyon ng dokumento:

  1. Mag-extract ng hanggang 55k token, na hinati nang pantay-pantay sa mga na-upload na dokumento.

  1. Para sa mga dokumentong hindi ganap na narepresenta sa unang hakbang, ilaan ang natitirang 55k token nang proporsyonal batay sa mga token na natitira sa bawat dokumento.

  1. Ang anumang natitirang token ay ipinapadala lamang sa pribadong search index.

Matatantiya mo ang bilang ng mga token sa isang text document sa pamamagitan ng pagkopya ng text ng dokumento sa OpenAI Tokenizer.

Context stuffing para sa mga multimedia PDF

Kapag nag-upload ang mga user ng mga PDF na naglalaman ng parehong text at mga larawan, pinapagana ng Visual Retrieval ang ChatGPT na iproseso ang mga larawang ito nang native kasabay ng digitally extracted na text. Dinadagdagan ng mga sumusunod na hakbang ang aming karaniwang mga pamamaraan sa paghawak ng context para sa mga multimedia PDF:

  • Pag-extract at Pag-embed ng Larawan: Ine-extract at ini-embed ang mga larawan kasama ang nauugnay na digital text ng mga ito.

  • Intelligent Scaling: Awtomatikong ini-scale ang mga larawan para mapanatili ang balanse sa pagitan ng kalidad ng impormasyon at episyenteng paggamit ng available na context window.

Kapag lumampas ang mga na-upload na PDF sa limitasyong 110k token, parehong ini-embed ang mga larawan at text sa pribadong search index. Tinutukoy ng mga text embedding ang mga nauugnay na larawan, kaya nakakakuha ang ChatGPT ng angkop na mga pares ng text at larawan batay sa mga query ng user. Pagkatapos, pinoproseso ang mga nakuhang larawan gamit ang native na multimodal na kakayahan ng ChatGPT.

Mahirap tantiyahin nang tumpak ang mga kinakailangang token para sa mga multimedia PDF. Ipinapahiwatig ng testing na humigit-kumulang 350 pahina ng pinaghalong text at mga larawan ang ganap na gagamit sa 110k token na context window.

Mga strategy sa paghahanap batay sa uri ng modelo

Parehong sumusuporta ang mga modelo ng GPT-series at o-series sa pag-upload ng file at gumagamit ng magkaparehong context stuffing at logic ng search embedding. Nagsasagawa ang lahat ng modelo ng mga hybrid na paghahanap sa isang pribadong search index, na pinagsasama ang mga pamamaraang keyword at semantic. Sa hybrid na paghahanap, bumubuo ang modelo ng parirala sa paghahanap batay sa prompt ng user, at kinukuha ng pribadong search index ang nauugnay na text at mga larawan ayon dito.

Gayunpaman, nagkakaiba ang mga modelong ito sa paraan ng paghahanap nila sa malalaking dokumentong lumalampas sa context window:

Mga modelo ng GPT-series

  • Isang paghahanap kada prompt: Nagsasagawa ang mga modelo ng GPT-series ng isang paghahanap kada prompt ng user.

  • Mga epektibong kaso ng paggamit: Mainam para sa pagsagot sa mga diretsahang tanong na nakapaloob sa malawak na dokumentasyon.

Mga halimbawang query:

  • “Ano ang patakaran ng HR para sa maagang pagreretiro?”

  • “Ano ang ginagawa ng function na process_order?”

Mga modelo ng o-series

  • Maraming paghahanap kada prompt: Kayang magsagawa ng maraming paghahanap (karaniwang 2-3) kada prompt ng user, bawat isa ay may natatanging parirala sa paghahanap. Isinasagawa nang sunod-sunod ang mga paghahanap, at maaaring i-update ng modelo ang lapit nito batay sa impormasyong nakuha sa mga naunang paghahanap.

  • Mga epektibong kaso ng paggamit: Mas angkop para sa mga komplikadong tanong na nangangailangan ng maraming naka-target na paghahanap sa malawak na dokumentasyon.

Mga halimbawang query:

  • “Ano ang mga patakaran ng HR para sa maagang pagreretiro, parental leave, at paglipat sa ibang bansa?”

  • “Ipaliwanag kung ano ang ginagawa ng function na process_order, ilista ang lahat ng method na tinatawag ng function na ito, at maikling ilarawan ang bawat tinawag na method.”

Sa kabila ng mga lakas ng mga ito, maaaring mahirapan ang mga modelo ng o-series kapag nangangailangan ang isang query ng higit sa tatlong paghahanap.

Mga tip para mapahusay ang mga resulta ng file search

  • Subukang gumamit ng modelo ng o-series para sa mga komplikadong tanong na nangangailangan ng maraming paghahanap.

  • Tandaan na maaaring mag-iba ang mga sagot depende sa uri, bilang, at laki ng mga dokumentong ina-upload mo.

  • Sa pangkalahatan, hahantong sa mas mataas na katumpakan ang pag-load ng mas kaunti at nakatuong mga dokumento.

  • Gawing iisang tanong ang mga paksang maraming tanong:

    • Kung kailangan mong malaman ang mga patakaran ng HR ng bawat estado, itanong ang mga ito nang paisa-isa.

    • Kung kailangan mong ibuod ang maraming dokumento, humingi ng isang dokumento sa bawat pagkakataon. Kung ang dokumentong iyon ay maraming daang pahina, isaalang-alang na hatiin ito sa mas maliliit na bahagi.

      • Maaari mong hilingin sa ChatGPT Enterprise na magsulat ng “buod ng mga buod” kung bibigyan mo ito ng maraming buod sa halip na buong mga dokumento.

    • Kung mayroon kang CSV ng isang RFP (bawat linya ay ibang tanong), itanong ang mga iyon nang paisa-isa sa halip na i-load lang ang CSV at humiling ng isang sagot.

  • Humanap ng mga paraan para i-audit ang mga sagot ng modelo. Nasa ibaba ang mga halimbawang tagubilin para sa GPT:

# Konteksto 

Eksperto ka sa pag-unawa ng mga dokumento. Mag-a-attach ang user ng isang dokumento at magtatanong. Kailangan nilang maiugnay ang iyong sagot pabalik sa eksaktong bahagi ng teksto kung saan mo kinuha ang iyong sagot.

# Mga Tagubilin

1. Sagutin ang tanong ng user batay sa naka-attach nilang dokumento gamit ang eksaktong format na ibinigay sa ibaba

# Format

- Tanong: { ulitin ang tanong ng user }
- Sagot: { magbigay ng sagot sa tanong ng user }
Pinagmulan:
- - Numero ng Seksyon: { ibigay ang numero ng seksyon kung saan mo kinuha ang sagot }
- - Pamagat ng Seksyon: { ibigay ang pamagat ng seksyon kung saan mo kinuha ang sagot }
- - Eksaktong Teksto: { ibigay ang eksaktong teksto kung saan mo kinuha ang sagot }

# Mga Panuntunan

- Magbigay ng mga sagot na malinaw at maikli
- Tanging impormasyong ibinigay sa dokumento ang ilahad
- Kung hindi mo mahanap ang sagot sa dokumento, tumugon lamang ng “Walang nakitang impormasyon.”

Nakatulong ba ang artikulong ito?