OpenAI
Ova stranica je mašinski prevedena. Pogledaj originalni članak na engleskom jeziku.

Optimizacija učitavanja datoteka u ChatGPT Enterprise

Saznajte kako ChatGPT Enterprise obrađuje datoteke prema njihovoj vrsti, broju i veličini te kako poboljšati rezultate.

Ažurirano: 11 days ago

ChatGPT Enterprise sada podržava čitanje i razumijevanje vizuelnih elemenata (slika, grafikona, dijagrama itd.) ugrađenih u PDF datoteke priložene uz upite. Korisnici mogu učitati PDF, a ChatGPT može protumačiti tekst i sve vizuelne elemente u toj datoteci.

Za detalje pogledajte: Česta pitanja o dohvaćanju vizuelnog sadržaja iz PDF-ova.

ChatGPT Enterprise omogućava učitavanje datoteka na nekoliko načina:

Ovaj vodič objašnjava kako funkcije proizvoda ChatGPT Enterprise obrađuju datoteke prema njihovoj vrsti, broju i veličini te razmatra strategije za poboljšanje rezultata u skladu sa zahtjevima datoteka.

Sažetak

ChatGPT Enterprise različite vrste datoteka obrađuje na sasvim različite načine: izdvaja tekst iz tekstualnih dokumenata poput PDF-ova, prezentacija i Word datoteka, analizira strukturirane podatke iz proračunskih tablica pomoću Python koda i opisuje slikovne datoteke pomoću GPT-Vision. Da biste dobili očekivani rezultat, ključno je razumjeti koja vrsta datoteke pokreće koji postupak obrade.

Za tekstualne dokumente ChatGPT Enterprise uključuje što više relevantnog teksta direktno uz upit, a za pristup dodatnim informacijama koristi sistem za pretraživanje. Ovo dobro funkcionira pri odgovaranju na konkretna pitanja. Međutim, ovaj pristup može imati poteškoća sa složenim zadacima poput sažimanja vrlo velikih dokumenata ili poređenja više velikih datoteka. Nastavite čitati da biste saznali koje strategije mogu poboljšati vaše rezultate.

Obrada datoteka prema vrsti

ChatGPT Enterprise obrađuje datoteke na tri glavna načina: izdvajanjem teksta, analizom pomoću koda i tumačenjem slika. Vrsta datoteke određuje koji postupak obrade ChatGPT Enterprise koristi.

Dohvaćanje tekstualnog sadržajaTumač kodaObrada slikaDohvaćanje vizuelnog sadržaja
Primjeri vrsta datotekapptx, docx, txt, md, json, xml, pdf*
* PDF-ovi učitani kao

znanje GPT-a
ili

projektne datoteke
csv, xls, xlsx*
*Napomena: Tumač koda može raditi s bilo kojom vrstom datoteke, ali ga ChatGPT Enterprise najčešće koristi kao zadani alat za proračunske tablice
jpg, pngpdf*
* PDF-ovi priloženi uz korisničke upite
Način radaIzdvaja tekst iz datoteke – dio teksta lijepi se („ubacuje“) direktno u kontekstni prozor, a dio se pohranjuje za pretraživanjeTumač koda prosljeđuje datoteku Pythonu na obraduMultimodalni modeli izravno tumače slike, uz

poznata ograničenja.
Kombinacija dohvaćanja tekstualnog sadržaja i obrade slika. Tekst se digitalno izdvaja, a multimodalni modeli izravno tumače vizuelni sadržaj.

Za datoteke koje sadrže samo tekst, slikovne datoteke ili datoteke s jasno strukturiranim podacima (npr. Excel tabelu transakcija), ova podjela omogućava najbolji mogući način obrade.

Postoje i slučajevi u kojima način obrade nije toliko očigledan, naprimjer:

  • Slike ugrađene u datoteke koje nisu PDF-ovi ne obrađuju se. Da biste ih uključili, pretvorite datoteku u PDF prije učitavanja.

  • ChatGPT Enterprise će za rad s proračunskim tablicama uvijek koristiti Tumač koda, čak i ako dokument sadrži mnogo teksta. Naprimjer, ako zatražite da ChatGPT Enterprise prevede CSV datoteku s 10 redova teksta, pokušat će je prevesti pomoću Python biblioteke, što je manje precizno nego kada model direktno generira prijevod. Da biste ublažili ovaj problem, pokušajte izvesti proračunsku tablicu u tekstualni format (naprimjer PDF).

  • Slično tome, ako učitate strukturiranu tabelu transakcija sadržanu u JSON datoteci, ChatGPT Enterprise će tu datoteku tumačiti kao običan tekst. Ako želite analizirati podatke sadržane u JSON datoteci, u upitu uputite model da koristi Tumač koda.

Rukovanje datotekama na osnovu veličine

ChatGPT Enterprise koristi modele s maksimalnim kontekstnim prozorom od 128k tokena (otprilike 200 stranica teksta). Međutim, ne koriste se svi tokeni za uključivanje teksta iz otpremljenih datoteka. Broj „ubačenih” tokena razlikuje se prema tipu upotrebe.

ChatGPT Enterprise „ubacuje” određenu količinu teksta, a preostali tekst se šalje u privatni indeks za pretragu („vektorsko spremište”, što je vrsta baze podataka dizajnirana za efikasno pohranjivanje i dohvaćanje velikih količina teksta). Kada postavite pitanje, ChatGPT Enterprise uključuje obuhvaćeni tekst zajedno s relevantnim dijelovima dohvaćenim iz privatnog indeksa za pretragu.

Ako otpremite jedan dokument, ChatGPT Enterprise uključuje tekst od početka dok ne dostigne svoje ograničenje. Ako otpremite više dokumenata, ChatGPT Enterprise uključuje dio ili sav sadržaj svakog dokumenta. Sav tekst iz dokumenata također se šalje u privatni indeks za pretragu.

Ubacivanje konteksta za tekstualne dokumente

Ova funkcija je u aktivnom razvoju. Shodno tome, sljedeći detalji podložni su promjenama bez prethodne najave.

ChatGPT Enterprise može obraditi do 110.000 tokena iz učitanih dokumenata u kontekstnom prozoru. Ako učitate jedan ili više dokumenata s ukupno manje od 110.000 tokena, bit će uključen njihov cjelokupan sadržaj.

Za pojedinačni dokument koji premašuje 110.000 tokena bit će uključeno samo prvih 110.000 tokena, počevši od početka dokumenta. Ostatak će biti poslan samo u privatni indeks za pretraživanje.

Ako učitate više dokumenata koji ukupno premašuju 110.000 tokena, ChatGPT Enterprise koristi sljedeći postupak kako bi uravnotežio njihovu zastupljenost:

  1. Izdvaja do 55.000 tokena, ravnomjerno raspoređenih među učitanim dokumentima.

  2. Dokumentima koji nisu u cijelosti obuhvaćeni prvim korakom dodjeljuje preostalih 55.000 tokena proporcionalno broju preostalih tokena u svakom dokumentu.

  3. Svi preostali tokeni šalju se samo u privatni indeks za pretraživanje.

Broj tokena u tekstualnom dokumentu možete procijeniti kopiranjem njegovog teksta u OpenAI alat za tokenizaciju.

Popunjavanje konteksta za multimedijalne PDF-ove

Kada korisnici učitaju PDF-ove koji sadrže i tekst i slike, dohvaćanje vizuelnog sadržaja omogućava da ChatGPT izravno obrađuje te slike zajedno s digitalno izdvojenim tekstom. Sljedeći koraci dopunjuju naše standardne postupke obrade konteksta za multimedijalne PDF-ove:

  • Izdvajanje i ugrađivanje slika: Slike se izdvajaju i ugrađuju zajedno s pripadajućim digitalnim tekstom.

  • Inteligentno skaliranje: Veličina slika automatski se prilagođava kako bi se održala ravnoteža između kvaliteta informacija i efikasnog korištenja dostupnog kontekstnog prozora.

Kada učitani PDF-ovi premaše ograničenje od 110.000 tokena, i slike i tekst ugrađuju se u privatni indeks za pretraživanje. Vektorski prikazi teksta upućuju na relevantne slike, što omogućava da ChatGPT dohvati odgovarajuće parove teksta i slike na osnovu korisničkih upita. Dohvaćene slike zatim se obrađuju pomoću ugrađenih multimodalnih mogućnosti koje nudi ChatGPT.

Teško je precizno procijeniti potreban broj tokena za multimedijalne PDF-ove. Testiranja ukazuju na to da će približno 350 stranica s kombinacijom teksta i slika u potpunosti iskoristiti kontekstni prozor od 110.000 tokena.

Strategije pretrage na osnovu tipa modela

Modeli GPT-serije i o-serije podržavaju otpremanje datoteka i koriste identično ubacivanje konteksta i logiku ugrađivanja za pretragu. Svi modeli izvršavaju hibridne pretrage nad privatnim indeksom za pretragu, kombinujući metode zasnovane na ključnim riječima i semantici. U hibridnoj pretrazi model generiše frazu za pretragu na osnovu korisnikovog upita, a privatni indeks za pretragu zatim dohvaća relevantan tekst i slike.

Međutim, ovi modeli se razlikuju po tome kako pretražuju velike dokumente koji premašuju kontekstni prozor:

Modeli serije GPT

  • Jedno pretraživanje po upitu: Modeli serije GPT obavljaju jedno pretraživanje za svaki korisnički upit.

  • Prikladni slučajevi upotrebe: Idealni su za odgovaranje na jednostavna pitanja čiji se odgovori nalaze u opsežnoj dokumentaciji.

Primjeri upita:

  • „Koja su pravila službe za ljudske resurse u vezi s prijevremenim penzionisanjem?“

  • „Šta radi funkcija process_order?“

Modeli serije o

  • Više pretraživanja po upitu: Mogu izvršiti više pretraživanja (obično 2–3) za svaki korisnički upit, svako s jedinstvenim izrazom za pretraživanje. Pretraživanja se izvršavaju redom, a model može prilagoditi pristup na osnovu informacija pronađenih tokom prethodnih pretraživanja.

  • Prikladni slučajevi upotrebe: Pogodniji su za složena pitanja koja zahtijevaju više ciljanih pretraživanja opsežne dokumentacije.

Primjeri upita:

  • „Koja su pravila službe za ljudske resurse u vezi s prijevremenim penzionisanjem, roditeljskim odsustvom i premještajem u inostranstvo?“

  • „Objasnite šta radi funkcija process_order, navedite sve metode koje ta funkcija poziva i ukratko opišite svaku od njih.“

Uprkos svojim prednostima, modeli serije o mogu imati poteškoća kada upit zahtijeva više od tri pretraživanja.

Savjeti za poboljšanje rezultata pretrage datoteka

  • Pokušajte koristiti model o-serije za složena pitanja koja zahtijevaju više pretraga.

  • Imajte na umu da se odgovori mogu razlikovati u zavisnosti od tipa, broja i veličine dokumenata koje otpremite.

  • Općenito, učitavanje manjeg broja fokusiranih dokumenata dovest će do veće tačnosti.

  • Teme s više pitanja pretvorite u pojedinačna pitanja:

    • Ako trebate znati HR politike svake države, pitajte za njih jednu po jednu.

    • Ako trebate sažeti mnogo dokumenata, tražite jedan dokument po jedan. Ako taj dokument ima mnogo stotina stranica, razmislite o njegovom dijeljenju na manje komponente.

      • Možete zatražiti od ChatGPT Enterprise da napiše „sažetak sažetaka” ako mu dostavite više sažetaka umjesto cijelih dokumenata.

    • Ako imate CSV za RFP (svaki red je drugo pitanje), postavljajte ta pitanja jedno po jedno umjesto da samo učitate CSV i zatražite jedan odgovor.

  • Pronađite načine za provjeru odgovora modela. Primjeri GPT uputstava nalaze se u nastavku:

# Kontekst 

Vi ste stručnjak za razumijevanje dokumenata. Korisnik će priložiti dokument i postaviti pitanje. Treba mu omogućiti da vaš odgovor poveže s tačnim dijelom teksta iz kojeg ste preuzeli odgovor.

# Upute

1. Odgovorite na korisnikovo pitanje na osnovu priloženog dokumenta koristeći tačan format naveden ispod

# Format

- Pitanje: { ponovite korisnikovo pitanje }
- Odgovor: { dajte odgovor na korisnikovo pitanje }
Izvor:
- - Broj odjeljka: { navedite broj odjeljka iz kojeg ste preuzeli odgovor }
- - Naslov odjeljka: { navedite naslov odjeljka iz kojeg ste preuzeli odgovor }
- - Tačan tekst: { navedite tačan tekst iz kojeg ste preuzeli odgovor }

# Pravila

- Dajte odgovore koji su jasni i sažeti
- Navedite samo informacije iz dokumenta
- Ako ne možete pronaći odgovor u dokumentu, jednostavno odgovorite „Nema pronađenih informacija.“

Da li je ovaj članak bio koristan?