OpenAI
Ova stranica je mašinski prevedena. Pogledaj originalni članak na engleskom jeziku.

Optimizacija otpremanja datoteka u ChatGPT Enterprise

Saznajte kako funkcije ChatGPT Enterprise obrađuju datoteke prema vrsti, broju i veličini. Poboljšajte rezultate prema zahtjevima datoteka.

Ažurirano: 7 days ago

ChatGPT Enterprise sada podržava čitanje i razumijevanje vizuelnih sadržaja (slika, grafikona, dijagrama itd.) ugrađenih u PDF datoteke uključene u upite. Korisnici mogu otpremiti PDF, a ChatGPT može tumačiti tekst i sve vizuelne elemente unutar te datoteke.

Za detalje pogledajte Česta pitanja o vizuelnom dohvaćanju u PDF-ovima.

ChatGPT Enterprise vam omogućava otpremanje datoteka na nekoliko načina:

Ovaj vodič objašnjava kako funkcije ChatGPT Enterprise rukuje datotekama na osnovu njihovog tipa, broja i veličine te razmatra strategije za poboljšanje izlaza na osnovu zahtjeva za datoteke.

Sažetak

ChatGPT Enterprise vrlo različito tretira različite tipove datoteka: izdvaja tekst iz tekstualnih dokumenata poput PDF-ova, prezentacija i Word datoteka, analizira strukturirane podatke iz proračunskih tabela pomoću Python koda i opisuje slikovne datoteke putem GPT-Vision. Razumijevanje koji tip datoteke pokreće koji tok rada ključno je za dobijanje očekivanog rezultata.

Za tekstualne dokumente, ChatGPT Enterprise uključuje što je više moguće relevantnog teksta direktno uz upit i koristi sistem pretrage za pristup dodatnim informacijama. Ovo dobro funkcioniše za odgovaranje na konkretna pitanja. Međutim, ovaj pristup može imati poteškoća sa složenim zadacima kao što su sažimanje vrlo velikih dokumenata ili poređenje više velikih datoteka. Nastavite čitati da biste razumjeli strategije za poboljšanje svojih rezultata.

Rukovanje datotekama na osnovu tipa

ChatGPT Enterprise obrađuje datoteke na tri glavna načina: izdvajanje teksta, analiza koda i tumačenje slika. Tip datoteke određuje koji tok rada ChatGPT Enterprise slijedi.

Dohvaćanje zasnovano na tekstuTumač kodaObrada slikaVizuelno dohvaćanje
Primjeri tipova datotekapptx, docx, txt, md, json, xml, pdf*
* PDF-ovi otpremljeni kao

GPT znanje
ili

projektne datoteke
csv, xls, xlsx*
*Napomena: Tumač koda može raditi s bilo kojim tipom datoteke, ali ChatGPT Enterprise najčešće podrazumijevano koristi CI za proračunske tabele
jpg, pngpdf*
* PDF-ovi uključeni u korisničke upite
PonašanjeIzdvaja tekst iz datoteke – dio teksta se lijepi („ubacuje”) direktno u kontekstni prozor; dio teksta se pohranjuje za pretraguTumač koda prosljeđuje datoteku Pythonu radi obradeSlike izvorno tumače multimodalni modeli, podložno

poznatim ograničenjima
.
Hibrid dohvaćanja teksta i obrade slika. Tekst se digitalno izdvaja, a vizuelni sadržaj izvorno tumače multimodalni modeli.

Za datoteke samo s tekstom, slikovne datoteke ili jasno strukturirane datoteke s podacima (npr. Excel tabela transakcija), ove podjele predstavljaju najbolje moguće ponašanje.

Postoje neka siva područja koja su manje očigledna, na primjer:

  • Slike ugrađene u datoteke koje nisu PDF-ovi se ne obrađuju. Da biste ih uključili, konvertujte datoteku u PDF prije otpremanja.

  • ChatGPT Enterprise će uvijek koristiti Tumač koda za interakciju s proračunskim tabelama, čak i ako dokument sadrži veliku količinu teksta. Na primjer, ako zatražite od ChatGPT Enterprise da prevede CSV datoteku s 10 redova teksta, pokušat će prevesti datoteku pomoću Python biblioteke, što je manje tačno nego da se modelu omogući da direktno generiše prijevod. Da biste to ublažili, pokušajte izvesti proračunsku tabelu u tekstualni format (PDF, na primjer).

  • Slično tome, ako otpremite strukturiranu transakcijsku tabelu opisanu u JSON datoteci, ChatGPT Enterprise će ovu datoteku tumačiti kao običan tekst. Ako želite analizirati podatke sadržane u JSON datoteci, u svom upitu naložite modelu da koristi Tumač koda.

Rukovanje datotekama na osnovu veličine

ChatGPT Enterprise koristi modele s maksimalnim kontekstnim prozorom od 128k tokena (otprilike 200 stranica teksta). Međutim, ne koriste se svi tokeni za uključivanje teksta iz otpremljenih datoteka. Broj „ubačenih” tokena razlikuje se prema tipu upotrebe.

ChatGPT Enterprise „ubacuje” određenu količinu teksta, a preostali tekst se šalje u privatni indeks za pretragu („vektorsko spremište”, što je vrsta baze podataka dizajnirana za efikasno pohranjivanje i dohvaćanje velikih količina teksta). Kada postavite pitanje, ChatGPT Enterprise uključuje obuhvaćeni tekst zajedno s relevantnim dijelovima dohvaćenim iz privatnog indeksa za pretragu.

Ako otpremite jedan dokument, ChatGPT Enterprise uključuje tekst od početka dok ne dostigne svoje ograničenje. Ako otpremite više dokumenata, ChatGPT Enterprise uključuje dio ili sav sadržaj svakog dokumenta. Sav tekst iz dokumenata također se šalje u privatni indeks za pretragu.

Ubacivanje konteksta za tekstualne dokumente

Ova funkcija je u aktivnom razvoju. Shodno tome, sljedeći detalji podložni su promjenama bez prethodne najave.

ChatGPT Enterprise može obraditi do 110k tokena iz otpremljenih dokumenata u kontekstnom prozoru. Ako otpremite jedan ili više dokumenata čiji je ukupni zbir manji od 110k tokena, bit će uključen cijeli sadržaj.

Za jedan dokument koji premašuje 110k tokena, bit će uključeno samo prvih 110k tokena, počevši od početka. Ostatak će biti poslan samo u privatni indeks za pretragu.

Ako se otpremi više dokumenata i njihov ukupni zbir premašuje 110k tokena, ChatGPT Enterprise koristi proces u dva koraka za uravnoteženu zastupljenost dokumenata:

  1. Izdvojite do 55k tokena, podijeljenih ravnomjerno među otpremljenim dokumentima.

  1. Za dokumente koji nisu u potpunosti predstavljeni u prvom koraku, dodijelite preostalih 55k tokena proporcionalno na osnovu tokena preostalih u svakom dokumentu.

  1. Svi preostali tokeni šalju se samo u privatni indeks za pretragu.

Broj tokena u tekstualnom dokumentu možete procijeniti kopiranjem teksta dokumenta u OpenAI Tokenizer.

Ubacivanje konteksta za multimedijske PDF-ove

Kada korisnici otpreme PDF-ove koji sadrže i tekst i slike, vizuelno dohvaćanje omogućava ChatGPT-u da te slike obradi izvorno, zajedno s digitalno izdvojenim tekstom. Sljedeći koraci dopunjuju naše standardne postupke rukovanja kontekstom za multimedijske PDF-ove:

  • Izdvajanje i ugrađivanje slika: Slike se izdvajaju i ugrađuju zajedno s povezanim digitalnim tekstom.

  • Inteligentno skaliranje: Slike se automatski skaliraju kako bi se održala ravnoteža između kvaliteta informacija i efikasnog korištenja dostupnog kontekstnog prozora.

Kada otpremljeni PDF-ovi premaše ograničenje od 110k tokena, i slike i tekst se ugrađuju u privatni indeks za pretragu. Tekstualna ugrađivanja upućuju na relevantne slike, što ChatGPT-u omogućava da dohvaća odgovarajuće parove teksta i slika na osnovu korisničkih upita. Dohvaćene slike se zatim obrađuju pomoću izvornih multimodalnih mogućnosti ChatGPT-a.

Precizna procjena potreba za tokenima za multimedijske PDF-ove je izazovna. Testiranja ukazuju na to da će približno 350 stranica kombinovanog teksta i slika u potpunosti iskoristiti kontekstni prozor od 110k tokena.

Strategije pretrage na osnovu tipa modela

Modeli GPT-serije i o-serije podržavaju otpremanje datoteka i koriste identično ubacivanje konteksta i logiku ugrađivanja za pretragu. Svi modeli izvršavaju hibridne pretrage nad privatnim indeksom za pretragu, kombinujući metode zasnovane na ključnim riječima i semantici. U hibridnoj pretrazi model generiše frazu za pretragu na osnovu korisnikovog upita, a privatni indeks za pretragu zatim dohvaća relevantan tekst i slike.

Međutim, ovi modeli se razlikuju po tome kako pretražuju velike dokumente koji premašuju kontekstni prozor:

Modeli GPT-serije

  • Jedna pretraga po upitu: Modeli GPT-serije izvršavaju jednu pretragu po korisničkom upitu.

  • Efikasni slučajevi upotrebe: Idealni su za odgovaranje na jednostavna pitanja sadržana u opsežnoj dokumentaciji.

Primjeri upita:

  • „Koja je HR politika za prijevremeno penzionisanje?”

  • „Šta radi funkcija process_order?”

modeli o-serije

  • Više pretraga po upitu: Mogu izvršiti više pretraga (obično 2–3) po korisničkom upitu, svaku s jedinstvenom frazom za pretragu. Pretrage se izvršavaju redom, a model može ažurirati svoj pristup na osnovu informacija pronađenih u prethodnim pretragama.

  • Efikasni slučajevi upotrebe: Pogodniji su za složena pitanja koja zahtijevaju više ciljanih pretraga kroz opsežnu dokumentaciju.

Primjeri upita:

  • „Koje su HR politike za prijevremeno penzionisanje, roditeljsko odsustvo i premještaj u inostranstvo?”

  • „Objasni šta radi funkcija process_order, navedi sve metode koje ova funkcija poziva i ukratko opiši svaku pozvanu metodu.”

Uprkos svojim prednostima, modeli o-serije mogu imati poteškoća kada upit zahtijeva više od tri pretrage.

Savjeti za poboljšanje rezultata pretrage datoteka

  • Pokušajte koristiti model o-serije za složena pitanja koja zahtijevaju više pretraga.

  • Imajte na umu da se odgovori mogu razlikovati u zavisnosti od tipa, broja i veličine dokumenata koje otpremite.

  • Općenito, učitavanje manjeg broja fokusiranih dokumenata dovest će do veće tačnosti.

  • Teme s više pitanja pretvorite u pojedinačna pitanja:

    • Ako trebate znati HR politike svake države, pitajte za njih jednu po jednu.

    • Ako trebate sažeti mnogo dokumenata, tražite jedan dokument po jedan. Ako taj dokument ima mnogo stotina stranica, razmislite o njegovom dijeljenju na manje komponente.

      • Možete zatražiti od ChatGPT Enterprise da napiše „sažetak sažetaka” ako mu dostavite više sažetaka umjesto cijelih dokumenata.

    • Ako imate CSV za RFP (svaki red je drugo pitanje), postavljajte ta pitanja jedno po jedno umjesto da samo učitate CSV i zatražite jedan odgovor.

  • Pronađite načine za provjeru odgovora modela. Primjeri GPT uputstava nalaze se u nastavku:

# Kontekst 

Vi ste stručnjak za razumijevanje dokumenata. Korisnik će priložiti dokument i postaviti pitanje. Treba mu omogućiti da vaš odgovor poveže s tačnim dijelom teksta iz kojeg ste preuzeli odgovor.

# Upute

1. Odgovorite na korisnikovo pitanje na osnovu priloženog dokumenta koristeći tačan format naveden ispod

# Format

- Pitanje: { ponovite korisnikovo pitanje }
- Odgovor: { dajte odgovor na korisnikovo pitanje }
Izvor:
- - Broj odjeljka: { navedite broj odjeljka iz kojeg ste preuzeli odgovor }
- - Naslov odjeljka: { navedite naslov odjeljka iz kojeg ste preuzeli odgovor }
- - Tačan tekst: { navedite tačan tekst iz kojeg ste preuzeli odgovor }

# Pravila

- Dajte odgovore koji su jasni i sažeti
- Navedite samo informacije iz dokumenta
- Ako ne možete pronaći odgovor u dokumentu, jednostavno odgovorite „Nema pronađenih informacija.“

Da li je ovaj članak bio koristan?