OpenAI
Denne side er maskinoversat. Se den originale engelske artikel.

Optimering af filuploads i ChatGPT Enterprise

Forstå, hvordan ChatGPT Enterprise-funktioner håndterer filer ud fra type, antal og størrelse. Forbedr output baseret på filkrav.

Opdateret: 7 days ago

ChatGPT Enterprise understøtter nu læsning og forståelse af visuelle elementer (billeder, grafer, diagrammer osv.), der er indlejret i PDF-filer, som indgår i prompts. Brugere kan uploade en PDF, og ChatGPT kan fortolke teksten og alle visuelle elementer i den fil.

Se detaljer i Ofte stillede spørgsmål om visuel hentning med PDF'er.

I ChatGPT Enterprise kan du uploade filer på flere måder:

Denne vejledning forklarer, hvordan funktionerne i ChatGPT Enterprise håndterer filer ud fra deres type, antal og størrelse, og gennemgår strategier til at forbedre outputtet ud fra filkravene.

Oversigt

ChatGPT Enterprise behandler filtyper meget forskelligt: Tekst udtrækkes fra tekstdokumenter som PDF-, præsentations- og Word-filer, strukturerede data i regneark analyseres med Python-kode, og billedfiler beskrives via GPT-Vision. Det er afgørende at vide, hvilken arbejdsgang de enkelte filtyper udløser, for at få det forventede resultat.

Ved tekstbaserede dokumenter medtager ChatGPT Enterprise så meget relevant tekst som muligt direkte sammen med prompten og bruger et søgesystem til at hente yderligere oplysninger. Det fungerer godt til at besvare specifikke spørgsmål. Denne tilgang kan dog have svært ved komplekse opgaver som at opsummere meget store dokumenter eller sammenligne flere store filer. Læs videre for at få mere at vide om strategier, der kan forbedre dine resultater.

Håndtering af filer efter type

ChatGPT Enterprise behandler filer på tre primære måder: tekstudtræk, kodeanalyse og billedfortolkning. Filtypen afgør, hvilken arbejdsgang ChatGPT Enterprise følger.

Tekstbaseret hentningKodefortolkerBilledbehandlingVisuel hentning
Eksempler på filtyperpptx, docx, txt, md, json, xml, pdf*
* PDF-filer uploadet som

GPT-viden
eller

projektfiler
csv, xls, xlsx*
*Bemærk: Kodefortolker kan behandle alle filtyper, men ChatGPT Enterprise bruger oftest CI som standard til regneark
jpg, pngpdf*
* PDF-filer, der indgår i brugerprompter
FunktionsmådeUdtrækker teksten fra filen – en del af teksten indsættes direkte i kontekstvinduet, mens resten gemmes til søgningKodefortolker sender filen til Python til behandlingBilleder fortolkes direkte af multimodale modeller med forbehold for

kendte begrænsninger
.
En kombination af teksthentning og billedbehandling. Teksten udtrækkes digitalt, og det visuelle indhold fortolkes direkte af multimodale modeller.

For filer, der kun indeholder tekst, billedfiler eller tydeligt strukturerede datafiler (f.eks. en Excel-tabel med transaktioner), giver denne opdeling den bedst mulige behandling.

Der er dog nogle mindre oplagte gråzoner, f.eks.:

  • Billeder, der er indlejret i andre filer end PDF-filer, behandles ikke. Hvis de skal medtages, skal filen konverteres til PDF før upload.

  • ChatGPT Enterprise bruger altid Kodefortolker til at arbejde med regneark, selv hvis dokumentet indeholder store mængder tekst. Hvis du f.eks. beder ChatGPT Enterprise om at oversætte en CSV-fil med 10 tekstrækker, vil systemet forsøge at oversætte filen med et Python-bibliotek. Det er mindre nøjagtigt end at lade modellen generere oversættelsen direkte. Du kan afhjælpe dette ved at eksportere regnearket til et tekstbaseret format, f.eks. PDF.

  • Hvis du uploader en struktureret transaktionstabel i en JSON-fil, fortolker ChatGPT Enterprise på samme måde filen som almindelig tekst. Hvis du vil analysere dataene i en JSON-fil, skal du i din prompt bede modellen om at bruge Kodefortolker.

Håndtering af filer baseret på størrelse

ChatGPT Enterprise bruger modeller med et maksimalt kontekstvindue på 128k tokens (omtrent 200 sider tekst). Det er dog ikke alle tokens, der bruges til at indarbejde teksten fra uploadede filer. Antallet af “stuffed” tokens varierer efter brugstype.

ChatGPT Enterprise “stuffer” en vis mængde tekst, og den resterende tekst sendes til et privat søgeindeks (en “vektorlager”, som er en type database, der er designet til effektivt at gemme og hente store mængder tekst). Når du stiller et spørgsmål, medtager ChatGPT Enterprise den inkluderede tekst sammen med relevante uddrag hentet fra et privat søgeindeks.

Hvis du uploader et enkelt dokument, inkluderer ChatGPT Enterprise tekst fra begyndelsen, indtil grænsen nås. Hvis du uploader flere dokumenter, inkluderer ChatGPT Enterprise noget eller alt fra hvert dokument. Al tekst fra dokumenterne sendes også til et privat søgeindeks.

Context stuffing for tekstdokumenter

Denne funktion er under aktiv udvikling. Derfor kan følgende detaljer ændres uden varsel.

ChatGPT Enterprise kan behandle op til 110k tokens fra uploadede dokumenter i kontekstvinduet. Hvis du uploader et eller flere dokumenter med et samlet antal på under 110k tokens, inkluderes hele indholdet.

For et enkelt dokument, der overstiger 110k tokens, inkluderes kun de første 110k tokens, fra begyndelsen. Resten sendes kun til det private søgeindeks.

Hvis flere dokumenter uploades, og deres samlede antal overstiger 110k tokens, bruger ChatGPT Enterprise en totrinsproces til at balancere dokumentrepræsentationen:

  1. Udtræk op til 55k tokens, fordelt jævnt mellem de uploadede dokumenter.

  1. For dokumenter, der ikke er fuldt repræsenteret i første trin, tildeles de resterende 55k tokens proportionalt baseret på de tokens, der er tilbage i hvert dokument.

  1. Eventuelle resterende tokens sendes kun til det private søgeindeks.

Du kan estimere antallet af tokens i et tekstdokument ved at kopiere dokumentets tekst ind i OpenAI Tokenizer.

Context stuffing for multimedie-PDF'er

Når brugere uploader PDF'er, der indeholder både tekst og billeder, gør Visuel hentning det muligt for ChatGPT at behandle disse billeder direkte sammen med digitalt udtrukket tekst. Følgende trin supplerer vores standardprocedurer for konteksthåndtering af multimedie-PDF'er:

  • Billedudtræk og indlejring: Billeder udtrækkes og indlejres sammen med deres tilknyttede digitale tekst.

  • Intelligent skalering: Billeder skaleres automatisk for at opretholde en balance mellem informationskvalitet og effektiv brug af det tilgængelige kontekstvindue.

Når uploadede PDF'er overstiger grænsen på 110k tokens, indlejres både billeder og tekst i det private søgeindeks. Tekstindlejringer refererer til relevante billeder, så ChatGPT kan hente de passende tekst-billed-par baseret på brugerforespørgsler. Hentede billeder behandles derefter ved hjælp af ChatGPT's indbyggede multimodale funktioner.

Det er vanskeligt at estimere tokenkrav nøjagtigt for multimedie-PDF'er. Test tyder på, at cirka 350 sider med blandet tekst og billeder vil udnytte kontekstvinduet på 110k tokens fuldt ud.

Søgestrategier baseret på modeltype

Både GPT-seriens og o-seriens modeller understøtter filuploads og bruger identisk logik til context stuffing og søgeindlejringer. Alle modeller udfører hybridsøgninger mod et privat søgeindeks, der kombinerer nøgleordsbaserede og semantiske metoder. I en hybridsøgning genererer modellen en søgefrase baseret på brugerens prompt, og det private søgeindeks henter relevant tekst og relevante billeder derefter.

Disse modeller adskiller sig dog i, hvordan de søger i store dokumenter, der overstiger kontekstvinduet:

Modeller i GPT-serien

  • Én søgning pr. prompt: Modeller i GPT-serien udfører én søgning pr. brugerprompt.

  • Velegnede anvendelser: Ideel til at besvare enkle spørgsmål, hvor svaret findes i omfattende dokumentation.

Eksempler på forespørgsler:

  • »Hvilken HR-politik gælder for førtidspensionering?«

  • »Hvad gør funktionen process_order

Modeller i o-serien

  • Flere søgninger pr. prompt: Kan udføre flere søgninger (typisk 2-3) pr. brugerprompt, hver med sin egen søgefrase. Søgningerne udføres efter hinanden, og modellen kan justere sin tilgang ud fra oplysninger fra tidligere søgninger.

  • Velegnede anvendelser: Bedre egnet til komplekse spørgsmål, der kræver flere målrettede søgninger i omfattende dokumentation.

Eksempler på forespørgsler:

  • »Hvilke HR-politikker gælder for førtidspensionering, forældreorlov og udstationering i udlandet?«

  • »Forklar, hvad funktionen process_order gør, angiv alle de metoder, som funktionen kalder, og beskriv kort hver af dem.«

Trods deres styrker kan modeller i o-serien have svært ved forespørgsler, der kræver mere end tre søgninger.

Tips til at forbedre filsøgeresultater

  • Prøv at bruge en model fra o-serien til komplekse spørgsmål, der kræver flere søgninger.

  • Husk, at svar kan variere afhængigt af typen, antallet og størrelsen af de dokumenter, du uploader.

  • Generelt vil indlæsning af færre, fokuserede dokumenter føre til højere nøjagtighed.

  • Gør emner med flere spørgsmål til enkeltspørgsmål:

    • Hvis du har brug for at kende hver stats HR-politikker, så spørg om dem én ad gangen.

    • Hvis du har brug for at opsummere mange dokumenter, så bed om ét dokument ad gangen. Hvis dokumentet er mange hundrede sider langt, kan du overveje at opdele det i mindre komponenter.

      • Du kan bede ChatGPT Enterprise om at skrive et “resumé af resuméer”, hvis du giver det flere resuméer i stedet for hele dokumenter.

    • Hvis du har en CSV med en RFP (hver linje er et forskelligt spørgsmål), så stil spørgsmålene ét ad gangen i stedet for blot at indlæse CSV'en og bede om et enkelt svar.

  • Find måder at auditere modellens svar på. Eksempel på GPT-instruktioner findes nedenfor:

# Kontekst 

Du er ekspert i at forstå dokumenter. Brugeren vil vedhæfte et dokument og stille et spørgsmål. De skal kunne koble dit svar tilbage til den nøjagtige del af teksten, hvor du hentede dit svar fra.

# Instruktioner

1. Besvar brugerens spørgsmål baseret på det vedhæftede dokument ved hjælp af det nøjagtige format nedenfor

# Format

- Spørgsmål: { gentag brugerens spørgsmål }
- Svar: { giv et svar på brugerens spørgsmål }
Kilde:
- - Afsnitsnummer: { angiv afsnitsnummeret, hvor du hentede svaret }
- - Afsnitstitel: { angiv afsnitstitlen, hvor du hentede svaret }
- - Eksakt tekst: { angiv den eksakte tekst, hvor du hentede svaret fra }

# Regler

- Giv svar, der er klare og præcise
- Giv kun oplysninger, der findes i dokumentet
- Hvis du ikke kan finde svaret i dokumentet, skal du blot svare ”Ingen oplysninger fundet.”

Var denne artikel nyttig?