OpenAI
Denne side er maskinoversat. Se den originale engelske artikel.

Optimering af filuploads i ChatGPT Enterprise

Forstå, hvordan ChatGPT Enterprise-funktioner håndterer filer ud fra type, antal og størrelse. Forbedr output baseret på filkrav.

Opdateret: 27 days ago

ChatGPT Enterprise understøtter nu læsning og forståelse af visuelle elementer (billeder, grafer, diagrammer osv.), der er indlejret i PDF-filer, som indgår i prompts. Brugere kan uploade en PDF, og ChatGPT kan fortolke teksten og alle visuelle elementer i den fil.

Se detaljer i Ofte stillede spørgsmål om visuel hentning med PDF'er.

ChatGPT Enterprise giver dig mulighed for at uploade filer på flere måder:

Denne vejledning forklarer, hvordan ChatGPT Enterprise-funktioner håndterer filer baseret på deres type, antal og størrelse, og diskuterer strategier til at forbedre output baseret på filkrav.

Oversigt

ChatGPT Enterprise behandler forskellige filtyper meget forskelligt: udtrækker tekst fra tekstdokumenter som PDF'er, præsentationer og Word-filer, analyserer strukturerede data fra regneark ved hjælp af Python-kode og beskriver billedfiler via GPT-Vision. Det er afgørende for at få det forventede resultat at forstå, hvilken filtype der udløser hvilken arbejdsgang.

For tekstbaserede dokumenter inkluderer ChatGPT Enterprise så meget relevant tekst som muligt direkte sammen med prompten og bruger et søgesystem til at få adgang til yderligere information. Dette fungerer godt til at besvare specifikke spørgsmål. Denne tilgang kan dog have svært ved komplekse opgaver som at opsummere meget store dokumenter eller sammenligne flere store filer. Læs videre for at forstå strategier til at forbedre dine resultater.

Håndtering af filer baseret på type

ChatGPT Enterprise behandler filer på tre hovedmåder: tekstudtræk, kodeanalyse og billedfortolkning. Filtypen bestemmer, hvilken arbejdsgang ChatGPT Enterprise følger.

Tekstbaseret hentningKodefortolkerBilledbehandlingVisuel hentning
Eksempler på filtyperpptx, docx, txt, md, json, xml, pdf*
* PDF'er uploadet som

GPT-viden
eller

projektfiler
csv, xls, xlsx*
*Bemærk: Kodefortolker kan arbejde med alle filtyper, men ChatGPT Enterprise bruger oftest CI som standard for regneark
jpg, pngpdf*
* PDF'er inkluderet i brugerprompts
AdfærdUdtrækker teksten fra filen – noget af teksten indsættes (“stuffes”) direkte i kontekstvinduet; noget tekst gemmes til søgningKodefortolker sender filen til Python til behandlingBilleder fortolkes direkte af multimodale modeller, underlagt

kendte begrænsninger
.
En hybrid af teksthentning og billedbehandling. Tekst udtrækkes digitalt, og visuelt indhold fortolkes direkte af multimodale modeller.

For filer kun med tekst, billedfiler eller klart strukturerede datafiler (f.eks. en Excel-tabel med transaktioner) repræsenterer disse inddelinger den bedst mulige adfærd.

Der er nogle gråzoner, som er mindre indlysende, for eksempel:

  • Billeder, der er indlejret i andre filer end PDF'er, behandles ikke. For at inkludere dem skal du konvertere filen til en PDF før upload.

  • ChatGPT Enterprise vil altid bruge Kodefortolker til at interagere med regneark, selv hvis dokumentet indeholder en stor mængde tekst. Hvis du for eksempel beder ChatGPT Enterprise om at oversætte en CSV-fil med 10 rækker tekst, vil den forsøge at oversætte filen ved hjælp af et Python-bibliotek, hvilket er mindre præcist end at lade modellen generere en oversættelse direkte. For at afbøde dette kan du prøve at eksportere regnearket til et tekstbaseret format (f.eks. PDF).

  • På samme måde vil ChatGPT Enterprise fortolke en struktureret transaktionstabel i en JSON-fil som almindelig tekst, hvis du uploader den. Hvis du vil analysere dataene i en JSON-fil, skal du instruere modellen i at bruge Kodefortolker i din prompt.

Håndtering af filer baseret på størrelse

ChatGPT Enterprise bruger modeller med et maksimalt kontekstvindue på 128k tokens (omtrent 200 sider tekst). Det er dog ikke alle tokens, der bruges til at indarbejde teksten fra uploadede filer. Antallet af “stuffed” tokens varierer efter brugstype.

ChatGPT Enterprise “stuffer” en vis mængde tekst, og den resterende tekst sendes til et privat søgeindeks (en “vektorlager”, som er en type database, der er designet til effektivt at gemme og hente store mængder tekst). Når du stiller et spørgsmål, medtager ChatGPT Enterprise den inkluderede tekst sammen med relevante uddrag hentet fra et privat søgeindeks.

Hvis du uploader et enkelt dokument, inkluderer ChatGPT Enterprise tekst fra begyndelsen, indtil grænsen nås. Hvis du uploader flere dokumenter, inkluderer ChatGPT Enterprise noget eller alt fra hvert dokument. Al tekst fra dokumenterne sendes også til et privat søgeindeks.

Context stuffing for tekstdokumenter

Denne funktion er under aktiv udvikling. Derfor kan følgende detaljer ændres uden varsel.

ChatGPT Enterprise kan behandle op til 110k tokens fra uploadede dokumenter i kontekstvinduet. Hvis du uploader et eller flere dokumenter med et samlet antal på under 110k tokens, inkluderes hele indholdet.

For et enkelt dokument, der overstiger 110k tokens, inkluderes kun de første 110k tokens, fra begyndelsen. Resten sendes kun til det private søgeindeks.

Hvis flere dokumenter uploades, og deres samlede antal overstiger 110k tokens, bruger ChatGPT Enterprise en totrinsproces til at balancere dokumentrepræsentationen:

  1. Udtræk op til 55k tokens, fordelt jævnt mellem de uploadede dokumenter.

  1. For dokumenter, der ikke er fuldt repræsenteret i første trin, tildeles de resterende 55k tokens proportionalt baseret på de tokens, der er tilbage i hvert dokument.

  1. Eventuelle resterende tokens sendes kun til det private søgeindeks.

Du kan estimere antallet af tokens i et tekstdokument ved at kopiere dokumentets tekst ind i OpenAI Tokenizer.

Context stuffing for multimedie-PDF'er

Når brugere uploader PDF'er, der indeholder både tekst og billeder, gør Visuel hentning det muligt for ChatGPT at behandle disse billeder direkte sammen med digitalt udtrukket tekst. Følgende trin supplerer vores standardprocedurer for konteksthåndtering af multimedie-PDF'er:

  • Billedudtræk og indlejring: Billeder udtrækkes og indlejres sammen med deres tilknyttede digitale tekst.

  • Intelligent skalering: Billeder skaleres automatisk for at opretholde en balance mellem informationskvalitet og effektiv brug af det tilgængelige kontekstvindue.

Når uploadede PDF'er overstiger grænsen på 110k tokens, indlejres både billeder og tekst i det private søgeindeks. Tekstindlejringer refererer til relevante billeder, så ChatGPT kan hente de passende tekst-billed-par baseret på brugerforespørgsler. Hentede billeder behandles derefter ved hjælp af ChatGPT's indbyggede multimodale funktioner.

Det er vanskeligt at estimere tokenkrav nøjagtigt for multimedie-PDF'er. Test tyder på, at cirka 350 sider med blandet tekst og billeder vil udnytte kontekstvinduet på 110k tokens fuldt ud.

Søgestrategier baseret på modeltype

Både GPT-seriens og o-seriens modeller understøtter filuploads og bruger identisk logik til context stuffing og søgeindlejringer. Alle modeller udfører hybridsøgninger mod et privat søgeindeks, der kombinerer nøgleordsbaserede og semantiske metoder. I en hybridsøgning genererer modellen en søgefrase baseret på brugerens prompt, og det private søgeindeks henter relevant tekst og relevante billeder derefter.

Disse modeller adskiller sig dog i, hvordan de søger i store dokumenter, der overstiger kontekstvinduet:

GPT-seriens modeller

  • Én søgning pr. prompt: GPT-seriens modeller udfører én søgning pr. brugerprompt.

  • Effektive anvendelser: Ideel til at besvare ligetil spørgsmål, der er indlejret i omfattende dokumentation.

Eksempler på forespørgsler:

  • “Hvad er HR-politikken for tidlig pension?”

  • “Hvad gør funktionen process_order?”

o-seriens modeller

  • Flere søgninger pr. prompt: Kan udføre flere søgninger (typisk 2-3) pr. brugerprompt, hver med en unik søgefrase. Søgninger udføres sekventielt, og modellen kan opdatere sin tilgang baseret på oplysninger hentet i tidligere søgninger.

  • Effektive anvendelser: Mere velegnet til komplekse spørgsmål, der kræver flere målrettede søgninger på tværs af omfattende dokumentation.

Eksempler på forespørgsler:

  • “Hvad er HR-politikkerne for tidlig pension, forældreorlov og udstationering i udlandet?”

  • “Forklar, hvad funktionen process_order gør, angiv alle metoder, som denne funktion kalder, og beskriv kort hver kaldt metode.”

På trods af deres styrker kan o-seriens modeller have svært ved forespørgsler, der kræver mere end tre søgninger.

Tips til at forbedre filsøgeresultater

  • Prøv at bruge en model fra o-serien til komplekse spørgsmål, der kræver flere søgninger.

  • Husk, at svar kan variere afhængigt af typen, antallet og størrelsen af de dokumenter, du uploader.

  • Generelt vil indlæsning af færre, fokuserede dokumenter føre til højere nøjagtighed.

  • Gør emner med flere spørgsmål til enkeltspørgsmål:

    • Hvis du har brug for at kende hver stats HR-politikker, så spørg om dem én ad gangen.

    • Hvis du har brug for at opsummere mange dokumenter, så bed om ét dokument ad gangen. Hvis dokumentet er mange hundrede sider langt, kan du overveje at opdele det i mindre komponenter.

      • Du kan bede ChatGPT Enterprise om at skrive et “resumé af resuméer”, hvis du giver det flere resuméer i stedet for hele dokumenter.

    • Hvis du har en CSV med en RFP (hver linje er et forskelligt spørgsmål), så stil spørgsmålene ét ad gangen i stedet for blot at indlæse CSV'en og bede om et enkelt svar.

  • Find måder at auditere modellens svar på. Eksempel på GPT-instruktioner findes nedenfor:

# Kontekst 

Du er ekspert i at forstå dokumenter. Brugeren vil vedhæfte et dokument og stille et spørgsmål. De skal kunne koble dit svar tilbage til den nøjagtige del af teksten, hvor du hentede dit svar fra.

# Instruktioner

1. Besvar brugerens spørgsmål baseret på det vedhæftede dokument ved hjælp af det nøjagtige format nedenfor

# Format

- Spørgsmål: { gentag brugerens spørgsmål }
- Svar: { giv et svar på brugerens spørgsmål }
Kilde:
- - Afsnitsnummer: { angiv afsnitsnummeret, hvor du hentede svaret }
- - Afsnitstitel: { angiv afsnitstitlen, hvor du hentede svaret }
- - Eksakt tekst: { angiv den eksakte tekst, hvor du hentede svaret fra }

# Regler

- Giv svar, der er klare og præcise
- Giv kun oplysninger, der findes i dokumentet
- Hvis du ikke kan finde svaret i dokumentet, skal du blot svare ”Ingen oplysninger fundet.”

Var denne artikel nyttig?