OpenAI
Denne siden ble maskinoversatt. Se den opprinnelige engelske artikkelen.

Optimalisere filopplastinger i ChatGPT Enterprise

Lær hvordan ChatGPT Enterprise håndterer filer ut fra type, antall og størrelse, og hvordan du kan få bedre resultater.

Oppdatert: 7 days ago

ChatGPT Enterprise støtter nå lesing og forståelse av visuelt innhold (bilder, grafer, diagrammer osv.) som er innebygd i PDF-filer som legges ved prompter. Brukere kan laste opp en PDF, og ChatGPT kan tolke teksten og eventuelle visuelle elementer i filen.

Se Vanlige spørsmål om visuell gjenfinning i PDF-er for mer informasjon.

Med ChatGPT Enterprise kan du laste opp filer på flere måter:

Denne veiledningen forklarer hvordan funksjonene i ChatGPT Enterprise håndterer filer ut fra type, antall og størrelse, og gjennomgår strategier for å få bedre resultater ut fra filenes krav.

Oppsummering

ChatGPT Enterprise behandler ulike filtyper svært forskjellig: Den henter ut tekst fra tekstdokumenter som PDF-er, presentasjoner og Word-filer, analyserer strukturerte data fra regneark med Python-kode og beskriver bildefiler med GPT-Vision. For å få forventet resultat er det viktig å forstå hvilken arbeidsflyt hver filtype utløser.

For tekstbaserte dokumenter inkluderer ChatGPT Enterprise så mye relevant tekst som mulig direkte sammen med prompten, og bruker et søkesystem for å få tilgang til ytterligere informasjon. Dette fungerer godt for å besvare konkrete spørsmål. Denne fremgangsmåten kan imidlertid komme til kort ved komplekse oppgaver som å oppsummere svært store dokumenter eller sammenligne flere store filer. Les videre for å lære strategier som kan gi deg bedre resultater.

Håndtering av filer etter type

ChatGPT Enterprise behandler filer på tre hovedmåter: tekstuthenting, analyse med kode og bildetolkning. Filtypen avgjør hvilken arbeidsflyt ChatGPT Enterprise følger.

Tekstbasert gjenfinningKodetolkerBildebehandlingVisuell gjenfinning
Eksempler på filtyperpptx, docx, txt, md, json, xml, pdf*
* PDF-er lastet opp som

GPT-kunnskap
eller

prosjektfiler
csv, xls, xlsx*
*Merk: Kodetolker kan behandle alle filtyper, men ChatGPT Enterprise bruker som regel Kodetolker som standard for regneark
jpg, pngpdf*
* PDF-er som legges ved brukerprompter
VirkemåteHenter ut teksten fra filen – noe av teksten limes inn («fylles inn») direkte i kontekstvinduet, mens noe lagres for søkKodetolker sender filen til Python for behandlingBilder tolkes direkte av multimodale modeller, med

kjente begrensninger.
En kombinasjon av tekstgjenfinning og bildebehandling. Tekst hentes ut digitalt, og visuelt innhold tolkes direkte av multimodale modeller.

For rene tekstfiler, bildefiler eller filer med tydelig strukturerte data (f.eks. en Excel-tabell med transaksjoner) gir denne inndelingen best mulig behandling.

Det finnes noen gråsoner der behandlingen er mindre opplagt, for eksempel:

  • Bilder som er innebygd i andre filer enn PDF-er, blir ikke behandlet. For å få dem med må du konvertere filen til PDF før du laster den opp.

  • ChatGPT Enterprise bruker alltid Kodetolker til å arbeide med regneark, selv om dokumentet inneholder store mengder tekst. Hvis du for eksempel ber ChatGPT Enterprise om å oversette en CSV-fil med 10 rader tekst, vil den forsøke å oversette filen med et Python-bibliotek. Det er mindre nøyaktig enn å la modellen generere en oversettelse direkte. For å unngå dette kan du prøve å eksportere regnearket til et tekstbasert format, for eksempel PDF.

  • Tilsvarende vil ChatGPT Enterprise tolke filen som ren tekst hvis du laster opp en JSON-fil som inneholder en strukturert tabell med transaksjoner. Hvis du vil analysere dataene i en JSON-fil, må du be modellen om å bruke Kodetolker i prompten.

Håndtering av filer basert på størrelse

ChatGPT Enterprise bruker modeller med et maksimalt kontekstvindu på 128k token (omtrent 200 sider med tekst). Det er imidlertid ikke alle token som brukes til å innlemme teksten fra opplastede filer. Antallet «innfylte» token varierer etter brukstype.

ChatGPT Enterprise «fyller inn» en viss mengde tekst, og den gjenværende teksten sendes til en privat søkeindeks (et «vektorlager», som er en type database utviklet for å lagre og hente store mengder tekst effektivt). Når du stiller et spørsmål, henter ChatGPT Enterprise inn den inkluderte teksten sammen med relevante utdrag hentet fra en privat søkeindeks.

Hvis du laster opp ett enkelt dokument, inkluderer ChatGPT Enterprise tekst fra begynnelsen til grensen er nådd. Hvis du laster opp flere dokumenter, inkluderer ChatGPT Enterprise noe eller alt av hvert dokument. All tekst fra dokumentene sendes også til en privat søkeindeks.

Kontekstfylling for tekstdokumenter

Denne funksjonen er under aktiv utvikling. Derfor kan detaljene nedenfor endres uten varsel.

ChatGPT Enterprise kan behandle opptil 110 000 token fra opplastede dokumenter i kontekstvinduet. Hvis du laster opp ett eller flere dokumenter med til sammen færre enn 110 000 token, blir hele innholdet inkludert.

For et enkelt dokument med mer enn 110 000 token inkluderes bare de første 110 000 tokenene, regnet fra starten. Resten sendes bare til den private søkeindeksen.

Hvis du laster opp flere dokumenter som til sammen overstiger 110 000 token, bruker ChatGPT Enterprise følgende prosess for å balansere hvor mye som tas med fra hvert dokument:

  1. Hent ut opptil 55 000 token, fordelt likt mellom de opplastede dokumentene.

  2. For dokumenter som ikke ble inkludert i sin helhet i første trinn, fordeles de resterende 55 000 tokenene proporsjonalt ut fra antallet token som gjenstår i hvert dokument.

  3. Eventuelle gjenværende token sendes bare til den private søkeindeksen.

Du kan anslå antallet token i et tekstdokument ved å kopiere teksten fra dokumentet til OpenAIs tokeniseringsverktøy.

Innlegging av innhold i kontekstvinduet for PDF-er med tekst og bilder

Når brukere laster opp PDF-er med både tekst og bilder, gjør visuell gjenfinning det mulig for ChatGPT å behandle bildene direkte sammen med digitalt uthentet tekst. Følgende trinn supplerer våre standardprosedyrer for konteksthåndtering når PDF-er inneholder både tekst og bilder:

  • Uthenting og innlegging av bilder: Bilder hentes ut og legges inn sammen med den tilhørende digitale teksten.

  • Intelligent skalering: Bilder skaleres automatisk for å balansere informasjonskvalitet og effektiv bruk av det tilgjengelige kontekstvinduet.

Når opplastede PDF-er overskrider grensen på 110 000 token, lagres både bilder og tekst som vektorrepresentasjoner i den private søkeindeksen. Vektorrepresentasjonene av teksten viser til relevante bilder, slik at ChatGPT kan hente de riktige tekst- og bildeparene basert på brukerens spørsmål. Bildene som hentes, behandles deretter med ChatGPTs innebygde multimodale funksjoner.

Det er vanskelig å anslå nøyaktig hvor mange token som trengs for PDF-er med tekst og bilder. Tester tyder på at omtrent 350 sider med en blanding av tekst og bilder vil fylle kontekstvinduet på 110 000 token.

Søkestrategier basert på modelltype

Både modeller i GPT-serien og o-serien støtter filopplastinger og bruker identisk logikk for kontekstfylling og søke-embeddings. Alle modeller utfører hybridsøk mot en privat søkeindeks, som kombinerer nøkkelordbaserte og semantiske metoder. I et hybridsøk genererer modellen en søkefrase basert på brukerens prompt, og den private søkeindeksen henter relevant tekst og relevante bilder deretter.

Disse modellene skiller seg imidlertid fra hverandre i hvordan de søker gjennom store dokumenter som overskrider kontekstvinduet:

modeller i GPT-serien

  • Ett søk per prompt: Modeller i GPT-serien utfører ett søk per brukerprompt.

  • Egnede bruksområder: Ideell for å besvare enkle spørsmål i omfattende dokumentasjon.

Eksempler på spørringer:

  • «Hvilke HR-retningslinjer gjelder for tidligpensjon?»

  • «Hva gjør funksjonen process_order?»

modeller i o-serien

  • Flere søk per prompt: Kan utføre flere søk (vanligvis 2–3) per brukerprompt, hvert med en unik søkefrase. Søkene utføres i rekkefølge, og modellen kan tilpasse fremgangsmåten basert på informasjon fra tidligere søk.

  • Egnede bruksområder: Passer bedre til komplekse spørsmål som krever flere målrettede søk i omfattende dokumentasjon.

Eksempler på spørringer:

  • «Hvilke HR-retningslinjer gjelder for tidligpensjon, foreldrepermisjon og overføring til utlandet?»

  • «Forklar hva funksjonen process_order gjør, oppgi alle metodene den kaller, og beskriv kort hver av dem.»

Til tross for styrkene sine kan modeller i o-serien få problemer når en spørring krever mer enn tre søk.

Tips for å forbedre filsøkeresultater

  • Prøv å bruke en modell i o-serien for komplekse spørsmål som krever flere søk.

  • Husk at svar kan variere avhengig av typen, antallet og størrelsen på dokumentene du laster opp.

  • Generelt vil færre, fokuserte dokumenter gi høyere nøyaktighet.

  • Gjør emner med flere spørsmål om til enkeltspørsmål:

    • Hvis du trenger å vite HR-retningslinjene for alle delstater, kan du spørre om dem én etter én.

    • Hvis du trenger å oppsummere mange dokumenter, kan du be om ett dokument om gangen. Hvis dokumentet er mange hundre sider langt, bør du vurdere å dele det opp i mindre deler.

      • Du kan be ChatGPT Enterprise om å skrive en «oppsummering av oppsummeringer» hvis du mater den med flere oppsummeringer i stedet for hele dokumenter.

    • Hvis du har en CSV-fil for en RFP (der hver linje er et annet spørsmål), bør du stille spørsmålene ett etter ett i stedet for bare å laste inn CSV-filen og be om ett enkelt svar.

  • Finn måter å revidere modellens svar på. Eksempel på GPT-instruksjoner følger nedenfor:

# Kontekst 

Du er ekspert på å forstå dokumenter. Brukeren kommer til å legge ved et dokument og stille et spørsmål. De må kunne knytte svaret ditt tilbake til den nøyaktige delen av teksten der du hentet svaret fra.

# Instruksjoner

1. Svar på brukerens spørsmål basert på det vedlagte dokumentet ved å bruke nøyaktig formatet nedenfor

# Format

- Spørsmål: { gjenta brukerens spørsmål }
- Svar: { gi et svar på brukerens spørsmål }
Kilde:
- - Seksjonsnummer: { oppgi seksjonsnummeret der du hentet svaret }
- - Seksjonstittel: { oppgi seksjonstittelen der du hentet svaret }
- - Nøyaktig tekst: { oppgi den nøyaktige teksten der du hentet svaret fra }

# Regler

- Gi svar som er tydelige og konsise
- Oppgi bare informasjon som finnes i dokumentet
- Hvis du ikke finner svaret i dokumentet, svar ganske enkelt «Ingen informasjon funnet.»

Var denne artikkelen nyttig?