OpenAI
Questa pagina è stata tradotta automaticamente. Visualizza l'articolo originale in inglese.

Ottimizzare il caricamento dei file in ChatGPT Enterprise

Scopri come ChatGPT Enterprise gestisce i file in base al tipo, al numero e alle dimensioni e come migliorare i risultati.

Aggiornato: 4 hours ago

ChatGPT Enterprise ora supporta la lettura e la comprensione degli elementi visivi (immagini, grafici, diagrammi, ecc.) incorporati nei file PDF inclusi nei prompt. Gli utenti possono caricare un PDF e ChatGPT può interpretarne il testo e gli eventuali elementi visivi.

Per i dettagli, consulta le domande frequenti sul recupero visivo nei PDF.

ChatGPT Enterprise consente di caricare file in diversi modi:

Questa guida spiega come le funzionalità di ChatGPT Enterprise gestiscono i file in base al tipo, al numero e alle dimensioni e illustra le strategie per migliorare i risultati in funzione dei requisiti dei file.

Riepilogo

ChatGPT Enterprise tratta i vari tipi di file in modi molto diversi: estrae il testo da documenti come PDF, presentazioni e file Word, analizza i dati strutturati dei fogli di calcolo tramite codice Python e descrive i file di immagine tramite GPT-Vision. Capire quale flusso di lavoro viene attivato da ciascun tipo di file è fondamentale per ottenere il risultato atteso.

Per i documenti di testo, ChatGPT Enterprise include quanto più testo pertinente possibile direttamente insieme al prompt e utilizza un sistema di ricerca per accedere a ulteriori informazioni. Questo metodo funziona bene per rispondere a domande specifiche. Tuttavia, questo approccio può incontrare difficoltà con attività complesse, come riassumere documenti molto lunghi o confrontare più file di grandi dimensioni. Continua a leggere per scoprire le strategie per migliorare i risultati.

Gestione dei file in base al tipo

ChatGPT Enterprise elabora i file in tre modi principali: estrazione del testo, analisi tramite codice e interpretazione delle immagini. Il tipo di file determina il flusso di lavoro seguito da ChatGPT Enterprise.

Recupero testualeCode InterpreterElaborazione delle immaginiRecupero visivo
Esempi di tipi di filepptx, docx, txt, md, json, xml, pdf*
* PDF caricati come

conoscenze di un GPT
o

file di progetto
csv, xls, xlsx*
*Nota: Code Interpreter può operare su qualsiasi tipo di file, ma ChatGPT Enterprise lo utilizza per impostazione predefinita soprattutto per i fogli di calcolo
jpg, pngpdf*
* PDF inclusi nei prompt degli utenti
ComportamentoEstrae il testo dal file: una parte viene incollata (“inserita”) direttamente nella finestra di contesto; un'altra viene archiviata per la ricercaCode Interpreter passa il file a Python per l'elaborazioneLe immagini vengono interpretate in modo nativo da modelli multimodali, con alcune

limitazioni note.
Una combinazione di recupero testuale ed elaborazione delle immagini. Il testo viene estratto digitalmente e i contenuti visivi vengono interpretati in modo nativo da modelli multimodali.

Per i file di solo testo, i file di immagine o i file con dati chiaramente strutturati (ad esempio una tabella Excel di transazioni), questa suddivisione garantisce la gestione più efficace.

Esistono alcuni casi meno ovvi, ad esempio:

  • Le immagini incorporate in file diversi dai PDF non vengono elaborate. Per includerle, converti il file in PDF prima di caricarlo.

  • ChatGPT Enterprise utilizza sempre Code Interpreter per interagire con i fogli di calcolo, anche se il documento contiene molto testo. Ad esempio, se chiedi a ChatGPT Enterprise di tradurre un file CSV con 10 righe di testo, tenterà di tradurlo utilizzando una libreria Python, un metodo meno accurato rispetto alla traduzione generata direttamente dal modello. Per ovviare a questo problema, prova a esportare il foglio di calcolo in un formato testuale (ad esempio PDF).

  • Analogamente, se carichi una tabella strutturata di transazioni contenuta in un file JSON, ChatGPT Enterprise interpreterà il file come testo semplice. Se vuoi analizzare i dati contenuti in un file JSON, indica nel prompt che il modello deve utilizzare Code Interpreter.

Gestione dei file in base alle dimensioni

ChatGPT Enterprise usa modelli con una finestra di contesto massima di 128k token (circa 200 pagine di testo). Tuttavia, non tutti i token vengono usati per incorporare il testo dei file caricati. Il numero di token “inseriti” varia in base al tipo di utilizzo.

ChatGPT Enterprise “inserisce” una certa quantità di testo e il testo rimanente viene inviato a un indice di ricerca privato (un “vector store”, ovvero un tipo di database progettato per archiviare e recuperare in modo efficiente grandi quantità di testo). Quando poni una domanda, ChatGPT Enterprise include il testo inserito insieme ai blocchi pertinenti recuperati da un indice di ricerca privato.

Se carichi un singolo documento, ChatGPT Enterprise include il testo a partire dall'inizio fino al raggiungimento del limite. Se carichi più documenti, ChatGPT Enterprise include una parte o la totalità di ciascun documento. Tutto il testo dei documenti viene inviato anche a un indice di ricerca privato.

Inserimento del contesto per documenti di testo

Questa funzionalità è in fase di sviluppo attivo. Pertanto, i dettagli seguenti sono soggetti a modifiche senza preavviso.

ChatGPT Enterprise può elaborare nella finestra di contesto fino a 110.000 token provenienti dai documenti caricati. Se carichi uno o più documenti con un totale complessivo inferiore a 110.000 token, il contenuto verrà incluso per intero.

Se un singolo documento supera i 110.000 token, verranno inclusi solo i primi 110.000 token, a partire dall'inizio. Il resto verrà inviato solo all'indice di ricerca privato.

Se vengono caricati più documenti e il totale complessivo supera i 110.000 token, ChatGPT Enterprise utilizza la seguente procedura per includere i documenti in modo equilibrato:

  1. Estrae fino a 55.000 token, ripartiti in parti uguali tra i documenti caricati.

  2. Per i documenti non inclusi per intero nel primo passaggio, assegna i restanti 55.000 token in proporzione ai token rimanenti in ciascun documento.

  3. Gli eventuali token rimanenti vengono inviati solo all'indice di ricerca privato.

Puoi stimare il numero di token di un documento di testo copiandone il testo nel Tokenizer di OpenAI.

Inserimento nel contesto dei PDF multimediali

Quando gli utenti caricano PDF contenenti sia testo che immagini, il recupero visivo consente a ChatGPT di elaborare queste immagini in modo nativo insieme al testo estratto digitalmente. Per i PDF multimediali, i seguenti passaggi integrano le nostre procedure standard di gestione del contesto:

  • Estrazione e incorporamento delle immagini: le immagini vengono estratte e incorporate insieme al testo digitale associato.

  • Ridimensionamento intelligente: le immagini vengono ridimensionate automaticamente per mantenere un equilibrio tra qualità delle informazioni e uso efficiente della finestra di contesto disponibile.

Quando i PDF caricati superano il limite di 110.000 token, sia le immagini che il testo vengono incorporati nell'indice di ricerca privato. Gli embedding del testo rimandano alle immagini pertinenti, consentendo a ChatGPT di recuperare le coppie testo-immagine appropriate in base alle richieste degli utenti. Le immagini recuperate vengono quindi elaborate tramite le funzionalità multimodali native di ChatGPT.

È difficile stimare con precisione il numero di token necessari per i PDF multimediali. I test indicano che circa 350 pagine contenenti testo e immagini occupano l'intera finestra di contesto di 110.000 token.

Strategie di ricerca in base al tipo di modello

Sia i modelli della serie GPT sia quelli della serie o supportano i caricamenti di file e utilizzano la stessa logica di inserimento del contesto e di embedding di ricerca. Tutti i modelli eseguono ricerche ibride su un indice di ricerca privato, combinando metodi basati su parole chiave e semantici. In una ricerca ibrida, il modello genera una frase di ricerca in base al prompt dell'utente e l'indice di ricerca privato recupera di conseguenza testo e immagini pertinenti.

Tuttavia, questi modelli differiscono nel modo in cui cercano all'interno di documenti di grandi dimensioni che superano la finestra di contesto:

Modelli della serie GPT

  • Una sola ricerca per prompt: i modelli della serie GPT eseguono una ricerca per ogni prompt dell'utente.

  • Casi d'uso ideali: perfetti per rispondere a domande semplici le cui risposte si trovano all'interno di una documentazione estesa.

Esempi di query:

  • «Qual è la politica delle risorse umane in materia di pensionamento anticipato?»

  • «Cosa fa la funzione process_order?»

Modelli della serie o

  • Più ricerche per prompt: possono eseguire più ricerche (in genere 2-3) per ogni prompt dell'utente, ciascuna con una frase di ricerca specifica. Le ricerche vengono eseguite in sequenza e il modello può adattare il proprio approccio in base alle informazioni recuperate nelle ricerche precedenti.

  • Casi d'uso ideali: più adatti a domande complesse che richiedono più ricerche mirate all'interno di una documentazione estesa.

Esempi di query:

  • «Quali sono le politiche delle risorse umane in materia di pensionamento anticipato, congedo parentale e trasferimento all'estero?»

  • «Spiega cosa fa la funzione process_order, elenca tutti i metodi che richiama e descrivi brevemente ciascuno di essi.»

Nonostante i loro punti di forza, i modelli della serie o possono incontrare difficoltà quando una query richiede più di tre ricerche.

Suggerimenti per migliorare i risultati della ricerca nei file

  • Prova a usare un modello della serie o per domande complesse che richiedono più ricerche.

  • Ricorda che le risposte possono variare a seconda del tipo, del numero e delle dimensioni dei documenti che carichi.

  • In generale, caricare meno documenti e più mirati porterà a una maggiore accuratezza.

  • Trasforma gli argomenti con più domande in domande singole:

    • Se devi conoscere le policy HR di ogni stato, chiedile una alla volta.

    • Se devi riassumere molti documenti, chiedi un documento alla volta. Se quel documento è lungo molte centinaia di pagine, valuta di suddividerlo in componenti più piccoli.

      • Potresti chiedere a ChatGPT Enterprise di scrivere un “riassunto dei riassunti” se gli fornisci più riassunti anziché interi documenti.

    • Se hai un CSV di una RFP (ogni riga è una domanda diversa), poni quelle domande una alla volta invece di caricare semplicemente il CSV e richiedere un'unica risposta.

  • Trova modi per verificare le risposte del modello. Di seguito sono riportate istruzioni GPT di esempio:

# Contesto 

Sei un esperto nella comprensione dei documenti. L'utente allegherà un documento e farà una domanda. Deve poter collegare la tua risposta alla parte esatta del testo da cui hai ricavato la risposta.

# Istruzioni

1. Rispondi alla domanda dell'utente in base al documento allegato usando il formato esatto fornito di seguito

# Formato

- Domanda: { repeat user's question }
- Risposta: { provide an answer to user's question }
Fonte:
- - Numero sezione: { provide section number where you pulled in the answer }
- - Titolo sezione: { provide section title where you pulled in the answer }
- - Testo esatto: { provide the exact text where you pulled the answer from }

# Regole

- Fornisci risposte chiare e concise
- Fornisci solo informazioni presenti nel documento
- Se non riesci a trovare la risposta nel documento, rispondi semplicemente "Nessuna informazione trovata."

Questo articolo è stato utile?