ChatGPT Enterprise teraz podporuje čítanie a porozumenie vizuálom (obrázkom, grafom, diagramom atď.) vloženým v súboroch PDF zahrnutých v príkazoch. Používatelia môžu nahrať PDF a ChatGPT dokáže interpretovať text aj všetky vizuálne prvky v tomto súbore.
Podrobnosti nájdete v článku Časté otázky o vizuálnom vyhľadávaní v PDF.
ChatGPT Enterprise umožňuje nahrávať súbory niekoľkými spôsobmi:
Priamo z počítača
Zo služieb Google Drive, SharePoint alebo OneDrive
Ako znalosti GPT
Ako súbor projektu
Táto príručka vysvetľuje, ako funkcie ChatGPT Enterprise spracúvajú súbory podľa ich typu, počtu a veľkosti, a opisuje stratégie na zlepšenie výstupov podľa požiadaviek na súbory.
Zhrnutie
ChatGPT Enterprise spracúva rôzne typy súborov veľmi odlišne: z textových dokumentov, ako sú súbory PDF, prezentácie a dokumenty Word, extrahuje text, štruktúrované údaje z tabuliek analyzuje pomocou kódu Python a obrazové súbory opisuje prostredníctvom GPT-Vision. Ak chcete dosiahnuť očakávaný výsledok, je dôležité vedieť, ktorý typ súboru spúšťa konkrétny pracovný postup.
Pri textových dokumentoch ChatGPT Enterprise vloží čo najviac relevantného textu priamo k príkazu a na prístup k ďalším informáciám používa vyhľadávací systém. Tento postup dobre funguje pri odpovedaní na konkrétne otázky. Pri zložitých úlohách, ako je sumarizácia veľmi rozsiahlych dokumentov alebo porovnávanie viacerých veľkých súborov, však môže byť tento prístup menej úspešný. Čítajte ďalej a oboznámte sa so stratégiami na zlepšenie výsledkov.
Spracovanie súborov podľa typu
ChatGPT Enterprise spracúva súbory tromi hlavnými spôsobmi: extrakciou textu, analýzou kódu a interpretáciou obrázkov. Typ súboru určuje, ktorý pracovný postup ChatGPT Enterprise použije.
| Získavanie textových informácií | Code Interpreter | Spracovanie obrázkov | Vizuálne získavanie informácií | |
|---|---|---|---|---|
| Príklady typov súborov | pptx, docx, txt, md, json, xml, pdf* * Súbory PDF nahrané ako znalosti GPT alebo súbory projektu | csv, xls, xlsx* *Poznámka: Code Interpreter dokáže pracovať s akýmkoľvek typom súboru, ale pri tabuľkových súboroch ChatGPT Enterprise najčastejšie predvolene používa CI | jpg, png | pdf* * Súbory PDF zahrnuté v používateľských príkazoch |
| Správanie | Extrahuje text zo súboru – časť textu sa vloží („napchá“) priamo do kontextového okna a časť sa uloží na vyhľadávanie | Code Interpreter odovzdá súbor na spracovanie v jazyku Python | Obrázky natívne interpretujú multimodálne modely, pričom sa na ne vzťahujú známe obmedzenia . | Kombinácia získavania textových informácií a spracovania obrázkov. Text sa extrahuje digitálne a vizuálny obsah natívne interpretujú multimodálne modely. |
Pri čisto textových a obrazových súboroch alebo súboroch s jednoznačne štruktúrovanými údajmi (napríklad excelová tabuľka transakcií) predstavuje toto rozdelenie najlepšie možné správanie.
Existujú však aj menej jednoznačné prípady, napríklad:
Obrázky vložené v iných súboroch než PDF sa nespracujú. Ak ich chcete zahrnúť, pred nahraním skonvertujte súbor do formátu PDF.
ChatGPT Enterprise bude na prácu s tabuľkovými súbormi vždy používať Code Interpreter, aj keď dokument obsahuje veľké množstvo textu. Ak napríklad požiadate ChatGPT Enterprise, aby preložil súbor CSV s 10 riadkami textu, pokúsi sa ho preložiť pomocou knižnice jazyka Python. Tento postup je menej presný než priamy preklad vygenerovaný modelom. Tento problém môžete zmierniť exportovaním tabuľkového súboru do textového formátu, napríklad PDF.
Podobne, ak nahráte štruktúrovanú tabuľku transakcií uloženú v súbore JSON, ChatGPT Enterprise tento súbor interpretuje ako obyčajný text. Ak chcete analyzovať údaje v súbore JSON, v príkaze požiadajte model, aby použil Code Interpreter.
Spracovanie súborov podľa veľkosti
ChatGPT Enterprise používa modely s maximálnym kontextovým oknom 128 tisíc tokenov (približne 200 strán textu). Nie všetky tokeny sa však používajú na zahrnutie textu z nahraných súborov. Počet „vložených“ tokenov sa líši podľa typu použitia.
ChatGPT Enterprise „vloží“ určitú časť textu a zvyšný text sa odošle do súkromného vyhľadávacieho indexu („vektorového úložiska“, čo je typ databázy navrhnutý na efektívne ukladanie a načítanie veľkého množstva textu). Keď položíte otázku, ChatGPT Enterprise prinesie zahrnutý text spolu s relevantnými úryvkami načítanými zo súkromného vyhľadávacieho indexu.
Ak nahráte jeden dokument, ChatGPT Enterprise zahrnie text od začiatku, kým nedosiahne svoj limit. Ak nahráte viacero dokumentov, ChatGPT Enterprise zahrnie časť alebo celý obsah každého dokumentu. Všetok text z dokumentov sa zároveň odošle do súkromného vyhľadávacieho indexu.
Vkladanie kontextu pre textové dokumenty
Táto funkcia je vo fáze aktívneho vývoja. Preto sa nasledujúce podrobnosti môžu zmeniť bez predchádzajúceho upozornenia.
ChatGPT Enterprise dokáže v kontextovom okne spracovať až 110 tisíc tokenov z nahraných dokumentov. Ak nahráte jeden alebo viac dokumentov s celkovým súčtom menej než 110 tisíc tokenov, zahrnie sa celý obsah.
Pri jednom dokumente presahujúcom 110 tisíc tokenov sa zahrnie iba prvých 110 tisíc tokenov, počnúc od začiatku. Zvyšok sa odošle iba do súkromného vyhľadávacieho indexu.
Ak je nahraných viacero dokumentov a ich celkový súčet presahuje 110 tisíc tokenov, ChatGPT Enterprise použije dvojkrokový proces na vyváženie zastúpenia dokumentov:
Extrahuje až 55 tisíc tokenov, rozdelených rovnomerne medzi nahrané dokumenty.
Pre dokumenty, ktoré nie sú v prvom kroku zastúpené úplne, pridelí zostávajúcich 55 tisíc tokenov proporcionálne podľa tokenov zostávajúcich v jednotlivých dokumentoch.
Všetky zostávajúce tokeny sa odošlú iba do súkromného vyhľadávacieho indexu.
Počet tokenov v textovom dokumente môžete odhadnúť skopírovaním textu dokumentu do nástroja OpenAI Tokenizer.
Vkladanie kontextu pre multimediálne PDF
Keď používatelia nahrajú PDF obsahujúce text aj obrázky, vizuálne vyhľadávanie umožní ChatGPT spracovať tieto obrázky natívne spolu s digitálne extrahovaným textom. Nasledujúce kroky dopĺňajú naše štandardné postupy spracovania kontextu pre multimediálne PDF:
Extrakcia a embedding obrázkov: Obrázky sa extrahujú a vkladajú spolu s ich súvisiacim digitálnym textom.
Inteligentné škálovanie: Obrázky sa automaticky škálujú tak, aby sa zachovala rovnováha medzi kvalitou informácií a efektívnym využitím dostupného kontextového okna.
Keď nahrané PDF prekročia limit 110 tisíc tokenov, obrázky aj text sa vložia do súkromného vyhľadávacieho indexu. Textové embeddingy odkazujú na relevantné obrázky, čo umožňuje ChatGPT načítať vhodné páry textu a obrázka na základe dotazov používateľa. Načítané obrázky sa potom spracujú pomocou natívnych multimodálnych schopností ChatGPT.
Presný odhad požiadaviek na tokeny pre multimediálne PDF je náročný. Testovanie naznačuje, že približne 350 strán zmiešaného textu a obrázkov plne využije kontextové okno s kapacitou 110 tisíc tokenov.
Stratégie vyhľadávania podľa typu modelu
Modely série GPT aj série o podporujú nahrávanie súborov a používajú rovnakú logiku vkladania kontextu a vyhľadávacích embeddingov. Všetky modely vykonávajú hybridné vyhľadávania v súkromnom vyhľadávacom indexe, pričom kombinujú kľúčové slová a sémantické metódy. Pri hybridnom vyhľadávaní model vygeneruje vyhľadávaciu frázu na základe príkazu používateľa a súkromný vyhľadávací index podľa toho načíta relevantný text a obrázky.
Tieto modely sa však líšia v tom, ako vyhľadávajú vo veľkých dokumentoch, ktoré presahujú kontextové okno:
Modely série GPT
Jedno vyhľadávanie na jeden príkaz: Modely série GPT vykonajú pre každý používateľský príkaz jedno vyhľadávanie.
Vhodné prípady použitia: Sú ideálne na zodpovedanie jednoduchých otázok ukrytých v rozsiahlej dokumentácii.
Príklady otázok:
„Aké sú pravidlá personálneho oddelenia pre predčasný dôchodok?“
„Čo robí funkcia process_order?“
Modely série o
Viacero vyhľadávaní na jeden príkaz: Pre každý používateľský príkaz dokážu vykonať viacero vyhľadávaní (zvyčajne 2 až 3), každé s jedinečnou vyhľadávacou frázou. Vyhľadávania sa vykonávajú postupne a model môže svoj prístup upravovať podľa informácií získaných pri predchádzajúcich vyhľadávaniach.
Vhodné prípady použitia: Sú vhodnejšie na zložité otázky, ktoré si vyžadujú viacero cielených vyhľadávaní v rozsiahlej dokumentácii.
Príklady otázok:
„Aké sú pravidlá personálneho oddelenia pre predčasný dôchodok, rodičovskú dovolenku a preloženie do zahraničia?“
„Vysvetli, čo robí funkcia process_order, uveď všetky metódy, ktoré táto funkcia volá, a každú z nich stručne opíš.“
Napriek svojim silným stránkam môžu mať modely série o problémy s otázkami, ktoré si vyžadujú viac než tri vyhľadávania.
Tipy na zlepšenie výsledkov vyhľadávania v súboroch
Pri zložitých otázkach vyžadujúcich viacero vyhľadávaní skúste použiť model série o.
Pamätajte, že odpovede sa môžu líšiť v závislosti od typu, počtu a veľkosti dokumentov, ktoré nahráte.
Vo všeobecnosti platí, že načítanie menšieho počtu zameraných dokumentov povedie k vyššej presnosti.
Témy s viacerými otázkami premeňte na jednotlivé otázky:
Ak potrebujete poznať HR zásady každého štátu, pýtajte sa na ne po jednom.
Ak potrebujete zhrnúť veľa dokumentov, pýtajte si vždy jeden dokument naraz. Ak má daný dokument mnoho stoviek strán, zvážte jeho rozdelenie na menšie časti.
Môžete požiadať ChatGPT Enterprise, aby napísal „súhrn súhrnov“, ak mu namiesto celých dokumentov poskytnete viacero súhrnov.
Ak máte CSV s RFP (každý riadok je iná otázka), pýtajte sa na tieto otázky po jednom namiesto toho, aby ste len načítali CSV a požiadali o jednu odpoveď.
Nájdite spôsoby, ako auditovať odpovede modelu. Príklady pokynov pre GPT sú nižšie:
# Kontext
Ste expert na porozumenie dokumentom. Používateľ priloží dokument a položí otázku. Musí byť schopný prepojiť vašu odpoveď s presnou časťou textu, z ktorej ste odpoveď získali.
# Pokyny
1. Odpovedzte na otázku používateľa na základe jeho priloženého dokumentu s použitím presného formátu uvedeného nižšie
# Formát
- Otázka: { zopakujte otázku používateľa }
- Odpoveď: { poskytnite odpoveď na otázku používateľa }
Zdroj:
- - Číslo sekcie: { uveďte číslo sekcie, z ktorej ste prevzali odpoveď }
- - Názov sekcie: { uveďte názov sekcie, z ktorej ste prevzali odpoveď }
- - Presný text: { uveďte presný text, z ktorého ste prevzali odpoveď }
# Pravidlá
- Odpovedajte jasne a stručne
- Uvádzajte iba informácie obsiahnuté v dokumente
- Ak odpoveď v dokumente nenájdete, jednoducho odpovedzte „Nenašli sa žiadne informácie.“