ChatGPT pot ser útil, però no sempre té raó
ChatGPT està dissenyat per oferir respostes útils a partir de patrons presents en les dades amb què s'ha entrenat. Però, com qualsevol model de llenguatge, pot generar respostes incorrectes o enganyoses. De vegades, pot expressar-se amb seguretat, fins i tot quan s'equivoca.
Aquest fenomen se sol anomenar al·lucinació: es produeix quan el model genera respostes que no s'ajusten als fets, com ara:
Definicions, dates o dades incorrectes
Cites, estudis o citacions inventats, o referències a fonts inexistents
Respostes massa categòriques a preguntes ambigües o complexes
Per això animem els usuaris a fer servir ChatGPT amb esperit crític i a contrastar la informació important amb fonts fiables.
Les noves eines poden millorar l'exactitud de la informació
Segons el teu pla, ChatGPT pot tenir accés a eines que l'ajuden a respondre amb informació més actualitzada o verificable:
| Eina | Què fa |
|---|---|
| Cerca | Permet a ChatGPT cercar informació actual o especialitzada al web i oferir respostes amb fonts citades |
| Intèrpret de codi / Anàlisi de dades | Permet fer càlculs precisos, visualitzacions de dades i raonaments lògics estructurats |
| Recerca profunda | Ofereix respostes amb citacions de diverses fonts del web i del coneixement intern |
ChatGPT no ho sap tot
Tot i que els nostres models més recents tenen grans capacitats, també tenen limitacions:
Data de tall del coneixement: els models s'entrenen amb dades fins a una data determinada i les respostes no incorporen informació sobre esdeveniments posteriors, tret que es facin servir eines.
La seguretat no implica fiabilitat: el model pot expressar-se amb molta seguretat fins i tot quan les respostes són incorrectes.
Manca d'accés: pot ser que el model no pugui obtenir informació rellevant d'un lloc web concret per problemes tècnics, murs de pagament o preferències establertes mitjançant robots.txt.
Biaixos i simplificació excessiva: en alguns casos, pot:
Presentar un únic punt de vista com una veritat absoluta
Simplificar en excés qüestions complexes o amb matisos
Distorsionar el pes del consens científic o del debat social
Text generat per IA i autoria
ChatGPT no pot determinar de manera fiable si un text s'ha generat amb IA o si l'ha escrit ell mateix. Pot inventar-se respostes a preguntes com ara "Has escrit tu aquest assaig?" o "Aquest text podria haver estat escrit per una IA?" Aquestes respostes no són proves fiables d'autoria.
L'accés de ChatGPT a internet
En general, sí. Tot i que ChatGPT no cerca al web si no té activades eines específiques, aquestes eines estan activades per defecte en tots els models.
Sense la cerca activada: les respostes es basen en allò que el model ha après durant l'entrenament.
Amb la cerca o la recerca profunda: pot accedir a fonts del web en temps real i citar-les per respondre preguntes amb informació més recent.
Per saber si la cerca està activada, comprova si les icones de cerca o de recerca profunda estan activades a la barra d'entrada quan escrius a ChatGPT, o si la resposta cita fonts del web.
Consells pràctics per fer servir ChatGPT de manera responsable
Fes servir ChatGPT com a primer esborrany, no com a font final. Comprova la informació important.
Verifica sempre les citacions, les dades, la informació tècnica o les referències a documents externs.
Fes servir eines disponibles com la cerca o la recerca profunda i comprova les fonts, quan la precisió sigui important, visitant els enllaços directament.
Fomenta el pensament crític, especialment en entorns educatius.