ChatGPT peut être utile, mais il n’a pas toujours raison
ChatGPT est conçu pour fournir des réponses utiles à partir de régularités dans les données sur lesquelles il a été entraîné. Mais comme tout modèle de langage, il peut produire des réponses incorrectes ou trompeuses. Il peut parfois sembler sûr de lui, même lorsqu’il se trompe.
Ce phénomène est souvent appelé une hallucination : le modèle produit alors des réponses qui ne sont pas exactes sur le plan factuel, par exemple :
Des définitions, des dates ou des faits incorrects
Des citations ou des études inventées, ou des références à des sources inexistantes
Des réponses trop assurées à des questions ambiguës ou complexes
C’est pourquoi nous encourageons les utilisateurs à faire preuve d’esprit critique envers ChatGPT et à vérifier les renseignements importants auprès de sources fiables.
De nouveaux outils peuvent améliorer l’exactitude des faits
Selon votre forfait, ChatGPT peut avoir accès à des outils qui l’aident à répondre avec des renseignements plus à jour ou vérifiables :
| Outil | Fonction |
|---|---|
| Recherche | Permet à ChatGPT de chercher des renseignements récents ou spécialisés sur le Web et de fournir des réponses avec des sources |
| Interpréteur de code / Analyse de données | Permet d’effectuer des calculs précis, de visualiser des données et d’appliquer une logique structurée |
| Recherche approfondie | Fournit des réponses avec des sources multiples tirées du Web et des connaissances internes |
ChatGPT ne sait pas tout
Bien que nos derniers modèles soient très performants, ils ont des limites :
Date limite des connaissances : Les modèles sont entraînés sur des données recueillies jusqu’à une certaine date. Leurs réponses n’intègrent pas de renseignements sur les événements ultérieurs, sauf si des outils sont utilisés.
L’assurance n’est pas gage de fiabilité : Le modèle peut exprimer une grande assurance même lorsque ses réponses sont incorrectes.
Accès limité : Le modèle peut ne pas être en mesure d’obtenir des renseignements pertinents sur un site Web donné en raison de problèmes techniques, de restrictions d’accès payant ou de préférences définies dans le fichier robots.txt.
Biais et simplification excessive : Dans certains cas, il peut :
Présenter un seul point de vue comme une vérité absolue
Simplifier à l’excès des questions complexes ou nuancées
Déformer l’importance du consensus scientifique ou du débat social
Texte généré par l’IA et attribution à un auteur
ChatGPT ne peut pas déterminer de façon fiable si un texte a été généré par l’IA ou s’il en est l’auteur. Il peut inventer des réponses à des questions comme « As-tu rédigé cette dissertation? » ou « Ce texte aurait-il pu être rédigé par l’IA? » Ces réponses ne constituent pas une preuve fiable de l’identité de l’auteur.
L’accès de ChatGPT à Internet
En général, oui. Bien que ChatGPT ne fasse pas de recherche sur le Web à moins que des outils précis soient activés, ces outils sont activés par défaut pour tous les modèles.
Sans la recherche activée : Les réponses reposent sur ce que le modèle a appris pendant son entraînement.
Avec la recherche ou la recherche approfondie : Il peut accéder à des sources Web en temps réel et les citer pour répondre aux questions avec des renseignements plus récents.
Pour vérifier si la recherche est activée, regardez si les icônes de recherche ou de recherche approfondie sont activées dans la barre de saisie lorsque vous écrivez dans ChatGPT, ou si des sources Web sont citées dans la réponse.
Conseils pratiques pour utiliser ChatGPT de façon responsable
Utilisez ChatGPT comme première ébauche, et non comme source finale. Veuillez vérifier les informations importantes.
Vérifiez toujours les citations, les données, les informations techniques ou les références à des documents externes.
Utilisez les outils disponibles comme la recherche ou la recherche approfondie, et vérifiez les sources lorsque l’exactitude est importante en visitant les liens directement.
Encouragez la pensée critique, surtout dans les milieux éducatifs.