ChatGPT kann hilfreich sein – aber es liegt nicht immer richtig
ChatGPT wurde entwickelt, um nützliche Antworten auf Basis von Mustern in den Daten zu liefern, mit denen es trainiert wurde. Aber wie jedes Sprachmodell kann es falsche oder irreführende Ausgaben erzeugen. Manchmal klingt es sehr überzeugend – selbst wenn es falschliegt.
Dieses Phänomen wird oft als Halluzination bezeichnet: wenn das Modell Antworten erzeugt, die nicht faktisch korrekt sind, zum Beispiel:
Falsche Definitionen, Daten oder Fakten
Erfundene Zitate, Studien, Quellenangaben oder Verweise auf nicht existierende Quellen
Übermäßig selbstsichere Antworten auf mehrdeutige oder komplexe Fragen
Deshalb empfehlen wir Nutzerinnen und Nutzern, ChatGPT kritisch zu nutzen und wichtige Informationen anhand zuverlässiger Quellen zu überprüfen.
Neue Tools können die faktische Genauigkeit verbessern
Je nach Abo kann ChatGPT Zugriff auf Tools haben, die helfen, mit aktuelleren oder überprüfbaren Informationen zu antworten:
| Tool | Funktion |
| Suche | Ermöglicht ChatGPT, aktuelle oder spezielle Informationen im Web nachzuschlagen und Antworten mit Quellenangaben bereitzustellen |
| Code Interpreter / Datenanalyse | Ermöglicht genaue Berechnungen, Datenvisualisierungen und strukturierte Logik |
| Tiefenrecherche | Bietet quellenbasierte Antworten aus mehreren Quellen über das Web und internes Wissen hinweg |
ChatGPT weiß nicht alles
Auch wenn unsere neuesten Modelle sehr leistungsfähig sind, haben sie Einschränkungen:
Wissensstand: Die Modelle werden mit Daten bis zu einem bestimmten Zeitpunkt trainiert, und Antworten enthalten keine Informationen zu Ereignissen danach – es sei denn, es werden Tools verwendet.
Selbstsicherheit ist nicht Zuverlässigkeit: Das Modell kann auch bei falschen Antworten sehr sicher wirken.
Kein Zugriff: Das Modell kann unter Umständen aufgrund technischer Probleme, Paywalls oder über robots.txt festgelegter Einstellungen keine relevanten Informationen von einer bestimmten Website abrufen.
Bias und Übervereinfachung: In manchen Fällen kann es:
Eine einzelne Perspektive als absolute Wahrheit darstellen
Komplexe oder nuancierte Themen zu stark vereinfachen
Das Gewicht des wissenschaftlichen Konsenses oder gesellschaftlicher Debatten falsch darstellen
Hat ChatGPT Zugriff auf das Internet?
Im Allgemeinen ja. Zwar durchsucht ChatGPT das Web nicht, sofern nicht bestimmte Tools aktiviert sind, aber diese Tools sind standardmäßig für alle Modelle aktiviert.
Ohne aktivierte Suche: Antworten basieren auf dem, was das Modell während des Trainings gelernt hat.
Mit Suche oder Tiefenrecherche: Es kann in Echtzeit auf Webquellen zugreifen, diese zitieren und Fragen mit aktuelleren Informationen beantworten.
Um zu prüfen, ob die Suche aktiviert ist, schauen Sie nach, ob die Suche- oder Tiefenrecherche-Symbole in der Eingabeleiste beim Tippen in ChatGPT aktiviert sind oder ob in der Antwort auf Quellen aus dem Web verwiesen wird.
Praxistipps für den verantwortungsvollen Einsatz von ChatGPT
Nutzen Sie ChatGPT als ersten Entwurf, nicht als endgültige Quelle. Bitte prüfen Sie wichtige Informationen.
Überprüfen Sie immer Zitate, Daten, technische Informationen oder Verweise auf externe Dokumente.
Nutzen Sie verfügbare Tools wie Suche oder Tiefenrecherche und prüfen Sie Quellen, wenn Genauigkeit wichtig ist, indem Sie Links direkt aufrufen.
Fördern Sie kritisches Denken – insbesondere im Bildungsbereich.