ChatGPT ist nicht frei von Verzerrungen und Stereotypen. Daher sollten Nutzer*innen und Lehrkräfte seine Inhalte sorgfältig prüfen. Es ist wichtig, Inhalte kritisch zu bewerten, die Vorurteile oder Stereotype vermitteln oder verstärken könnten. Die Minderung von Verzerrungen ist für uns ein fortlaufendes Forschungsgebiet, und wir freuen uns über Feedback, wie wir uns verbessern können.
Hier sind einige Punkte, die Sie beachten sollten:
Das Modell ist auf westliche Sichtweisen ausgerichtet und funktioniert am besten auf Englisch. Einige Maßnahmen zur Vermeidung schädlicher Inhalte wurden nur auf Englisch getestet.
Die dialogische Natur des Modells kann die Vorurteile einer Person im Laufe der Interaktion verstärken. So kann das Modell zum Beispiel der starken Meinung einer Person zu einem politischen Thema zustimmen und dadurch deren Überzeugung bestärken.
Diese Verzerrungen können Schüler*innen schaden, wenn sie bei der Nutzung des Modells für Feedback an Lernende nicht berücksichtigt werden. So kann es etwa Lernende, die Englisch als Zweitsprache lernen, unfair beurteilen.
Lehrkräfte können Lernenden helfen, Verzerrungen zu verstehen und kritisch zu denken, indem sie zeigen, wie bestimmte Fragen zu verzerrten Antworten führen. Beispielsweise könnte eine Lehrkraft Lernende bitten, einen von ChatGPT generierten Aufsatz zu analysieren, der eine bestimmte Sichtweise bevorzugt. Diese Übung kann Lernenden helfen, Verzerrungen auf verschiedenen Plattformen zu erkennen und verantwortungsbewusste digitale Bürger*innen zu sein.