ChatGPT nie jest wolny od uprzedzeń i stereotypów, dlatego użytkownicy i nauczyciele powinni uważnie sprawdzać jego treści. Ważne jest, aby krytycznie oceniać wszelkie treści, które mogą uczyć uprzedzeń i stereotypów lub je utrwalać. Ograniczanie stronniczości to dla nas ciągły obszar badań i zachęcamy do dzielenia się opiniami, jak możemy się poprawić.
Oto kilka kwestii, o których warto pamiętać:
model jest ukierunkowany na zachodnie poglądy i działa najlepiej w języku angielskim. Niektóre działania zapobiegające szkodliwym treściom testowano tylko po angielsku.
Dialogowy charakter modelu może w trakcie interakcji wzmacniać uprzedzenia użytkownika. Na przykład model może zgodzić się z silną opinią użytkownika na temat kwestii politycznej, wzmacniając jego przekonanie.
Te uprzedzenia mogą szkodzić uczniom, jeśli nie zostaną uwzględnione przy używaniu modelu do przekazywania informacji zwrotnej uczniom. Na przykład może on niesprawiedliwie oceniać uczniów uczących się angielskiego jako drugiego języka.
Nauczyciele mogą pomóc uczniom zrozumieć stronniczość i myśleć krytycznie, pokazując, jak pewne pytania prowadzą do stronniczych odpowiedzi. Na przykład nauczyciel może poprosić ucznia o przeanalizowanie eseju wygenerowanego przez ChatGPT, który faworyzuje określony punkt widzenia. To ćwiczenie może pomóc uczniom rozpoznawać stronniczość na różnych platformach i być odpowiedzialnymi obywatelami cyfrowymi.