Yleiskatsaus

OpenAI tunnistaa automaattisten järjestelmien ja käyttäjien ilmoitusten avulla sisältöä, joka saattaa olla haitallista tai rikkoa sen käyttökäytäntöjä. Tilanteen mukaan ChatGPT voi rajoittaa vastausta tai jakamista, päättää keskustelun tai estää tilin käytön tilapäisesti. OpenAI voi myös kohdistaa erillisiä toimenpiteitä tiliin tai GPT:hen.

Nämä suojatoimet täydentävät testausta ja riskien lieventämistä, joilla OpenAI varmistaa malliensa turvallisuutta ja ihmisten tavoitteiden mukaista toimintaa ennen niiden julkaisua.

Mahdollisesti haitallisen sisällön tunnistaminen

OpenAI käyttää automaattisia moderointityökaluja tunnistaakseen mahdollisesti haitallisen sisällön kehotteissa, vastauksissa, ladatuissa tiedostoissa ja GPT:issä.

ChatGPT voi toteuttaa tiettyjä turvatoimia automaattisesti ilman, että ihminen tarkistaa keskustelun ensin. Kun joku ilmoittaa sisällöstä, OpenAI arvioi ilmoituksen automaattisten järjestelmien ja koulutettujen tarkistajien avulla.

Toimenpiteet ChatGPT:ssä ja ChatGPT Images -toiminnossa

Jos sisältö saattaa rikkoa OpenAI:n käytäntöjä tai herättää huolta turvallisuudesta, ChatGPT voi:

• Varoittaa sinua siitä, että sisältösi saattaa rikkoa OpenAI:n käyttökäytäntöjä.

• Kieltäytyä vastaamasta kehotteeseen.

• Estää keskustelun jakamisen.

• Päättää keskustelun, joka herättää vakavaa huolta väkivallasta tai muiden vahingoittamisesta.

• Estää tilisi käytön tilapäisesti, jos uudet keskustelut herättävät vakavaa huolta väkivallasta tai muiden vahingoittamisesta sen jälkeen, kun keskusteluja on päätetty toistuvasti.

OpenAI voi erillisenä toimenpiteenä sulkea tilin pysyvästi vakavien tai toistuvien käytäntörikkomusten vuoksi.

Päätetyt keskustelut

Jos ChatGPT päättää keskustelun, se ei enää näy keskusteluhistoriassasi tai hakutuloksissasi. Voit aloittaa uuden keskustelun, ellei tilisi käyttöä ole estetty tai muuten rajoitettu.

Tilin käytön tilapäinen estäminen

Jos ChatGPT estää tilisi käytön tilapäisesti, sinut kirjataan heti ulos etkä voi kirjautua sisään tai käyttää ChatGPT:tä eston aikana. Tilapäinen käytön esto on eri asia kuin tilin sulkeminen pysyvästi.

Lisätietoja näistä toimenpiteistä on artikkelissa Miksi ChatGPT päätti keskustelusi tai esti tilisi käytön tilapäisesti väkivallan uhan vuoksi.

Tilin sulkeminen pysyvästi

OpenAI voi sulkea tilin pysyvästi, jos sen käytäntöjä rikotaan vakavasti tai toistuvasti. Tämä on erillinen toimenpide, eikä se ole sama asia kuin keskustelun päättäminen tai tilin käytön tilapäinen estäminen.

Lisätietoja tilin pysyvästä sulkemisesta ja mahdollisuuksista pyytää tiliä koskevan päätöksen tarkistamista on artikkelissa OpenAI-tilien sulkeminen ja käytön estäminen turvallisuussyistä.

GPT:ihin kohdistuvat toimenpiteet

OpenAI käyttää myös automaattisia työkaluja tunnistaakseen GPT:hen liittyvän mahdollisesti ongelmallisen sisällön. Jos GPT saattaa rikkoa OpenAI:n käytäntöjä, OpenAI voi estää sen jakelun.

GPT:n luoja voi korjata ongelman päivittämällä GPT:tä tai API-määrityksiä. Jos tuotteessa on mahdollisuus hakea muutosta, luoja voi pyytää sen kautta päätöksen tarkistamista. Erityisen vakavissa tapauksissa OpenAI voi myös sulkea luojan tilin pysyvästi.

Ongelmallisesta sisällöstä ilmoittaminen

Voit ilmoittaa sisällöstä, jonka epäilet rikkovan OpenAI:n käytäntöjä tai muuten vaarantavan turvallisuuden. OpenAI arvioi lähetetyt ilmoitukset automaattisten järjestelmien ja koulutettujen tarkistajien avulla.

• Jos sisältö on suoraan ChatGPT:ssä, katso Sisällöstä ilmoittaminen ChatGPT:ssä ja OpenAI:n alustoilla.

• Jos kyseessä on jaettu ChatGPT-keskustelu, katso Jaetun linkin haitallisesta tai laittomasta sisällöstä ilmoittaminen.

• Jos kyseessä on GPT, katso GPT:stä ilmoittaminen.

Jos joku saattaa olla välittömässä vaarassa, ota yhteyttä paikalliseen hätäkeskukseen. Sisällöstä ilmoittaminen OpenAI:lle ei korvaa hätäavun hakemista.