Článek 5 Aktu EU o AI zakazuje určitá použití technologie AI, která představují nepřijatelnou míru rizika. Ačkoli máme zavedena určitá technická ochranná opatření, jako poskytovatel technologie AI pro obecné účely OpenAI také očekává, že naši zákazníci (včetně jednotlivých uživatelů, vývojářů a podnikových zákazníků) budou dodržovat příslušné právní požadavky, mimo jiné se vyhnou jakýmkoli činnostem, které jsou podle Aktu EU o AI nezákonné, pokud se nacházejí nebo jsou usazeni v EU. Tento článek má objasnit, jaké jsou tyto zakázané praktiky; nemá sloužit jako právní poradenství ohledně toho, jak byste měli plnit své vlastní povinnosti podle Aktu EU o AI.
Následující použití AI jsou podle Aktu EU o AI zakázána a – jak dále vysvětlujeme v Zásadách používání a dalších podmínkách – neměli byste používat žádné služby OpenAI k tomu, abyste se jich dopouštěli:
Používání podprahových, záměrně manipulativních nebo klamavých technik, které mají podstatně zkreslit chování jednotlivce nebo skupiny osob – tedy narušit jejich schopnost učinit informované rozhodnutí – způsobem, který pravděpodobně způsobí újmu tomuto jednotlivci nebo jiným osobám.
Zneužívání zranitelností jednotlivce nebo skupiny osob na základě jejich věku, zdravotního postižení, sociální situace nebo ekonomické situace způsobem, který podstatně zkresluje jejich chování a pravděpodobně způsobí významnou újmu tomuto jednotlivci nebo jiným osobám.
Přidělování sociálního skóre (na základě klasifikace jednotlivců nebo skupin po určitou dobu podle jejich chování, osobních charakteristik nebo odvozených/předpokládaných charakteristik), které buď:
Vede k nepříznivému zacházení s jednotlivci nebo skupinami v nesouvisejících společenských kontextech, nebo
Vede k nepříznivému zacházení s jednotlivci nebo skupinami, které je neodůvodněné nebo nepřiměřené jejich chování.
Provádění hodnocení rizik u jednotlivců výhradně na základě profilování nebo hodnocení jejich osobnostních rysů za účelem předpovědi, zda mohou spáchat trestný čin.
Vytváření nebo rozšiřování databází pro rozpoznávání obličejů prostřednictvím necíleného stahování snímků obličejů z internetu nebo záznamů kamerových systémů.
Odvozování emocí na pracovišti nebo ve vzdělávacím prostředí (pokud se neuplatní výjimka ze zdravotních nebo bezpečnostních důvodů).
Kategorizace jednotlivců na základě jejich biometrických údajů za účelem odvození jejich rasy, politických názorů, členství v odborech, náboženského nebo filozofického přesvědčení, sexuálního života nebo sexuální orientace (pokud není založena na zákonně získaných souborech dat v kontextu, jako je oprávněné vymáhání práva).
Provádění vzdálené biometrické identifikace v „reálném čase“ ve veřejně přístupných prostorách pro účely vymáhání práva, pokud to není nezbytně nutné pro:
Cílené pátrání po pohřešovaných osobách nebo konkrétních obětech únosu, obchodování s lidmi nebo sexuálního vykořisťování;
Předcházení konkrétní, podstatné a bezprostřední hrozbě pro život nebo fyzickou bezpečnost jednotlivce nebo teroristickému útoku;
Identifikaci podezřelých z určitých trestných činů.
Další informace o tom, jak mohou být naše služby používány a jaké další činnosti jsou zakázány, najdete v Zásadách používání společnosti OpenAI a dalších podmínkách. Evropská komise také vydala pokyny k zakázaným praktikám, které vám mohou pomoci posoudit vaše vlastní právní povinnosti a vyhnout se těmto praktikám ve vašich systémech/produktech.