El artículo 5 de la Ley de IA de la UE prohíbe ciertos usos de la tecnología de IA que plantean un nivel de riesgo inaceptable. Aunque contamos con determinadas salvaguardias técnicas, como proveedor de tecnología de IA de propósito general, OpenAI también espera que nuestros clientes (tanto usuarios individuales como desarrolladores y clientes empresariales) cumplan los requisitos legales aplicables, incluido abstenerse de realizar actividades que sean ilegales en virtud de la Ley de IA de la UE si se encuentran o están establecidos en la UE. Este artículo pretende aportar claridad sobre cuáles son estas prácticas prohibidas; no pretende servir como asesoramiento jurídico sobre cómo debe cumplir sus propias obligaciones en virtud de la Ley de IA de la UE.
Los siguientes usos de la IA están prohibidos por la Ley de IA de la UE y, como explicamos con más detalle en las Políticas de uso y otros términos, no debe utilizar ninguno de los servicios de OpenAI para llevarlos a cabo:
Emplear técnicas subliminales, deliberadamente manipuladoras o engañosas destinadas a distorsionar de forma sustancial el comportamiento de una persona o de un grupo de personas, es decir, de modo que su capacidad para tomar una decisión informada se vea perjudicada, de una manera que probablemente cause daños a esa persona o a otras.
Explotar las vulnerabilidades de una persona o de un grupo de personas en función de su edad, discapacidad, situación social o situación económica de una manera que distorsione sustancialmente su comportamiento y que probablemente cause un perjuicio significativo a esa persona o a otras.
Asignar una puntuación social (basada en la clasificación de personas o grupos durante un período de tiempo en función de su comportamiento, sus características personales o características inferidas/predichas) que:
Dé lugar a un trato desfavorable de personas o grupos en contextos sociales no relacionados, o
Dé lugar a un trato desfavorable de personas o grupos que sea injustificado o desproporcionado con respecto a su comportamiento.
Realizar evaluaciones de riesgo de personas basadas únicamente en la elaboración de perfiles o en la evaluación de sus rasgos de personalidad para predecir si pueden cometer un delito.
Crear o ampliar bases de datos de reconocimiento facial mediante la extracción no dirigida de imágenes faciales de internet o de grabaciones de CCTV.
Inferir emociones en el lugar de trabajo o en entornos educativos (salvo que se aplique una excepción médica o de seguridad).
Categorizar a personas basándose en sus datos biométricos para inferir su raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, vida sexual u orientación sexual (salvo cuando se base en conjuntos de datos obtenidos legalmente en un contexto como el de las fuerzas de seguridad autorizadas).
Llevar a cabo la identificación biométrica remota «en tiempo real» en espacios de acceso público con fines policiales, salvo que sea estrictamente necesaria para:
La búsqueda específica de personas desaparecidas o de víctimas concretas de secuestro, trata de seres humanos o explotación sexual;
La prevención de una amenaza específica, sustancial e inminente para la vida o la seguridad física de una persona o de un atentado terrorista;
La identificación de sospechosos de determinados delitos.
Para obtener más información sobre cómo pueden utilizarse nuestros servicios y qué otras actividades están prohibidas, consulte las Políticas de uso y otros términos de OpenAI. La Comisión Europea también ha publicado orientaciones sobre las prácticas prohibidas que pueden ayudarle a evaluar sus propias obligaciones legales y a evitar estas prácticas en sus sistemas/productos.