El artículo 5 del Reglamento de IA de la UE prohíbe determinados usos de la tecnología de IA que plantean un nivel de riesgo inaceptable. Aunque contamos con ciertas salvaguardias técnicas, como proveedor de tecnología de IA de propósito general, OpenAI también espera que sus clientes (tanto usuarios individuales como desarrolladores y clientes empresariales) cumplan los requisitos legales aplicables, incluido evitar participar en actividades que sean ilegales en virtud del Reglamento de IA de la UE si están ubicados o establecidos en la UE. Este artículo tiene por objeto aclarar en qué consisten estas prácticas prohibidas; no pretende servir de asesoramiento jurídico sobre cómo debes cumplir tus propias obligaciones en virtud del Reglamento de IA de la UE.
Los siguientes usos de la IA están prohibidos en virtud del Reglamento de IA de la UE y, como explicamos con más detalle en las Políticas de uso y otras condiciones, no debes usar ninguno de los servicios de OpenAI para llevarlos a cabo:
Participar en técnicas subliminales, deliberadamente manipuladoras o engañosas que tengan por objeto distorsionar materialmente el comportamiento de una persona o grupo de personas —lo que significa que su capacidad para tomar una decisión informada se ve mermada— de una forma que probablemente cause perjuicio a esa persona o a otras.
Explotar las vulnerabilidades de una persona o grupo de personas en función de su edad, discapacidad, situación social o situación económica de una forma que distorsione materialmente su comportamiento y probablemente cause un perjuicio significativo a esa persona o a otras.
Asignar una puntuación social (basada en la clasificación de personas o grupos durante un periodo de tiempo en función de su comportamiento, sus características personales o características inferidas/predichas) que:
Dé lugar a un trato desfavorable de personas o grupos en contextos sociales no relacionados, o
Dé lugar a un trato desfavorable de personas o grupos que sea injustificado o desproporcionado respecto de su comportamiento.
Realizar evaluaciones de riesgo de personas basadas únicamente en la elaboración de perfiles o en la evaluación de sus rasgos de personalidad para predecir si pueden cometer un delito.
Crear o ampliar bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de internet o de grabaciones de CCTV.
Inferir emociones en el lugar de trabajo o en entornos educativos (salvo que se aplique una excepción médica o de seguridad).
Categorizar a las personas basándose en sus datos biométricos para inferir su raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, vida sexual u orientación sexual (salvo que se base en conjuntos de datos adquiridos lícitamente en un contexto como el de la aplicación de la ley autorizada).
Realizar identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de aplicación de la ley, salvo que sea estrictamente necesario para:
La búsqueda selectiva de personas desaparecidas o víctimas concretas de secuestro, trata de seres humanos o explotación sexual;
La prevención de una amenaza específica, sustancial e inminente para la vida o la seguridad física de una persona o de un atentado terrorista;
La identificación de sospechosos de determinados delitos penales.
Para obtener más información sobre cómo se pueden utilizar nuestros servicios y qué otras actividades están prohibidas, consulta las Políticas de uso de OpenAI y otras condiciones. La Comisión Europea también ha publicado orientaciones sobre las prácticas prohibidas que pueden ayudarte a evaluar tus propias obligaciones legales y a evitar estas prácticas en tus sistemas/productos.