OpenAI se compromete a desarrollar modelos que cumplan los requisitos aplicables del Reglamento de IA de la UE y a ayudar a los clientes a acceder a la información que puedan necesitar para gestionar su propio cumplimiento normativo. Actualizaremos periódicamente esta página con información y recursos útiles.
Este artículo tiene únicamente fines informativos generales y no constituye asesoramiento jurídico. Los clientes, desarrolladores y usuarios son responsables de evaluar y cumplir las obligaciones legales que les sean aplicables.
El enfoque de OpenAI respecto al Reglamento de IA de la UE
Para obtener más información sobre el enfoque de OpenAI respecto a la gobernanza responsable de la IA, incluido nuestro apoyo a los Códigos de buenas prácticas del Reglamento de IA de la UE, consulte nuestra entrada del blog Promover una IA responsable en toda Europa.
OpenAI también ha publicado su Marco de gobernanza para modelos de vanguardia, que explica cómo nuestras prácticas de protección y seguridad se ajustan a los requisitos legales emergentes, incluido el Código de buenas prácticas para la IA de uso general del Reglamento de IA de la UE. El Marco de gobernanza para modelos de vanguardia se basa en nuestro Marco de preparación, que describe cómo evaluamos y gestionamos los riesgos graves derivados de los sistemas avanzados de IA.
Para obtener más información sobre nuestro enfoque de la seguridad, consulte nuestro Enfoque de seguridad y el Centro de seguridad del despliegue, donde compartimos fichas de sistema, información sobre evaluaciones de seguridad y otras novedades técnicas.
Prácticas prohibidas por el Reglamento de IA de la UE
El artículo 5 del Reglamento de IA de la UE prohíbe determinados usos de la IA que presentan un nivel de riesgo inaceptable. OpenAI cuenta con salvaguardias técnicas y también espera que los clientes, desarrolladores y usuarios cumplan la legislación aplicable, lo que incluye evitar las prácticas de IA prohibidas cuando sea de aplicación el Reglamento de IA de la UE.
No debe utilizar los servicios de OpenAI para realizar prácticas prohibidas por el Reglamento de IA de la UE, entre ellas:
Utilizar técnicas subliminales, manipuladoras o engañosas para alterar sustancialmente el comportamiento de una persona de una forma que pueda causarle daños.
Explotar las vulnerabilidades de una persona o un grupo, incluidas las relacionadas con la edad, la discapacidad o la situación social o económica, de una forma que pueda causar daños significativos.
Asignar puntuaciones sociales a personas o grupos de forma que den lugar a un trato desfavorable injustificado, desproporcionado o ajeno a dichas puntuaciones.
Evaluar el riesgo de que una persona cometa un delito basándose únicamente en la elaboración de perfiles o en rasgos de personalidad.
Crear o ampliar bases de datos de reconocimiento facial mediante la extracción indiscriminada de imágenes faciales de internet o de grabaciones de circuitos cerrados de televisión.
Inferir emociones en entornos laborales o educativos, salvo cuando sea aplicable una excepción por motivos médicos o de seguridad.
Utilizar datos biométricos para clasificar a personas con el fin de inferir características sensibles, como la raza, las opiniones políticas, la afiliación sindical, la religión, la vida sexual o la orientación sexual, salvo en contextos legales limitados.
Realizar identificaciones biométricas remotas en tiempo real en espacios de acceso público con fines policiales, salvo en circunstancias restringidas permitidas por la ley.
Para obtener más información sobre los usos permitidos de los servicios de OpenAI, consulte nuestras Políticas de uso y Condiciones y políticas. La Comisión Europea también ha publicado directrices sobre prácticas prohibidas que pueden ayudarle a evaluar sus propias obligaciones.
Transparencia y resúmenes de los datos de entrenamiento
De conformidad con nuestras obligaciones en virtud del artículo 53, apartado 1, letra d), del Reglamento de IA de la UE, OpenAI publica resúmenes sobre el contenido utilizado para entrenar nuestros modelos de IA de uso general:
Procedencia y contenido generado por IA
OpenAI también trabaja para ayudar a las personas a entender mejor cuándo puede haberse generado o editado contenido mediante IA. Aplicamos un enfoque por capas a la procedencia del contenido que incluye Content Credentials, la conformidad con C2PA, marcas de agua SynthID para imágenes y audio, y herramientas públicas de verificación.
Estas herramientas están diseñadas para aportar más contexto sobre el origen del contenido y sobre si contiene señales de procedencia de los sistemas de OpenAI. Ningún método de procedencia o detección es perfecto, y a veces las señales pueden eliminarse o no conservarse tras ediciones o cambios de plataforma. Por eso, OpenAI adopta un enfoque por capas que combina estándares, marcas de agua y herramientas de verificación.
Cómo ayuda OpenAI a sus clientes a cumplir sus propias obligaciones relacionadas con la procedencia
Nuestro contenido incorpora señales de procedencia, como metadatos C2PA o marcas de agua SynthID, que pueden conservarse fácilmente sin que los clientes deban realizar inversiones adicionales
Además del portal web openai.com/verify, los clientes también pueden utilizar nuestra API de procedencia del contenido para detectar si existe alguna señal de procedencia.
Para obtener más información, consulte Promover la procedencia del contenido para lograr un ecosistema de IA más seguro y transparente y nuestro artículo del Centro de ayuda.
Contacto
Póngase en contacto con nosotros mediante nuestro formulario de notificación sobre el Reglamento de IA de la UE para lo siguiente:
Asistencia a clientes de la UE relacionada con el Reglamento de IA de la UE, incluidas las solicitudes de documentación pertinente sobre los modelos conforme a dicho Reglamento
Reclamaciones relativas al cumplimiento por parte de OpenAI del capítulo sobre derechos de autor del Código de buenas prácticas para modelos de IA de uso general
Si desea informar de un incidente de seguridad, comuníquenoslo de inmediato mediante un informe cifrado, tal como se describe en la Política de divulgación coordinada de vulnerabilidades de OpenAI.
Confirmaremos la recepción de su informe, lo revisaremos y estudiaremos cómo pueden ayudarnos sus comentarios a mejorar nuestros procesos.