La IA avanza rápidamente, lo que dificulta cada vez más distinguir el contenido generado y manipulado por IA del contenido auténtico creado por humanos. Esto genera nuevos riesgos de desinformación y manipulación a gran escala, fraude, suplantación de identidad y engaño al consumidor.
Las nuevas obligaciones de transparencia ayudarán a las personas a reconocer cuándo interactúan con IA o están expuestas a contenido generado por IA, para que puedan tomar decisiones informadas y protegerse mejor de la desinformación y el engaño.
Obligaciones de transparencia para proveedores y usuarios de determinados sistemas de IA
Marcado y etiquetado de contenido generado por IA: cierto contenido generado o manipulado por IA debe estar etiquetado de forma clara y visible e incluir marcas legibles por máquina. La UE ha creado un conjunto de iconos que pueden utilizarse para este fin. Esto se aplica a:
- imágenes, audio y vídeo que se asemejan a personas, objetos, lugares, entidades o eventos reales (deepfakes);
- herramientas de reconocimiento de emociones y categorización biométrica;
- textos publicados para informar al público sobre asuntos de interés público sin revisión humana ni control editorial.
Transparencia al interactuar con un sistema de IA: los usuarios deben ser informados claramente cuando no interactúan con una persona real, sino con un sistema de IA, por ejemplo, un chatbot, un agente de IA o un avatar.
La Comisión ha publicado directrices para ayudar a los proveedores y usuarios de sistemas de IA a cumplir con estas obligaciones de transparencia. Las directrices explican cómo demostrar el cumplimiento, incluso mediante la adhesión a un código de buenas prácticas.
Aplicación de las normas y sanciones
Las autoridades nacionales de vigilancia del mercado, la Oficina Europea de IA (para los sistemas bajo su supervisión) y el Supervisor Europeo de Protección de Datos (cuando las instituciones de la UE actúan como proveedores o implementadores) son responsables de la aplicación de las normas de transparencia y pueden imponer multas de hasta 15 millones de euros, o el 3 % de la facturación anual global, para las empresas; y de hasta 750 000 euros para las instituciones, organismos y agencias de la UE, teniendo en cuenta la proporcionalidad para las pequeñas y medianas empresas (pymes) y las pequeñas y medianas empresas (pymes).
La Ley de IA entró en vigor el 1 de agosto de 2024. Sus disposiciones se aplican por fases, con diferentes obligaciones que entran en vigor en distintos momentos. La Ley crea un mercado único y normas armonizadas para una IA fiable en la UE, y promueve la innovación y la adopción de la IA. Asimismo, aborda los posibles riesgos para la salud, la seguridad y los derechos fundamentales de las personas, al tiempo que salvaguarda la democracia y el Estado de Derecho. Garantizar su aplicación efectiva es ahora una prioridad clave para la Comisión.
Proporcionado por commission.europa.eu – La noticia completa aquí
Área de Comunicaciones – Cooperando