Todo sobre la Ley de inteligencia artificial de la Unión Europea

La inteligencia artificial dejó de ser una tecnología salida del mundo de la ciencia ficción para convertirse en una realidad. Tras la negociación y el posterior acuerdo entre el Consejo y el Parlamento Europeo, la UE se convertirá en el primer organismo en establecer una normativa para regular el uso de esta tecnología. La Ley de inteligencia artificial, que se hará efectiva en 2026 en el territorio de la Unión Europea, está cada vez más cerca, pues el pasado miércoles el Parlamento ratificó esta normativa con 523 votos a favor, 46 en contra y 49 abstenciones.

Esta política de la UE se convertiría en la primera normativa de IA en el mundo, con el objetivo de garantizar la seguridad y el respeto de los derechos fundamentales al tiempo que impulsa la innovación de las tecnologías en el territorio europeo.

Como señalan desde el Parlamento Europeo, «el Reglamento fija una serie de obligaciones para la IA en función de sus riesgos potenciales y su nivel de impacto», centrándose así en la protección de los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la IA que entraña un alto riesgo, impulsando al mismo tiempo la innovación y erigiendo a Europa en líder del sector.

Tras la ratificación del Parlamento, solo queda que los Estados miembros de la Unión den el visto bueno al texto definitivo, para su posterior aplicación dentro de 2 años.

Las claves de la Ley de inteligencia artificial

Esta normativa pionera afectará a modelos de IA generativa, como GhatGPT de OpenAI, así como las herramientas de gigantes tecnológicos como Microsoft o Google, pero se adentra de forma destacada en modelos como la identificación biométrica, o aquellos sistemas de IA que creen o expandan bases de datos.

En palabras del coponente de la comisión de Mercado Interior, Brando Benifei, «finalmente tenemos la primera ley vinculante del mundo sobre inteligencia artificial, para reducir riesgos, crear oportunidades, combatir la discriminación y aportar transparencia».

«Gracias al Parlamento, se prohibirán en Europa prácticas inaceptables de IA y se protegerán los derechos de los trabajadores y los ciudadanos. La nueva Oficina de IA ayudará a las empresas a respetar las normas antes de que entren en vigor. Nos aseguramos de que los seres humanos y los valores europeos estén en el centro mismo del desarrollo de la IA», explicó Benifei.

En este sentido, la IA estará etiquetada en cuatro niveles de riesgo: riesgo mínimo, sobre la que la Ley permite un libre uso; riesgo limitado, aquellos asociados a la falta de transparencia y sobre los que será necesario etiquetar como creados por IA; riesgo alto, que estarán sujetos a obligaciones estrictas antes de ser comercializados; y riesgo inaceptable, cuyo uso quedará prohibido en la UE, al suponer una amenaza a la seguridad, los medios de vida y los derechos de las personas.

La ley de IA prohíbe las aplicaciones que pueden causar daño a la sociedad

El acuerdo destaca la prohibición en los territorios de la Unión Europea de aquellos sistemas de IA que puedan causar daño a la sociedad. Los que entrañen riesgos altos estarán supeditados a una serie de requisitos y obligaciones para poder acceder al mercado, mientras que aquellos considerados con riesgos «inaceptables» quedarán totalmente prohibidos. «Se enmarcan en estos casos, por ejemplo, la manipulación cognitiva conductual o el rastreo indiscriminado de imágenes faciales sacadas de internet, entre otros».

La normativa de inteligencia artificial de la UE prohíbe determinadas aplicaciones de IA que atenten contra los derechos de los ciudadanos, como lo pueden ser los sistemas de categorización biométrica basados en características sensibles y la captura indiscriminada de imágenes faciales de internet o grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial.

Además, las prohibiciones también incluyen el reconocimiento de emociones en lugares de trabajo y escuelas, así como los sistemas que exploten las vulnerabilidades de las personas.

Exenciones de las fuerzas de seguridad

Como detallan desde el Parlamento, el uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad queda prohibido a priori, menos en aquellas situaciones muy concretas y bien definidas.

Los sistemas de identificación biométrica «en tiempo real» solo se podrán emplear en caso de cumplir una serie de criterios. Por ejemplo, su uso se limita a un período y lugar específicos y cuenta con una autorización judicial o administrativa previa. Entre los casos de uso pueden figurar la búsqueda selectiva de una persona desaparecida o la prevención de un atentado terrorista. «Recurrir a estos sistemas a posteriori se considera un uso de alto riesgo, que requiere autorización judicial al estar vinculado a un delito penal», explica el organismo.

Requisitos de transparencia y protección de derechos de autor

Otra de las claves de la Ley de inteligencia artificial es que los sistemas de IA de uso general y los modelos en los que se basan deben cumplir determinados requisitos de transparencia. Entre ellos, respetar la legislación de la UE sobre derechos de autor y publicar resúmenes detallados del contenido usado para entrenar sus modelos, además, las imágenes, contenidos de audio o de vídeo generados con IA o manipulados con esta tecnología (como lo pueden ser los «deep fakes») deberán etiquetarse como tal.

Apoyo a la innovación y a las pymes

Desde el Parlamento Europeo destacan que será necesario poner a disposición de las pymes y de las empresas emergentes espacios controlados de pruebas y ensayos en condiciones reales a nivel nacional para que puedan desarrollar y entrenar la inteligencia artificial innovadora antes de su comercialización.

Los próximos pasos de la UE

El Reglamento aún está sujeto a una última comprobación jurídica-lingüística, y su aprobación definitiva está prevista para antes del final de la legislatura. Esta entrará en vigor veinte días después de su publicación en el Diario Oficial y será de plena aplicación veinticuatro meses después de su entrada en vigor.

En palabras del coponente de la comisión de Libertades Civiles, Dragos Tudorache, «hemos vinculado el concepto de inteligencia artificial a los valores fundamentales que constituyen la base de nuestras sociedades. Sin embargo, hay mucho trabajo por delante que va más allá de la propia Ley de IA. La IA nos empujará a repensar el contrato social en el corazón de nuestras democracias, nuestros modelos educativos, los mercados laborales y la forma en que llevamos a cabo la guerra. La Ley de IA es un punto de partida para un nuevo modelo de gobernanza construido en torno a la tecnología. Ahora debemos centrarnos en la aplicación práctica de la legislación», afirma.

¡Suscríbete a nuestra newsletter! Sigue a MarketingDirecto.com en WhatsApp