Europa propone restricciones a la Inteligencia Artificial

Se trata de una legislación que podría frenar la innovación

La Comisión del Mercado Interno y la Comisión de Libertades Civiles del Parlamento Europeo aprobaron el pasado jueves un mandato de negociación para abordar la primera legislación sobre inteligencia artificial (IA).

Los eurodiputados pretenden que se garantice que, dentro de la Unión Europea, los sistemas de IA estén supervisados por personas y que serán “seguros, transparentes, rastreables, inclusivos y respetuosos con el medioambiente”.

Las anticipadas medidas, que han sido debatidas durante más de dos años, sentarán las bases para la creación de una legislación pionera con la que controlar este nuevo tipo de tecnologías con medidas que restringirán, por ejemplo, su uso en sistemas de reconocimiento facial o de crédito social.

Además, se ha hecho especial hincapié en establecer una definición apropiada de sistema de inteligencia artificial para que ésta sea tecnológicamente neutra y la legislación sea aplicable no solo a los sistemas actuales como ChatGPT, sino también a los del futuro.

Habrá prohibición de uso de la inteligencia artificial en sistemas de reconocimiento

La proposición plantea una legislación basada en la determinación del riesgo inherente de cada IA y establece cierto tipo de obligaciones a proveedores y usuarios en función de este nivel de peligrosidad.

Los de mayor riesgo, que son calificados de “inaceptables”, estarán totalmente prohibidos dentro de la jurisdicción de la Unión como los que usen técnicas de manipulación subliminal, se aprovechen de las vulnerabilidades de individuos o colectivos o registren y clasifiquen a las personas en función de sus comportamientos, emociones o poder adquisitivo.

Entre la larga lista de propuestas legislativas, con varios y profundos desacuerdos entre los políticos conservadores y progresistas, el borrador detalla la pretensión de vetar el uso de la IA en los siguientes supuestos:

• Identificación biométrica en tiempo real en espacios públicos.
• Identificación biométrica de grabaciones, salvo requerimiento de las autoridades en la persecución de delitos graves y con autorización judicial previa.
• Categorización biométrica del público, transeúntes o clientes de establecimiento empleando características sensibles como “género, raza, etnia, ciudadanía, religión, creencias u opiniones políticas”.
• Reconocimiento de emociones empleadas por fuerzas del orden, gestión fronteriza, en el lugar de trabajo y las instituciones educativas.
• Extracción indiscriminada de datos biométricos provenientes de redes sociales o grabaciones de CCTV para crear bases de datos de reconocimiento facial.

El proyecto de ley se someterá a votación plenaria en el Parlamento Europeo en junio, antes de que se acuerden los términos definitivos entre los representantes del Parlamento, Consejo y Comisión de la Unión Europea.

Una vez que se ultimen los detalles y el proyecto se convierta en ley, habrá un periodo de dos años para que los afectados puedan cumplir la normativa tal y como ha ocurrido con la aprobación de la DSA hace unos meses y que afecta a compañías como Twitter o Facebook.

¿Por qué Europa propone restricciones a la Inteligencia Artificial?

El extenso borrador, llamado Proposal for a regulation of the European Parliament and of the Council on harmonised rules on Artificial Intelligence, plantea varias cuestiones tras su análisis.

En el artículo 2 del presente se indica que el reglamento aplica a:

1. Los proveedores que comercialicen o pongan en servicio sistemas de inteligencia artificial en la Unión Europea, con independencia de que dichos proveedores estén establecidos en la Unión o un país fuera de la misma.
2. Los que desplieguen sistemas de inteligencia artificial que tengan su lugar de establecimiento o que estén situados dentro de la Unión.
3. Los proveedores que implanten sistemas de inteligencia artificial que tengan su lugar de establecimiento o estén situados en un país fuera de la región, cuando, o bien se aplique el derecho de un estado miembro en virtud del derecho internacional público, o bien el producto producido por el sistema esté destinado a ser utilizado en la Unión Europea.

Es decir, cualquier sistema de IA que pueda ser empleado a través de empresas dentro de la jurisdicción de la Unión Europea, por lo que afectaría también a los sistemas norteamericanos tanto si los despliegan ellos mismos o lo hacen a través de terceros.