El Parlamento Europeo acaba de adoptar su posición de negociación sobre la última versión del Reglamento de la UE sobre IA, con 499 votos a favor, 28 en contra y 93 abstenciones, antes de iniciar las conversaciones a nivel de Consejo con los estados miembros de la UE sobre el texto final de la misma.

La propuesta sometida a votación recoge las últimas modificaciones y enmiendas presentadas que avanzamos hace algunas semanas y proseguirá su tramitación con el objetivo de poder aprobar la norma lo antes posible que, previsiblemente, no será antes de final de año, en el mejor de los casos.

La regulación propuesta pretende promover una IA confiable y centrada en el ser humano, la protección de la salud, la seguridad, los derechos fundamentales y la democracia ante los riesgos que pueden suponer sus usos, aunque también sus propias capacidades, cuestión que no aborda con profundidad la propuesta en tramitación.

La versión sometida a votación recoge la prohibición de determinados sistemas por considerarlos de riesgo inadmisible, como los de puntuación social que clasifican a las personas en función de su comportamiento social o características personales.

Dicha lista se ha ido ampliando desde la publicación de la propuesta el 21 de abril de 2021, incluyendo también, aunque no de manera unánime en algunos casos, los sistemas de identificación biométrica remota “en tiempo real” y “post” en espacios de acceso público, los sistemas de categorización biométrica que utilizan características sensibles -Por ejemplo, género, raza, etnia, estado de ciudadanía, religión, orientación política-, los sistemas policiales predictivos -basados en perfiles, ubicación o comportamiento delictivo pasado-, los sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas y la extracción no dirigida de imágenes faciales de Internet o filmaciones de CCTV para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad).

Del mismo modo, como ya anticipamos, se amplian los sistemas de alto riesgo, incluyendo los sistemas de IA que supongan un daño significativo para la salud, la seguridad, los derechos fundamentales o el medio ambiente de las personas, los sistemas inteligentes utilizados para influir en los votantes y el resultado de las elecciones y los sistemas de recomendació utilizados por las plataformas de redes sociales.

Igualmente, en un giro progresivo de la propuesta hacia una de las opciones que fueron oportunamente valoradas pero desechadas para la elaboración del texto inicial en 2021, la versión aprobada incorpora algunas obligaciones para sistemas inteligentes de de propósito general, esto es, sin un propósito específico, de modo que se exigirá a sus proveedores evaluar y mitigar los posibles riesgos de los mismos para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el estado de derecho, así como registrar sus modelos en la base de datos de la UE antes de su lanzamiento al mercado unionista.

Ésta es una de las importantes carencias a nuestro juicio, de una propuesta elaborada desde un enfoque de riesgos y alcance horizontal, conforme hemos venido compartiendo desde su publicación en 2021 en distintas publicaciones y conferencias, en la medida que consideramos

necesario la exigencia de normas éticas esenciales a cualquier sistema inteligente que se lance al mercado e interaccione con personas, así como la exigencia de análisis de riesgos y evaluaciones de impacto, al menos en derechos fundamentales.

Asimismo, se regulan algunos requisitos para los sistemas de IA generativa, en particular, de transparencia (revelar que el contenido fue generado por IA, garantías contra la generación de contenido ilegal y publicación de resúmenes detallados de los datos protegidos por derechos de autor utilizados para su entrenamiento. La complejidad de cumplir estos últimos dos requisitos es obvia.

Por último, se contemplan exenciones para actividades de investigación y componentes de IA proporcionados bajo licencias de código abierto, y se promueven los sandboxes regulatorios.

En estos momentos se están celebrando la rueda de prensa para explicar los resultados de la votación de hoy y los próximos pasos.