La UE marcó un hito histórico el pasado miércoles con la aprobación de la Ley de Inteligencia Artificial, la primera en el mundo y única, posiblemente, que sea confiable, segura y respetable con los derechos fundamentales, conceptos que se alejan del modelo de IA que defienden los gobiernos, por ejemplo, de EEUU o China.
Esta regulación responde al concepto de Inteligencia Artificial (IA) que tiene los legisladores europeos, al considerarla un conjunto de tecnologías de rápida evolución que genera un amplio abanico de beneficios económicos y sociales de todos los sectores y actividades sociales.
No obstante, esos beneficios socioeconómicos de la IA también pueden dar lugar a nuevos riesgos o consecuencias negativas para personas concretas o la sociedad en su conjunto.
La mejora de la predicción, la optimización de operaciones y la asignación de recursos, así como la prestación de servicios que facilita la IA favorecen los resultados positivos desde el punto de vista social y medioambiental, al tiempo que proporciona ventajas competitivas a las empresas y la economía europea. Esto es especialmente necesario en sectores de gran impacto como el cambio, el medio ambiente y la salud, el sector público, las finanzas, la movilidad, los asuntos internos y la agricultura.
En respuesta a la velocidad a la que cambia la tecnología y las dificultades que podrían surgir, la UE ha buscado un enfoque equilibrado, para redundar en su interés de preservar su liderazgo tecnológico y garantizar que los europeos puedan aprovechar nuevas tecnologías que se desarrollen y funcionen de acuerdo con los valores, los derechos fundamentales y los principios de la UE.
Uno de los objetivos de esta nueva ley es inspirar confianza en los ciudadanos y otros usuarios para que adopten soluciones basadas en la IA, al tiempo que trata de animar a las empresas a que desarrollen este tipo de soluciones.
La IA debe ser un instrumento para las personas y una fuerza positiva en la sociedad, y su fin último debe ser incrementar el bienestar humano. En consecuencia, las normas relativas a la IA presente en el mercado de la Unión o que afecte de algún modo a sus habitantes deben estar centradas en las personas, a fin de que la población tenga la seguridad de que la tecnología se usa de un modo seguro y en consonancia con la ley, lo que también implica respetar los derechos fundamentales.
Además, la ley responde, asimismo, a peticiones explícitas del Parlamento Europeo (PE) y el Consejo Europeo, que solicitaron en repetidas ocasiones que se adoptaran medidas legislativas para garantizar el buen funcionamiento del mercado interior de los sistemas de IA y que en la Unión se aborden apropiadamente las ventajas y los riesgos que conlleva esta tecnología.
En consecuencia, el reglamento, que fue acordado en negociaciones con los Estados miembros en diciembre de 2023 tras tres días de conversaciones intensas, tiene ese objetivo de proteger los derechos fundamentales y los valores de la UE garantizando que los sistemas de IA comercializados en el mercado europeo y utilizados en la Unión sean seguros.
En este sentido, la nueva norma prohíbe las aplicaciones de IA que amenazan los derechos de los ciudadanos, como la categorización biométrica y la extracción no dirigida de imágenes faciales, así como el reconocimiento de emociones en el lugar de trabajo, la puntuación social y la vigilancia policial predictiva.
El uso de sistemas de identificación biométrica por las fuerzas del orden está restringido y sujeto a salvaguardias estrictas. Además, se establecen obligaciones claras para otros sistemas de IA de alto riesgo, como mantener registros de uso y garantizar la supervisión humana.
Asimismo, los sistemas de IA deberán cumplir requisitos de transparencia, y las imágenes manipuladas deberán etiquetarse claramente.
El Parlamento Europeo también ha ajustado algunos aspectos de la normativa para apoyar a las startups que carecen de los recursos necesarios para cumplir con los requisitos regulatorios.
Así, la legislación sobre IA incluye disposiciones específicas para las PYMES, como bancos de pruebas a los que podrán acceder las empresas emergentes y las pymes.
