360 grados: La ley europea de Inteligencia Artificial, el difícil equilibrio entre la innovación y los derechos de las personas

El uso de la inteligencia artificial en la UE estará regulado por la Ley de Inteligencia Artificial, la primera ley integral sobre IA del mundo. Como parte de su estrategia digital, la UE quiere regular la inteligencia artificial (IA) para garantizar mejores condiciones de desarrollo y uso de esta tecnología innovadora. La IA puede aportar muchos beneficios, como lo son una mejor asistencia sanitaria, un transporte más seguro y limpio, una fabricación más eficiente y una energía más barata y sostenible. En abril de 2021, la Comisión propuso el primer marco regulador de la UE para la IA. Propone que los sistemas de IA que puedan utilizarse en distintas aplicaciones se analicen y clasifiquen según el riesgo que supongan para los usuarios. Los distintos niveles de peligro implicarán una mayor o menor regulación. Una vez aprobadas, serán las primeras normas del mundo sobre IA. Posteriormente, sobre ese texto legal, el Parlamento Europeo y el Consejo de la UE han establecido reformas, concluidas mediante acuerdo entre ambas instituciones que dan lugar a la nueva ley europea de Inteligencia Artificial. A continuación, desglosamos su contenido: REGLAMENTO DEL PARLAMENTO EUROPEO Y DEL CONSEJO POR EL QUE SE ESTABLECEN NORMAS ARMONIZADAS EN MATERIA DE INTELIGENCIA ARTIFICIAL (LEY DE INTELIGENCIA ARTIFICIAL) Y SE MODIFICAN DETERMINADOS ACTOS LEGISLATIVOS DE LA UNIÓN MARCO CONCEPTUAL Y SITUACIÓN LEGISLATIVA La Inteligencia Artificial (IA) es un conjunto de tecnologías de rápida evolución que genera un amplio abanico de beneficios económicos y sociales de todos los sectores y actividades sociales. Así, la mejora de la predicción, la optimización de operaciones y la asignación de recursos, así como la prestación de servicios que facilita la IA favorecen los resultados positivos desde el punto de vista social y medioambiental, al tiempo que proporciona ventajas competitivas a las empresas y la economía europea. Esto es especialmente necesario en sectores de gran impacto como el cambio, el medio ambiente y la salud, el sector público, las finanzas, la movilidad, los asuntos internos y la agricultura. No obstante, esos beneficios socioeconómicos de la IA también pueden dar lugar a nuevos riesgos o consecuencias negativas para personas concretas o la sociedad en su conjunto. En respuesta a la velocidad a la que cambia la tecnología y las dificultades que podrían surgir, la UE quiere buscar un enfoque equilibrado, para redundar en su interés de preservar su liderazgo tecnológico y garantizar que los europeos puedan aprovechar nuevas tecnologías que se desarrollen y funcionen de acuerdo con los valores, los derechos fundamentales y los principios de la UE. Precisamente, esta propuesta de reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial responde al anuncio de legislación sobre IA que hizo la presidente de la Comisión Europea, Ursula von der Leyen, en sus orientaciones políticas para la Comisión 2019-2024, tituladas «Una Unión que se esfuerza por lograr más resultados», para un enfoque europeo coordinado sobre las implicaciones éticas y humanas de la IA. Tras dicho anuncio, el 19 de febrero de 2020 la Comisión publicó el Libro Blanco sobre “La inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza”. En el Libro Blanco se definen las opciones existentes para alcanzar el doble objetivo de promover la adopción de la IA y de abordar los riesgos vinculados a determinados usos de esta nueva tecnología. En este sentido, la presente propuesta pretende alcanzar el segundo objetivo para desarrollar un ecosistema de confianza mediante la proposición de un marco jurídico destinado a lograr que la IA sea fiable, basándose en los valores y derechos fundamentales de la UE. El objetivo es inspirar confianza en los ciudadanos y otros usuarios para que adopten soluciones basadas en la IA, al tiempo que trata de animar a las empresas a que desarrollen este tipo de soluciones. La IA debe ser un instrumento para las personas y una fuerza positiva en la sociedad, y su fin último debe ser incrementar el bienestar humano. En consecuencia, las normas relativas a la IA presente en el mercado de la Unión o que afecte de algún modo a sus habitantes deben estar centradas en las personas, a fin de que la población tenga la seguridad de que la tecnología se usa de un modo seguro y en consonancia con la ley, lo que también implica respetar los derechos fundamentales. Tras la publicación del Libro Blanco, la Comisión inició una amplia consulta con las partes interesadas, muchas de las cuales la acogieron con gran interés y defendieron con ahínco la intervención reguladora para hacer frente a los desafíos y las preocupaciones que entraña el uso cada vez mayor de la IA. La propuesta responde asimismo a peticiones explícitas del Parlamento Europeo (PE) y el Consejo Europeo, que han solicitado en repetidas ocasiones que se adopten medidas legislativas para garantizar el buen funcionamiento del mercado interior de los sistemas de IA y que en la Unión se aborden apropiadamente las ventajas y los riesgos que conlleva esta tecnología. Además, respalda el objetivo de que la Unión sea un líder mundial en el desarrollo de inteligencia artificial segura, digna de confianza y ética, como indicó el Consejo Europeo, y garantiza la protección de los principios éticos, como solicitó específicamente el Parlamento Europeo. Las Conclusiones más recientes, del 21 de octubre de 2020, instaban además a afrontar la opacidad, la complejidad, el sesgo, cierto grado de imprevisibilidad y un comportamiento parcialmente autónomo de ciertos sistemas de IA, para garantizar su compatibilidad con los derechos fundamentales y facilitar la aplicación de las normas jurídicas. El Parlamento Europeo también ha llevado a cabo una gran labor en el ámbito de la IA. En octubre de 2020, aprobó una serie de resoluciones relativas a la IA sobre cuestiones como la ética, la responsabilidad civil y los derechos de propiedad intelectual. En 2021, a estas les siguieron diversas resoluciones sobre el uso de la IA en el ámbito penal y en los sectores educativo, cultural y audiovisual. La Resolución del PE sobre un marco de los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías conexas recomienda específicamente a la Comisión que proponga medidas legislativas para aprovechar las oportunidades y los beneficios de la IA, sin dejar de garantizar la protección de los principios éticos. La Resolución incluye el texto para una propuesta legislativa de Reglamento sobre principios éticos para el desarrollo, la implementación y el uso de la inteligencia artificial, la robótica y las tecnologías conexas. De conformidad con el compromiso político asumido por la Presidenta Von der Leyen en sus orientaciones políticas en lo que respecta a las resoluciones adoptadas por el Parlamento Europeo en virtud del artículo 225 del Tratado de Funcionamiento de la Unión Europea, la presente propuesta tiene en cuenta la citada Resolución del Parlamento Europeo, respetando plenamente los principios de proporcionalidad, subsidiariedad y mejora de la legislación. ESTRUCTURA El reglamento consta de una Exposición de Motivos, con los siguientes apartados: 1. Contexto de la propuesta. 2. Base jurídica, subsidiariedad y proporcionalidad. 3. Resultados de las evaluaciones ‘Ex post’, las consultas con las partes interesadas y las evaluaciones de impacto. 4. Repercusiones presupuestarias. 5. Otros elementos, como planes de ejecución y seguimiento. El reglamento cuenta además de 12 Títulos y un total de 85 artículos: Título I: Disposiciones Generales. Título II: Prácticas de inteligencia artificial prohibidas. Título III: Sistemas de IA de alto riesgo. Título IV: Obligaciones de transparencia para determinados sistemas de IA. Título V: Medidas de apoyo a la innovación. Título VI: Gobernanza. Título VII: Base de datos de la UE para sistemas de IA de alto riesgo independientes. Título VIII: Seguimiento posterior a la comercialización, intercambio de información, vigilancia del mercado. Título IX: Códigos de conducta. Título X: Confidencialidad y sanciones. Título XI: Delegación de poderes y procedimiento de comité. Título XII: Disposiciones finales. El reglamento cuenta también con una Ficha Financiera Legislativa con tres apartados: 1. Marco de la Propuesta/Iniciativa. 2. Medidas de Gestión. 3. Incidencia financiera estimada de la propuesta/iniciativa. PRIORIDADES La prioridad es garantizar que los sistemas de IA utilizados en la UE sean seguros, transparentes, trazables, no discriminatorios y respetuosos con el medio ambiente. Los sistemas de IA deben ser supervisados por personas, en lugar de por la automatización, para evitar resultados perjudiciales. Además, establece una definición uniforme y tecnológicamente neutra de la IA que pueda aplicarse a futuros sistemas de IA. NORMAS DIFERENTES PARA NIVELES DIFERENTES DE RIESGO La nueva normativa establece obligaciones para proveedores y usuarios en función del nivel de riesgo de la IA. Aunque muchos sistemas de IA plantean un riesgo mínimo, es necesario evaluarlos todos. RIESGO INACEPTABLE Los sistemas de IA de riesgo inaceptable son los que se consideran una amenaza para las personas y serán prohibidos. Incluyen: manipulación cognitiva del comportamiento de personas o grupos vulnerables específicos: por ejemplo, juguetes activados por voz que fomentan comportamientos peligrosos en los niños puntuación social: clasificación de personas en función de su comportamiento, estatus socioeconómico o características personales sistemas de identificación biométrica en tiempo real y a distancia, como el reconocimiento facial. Aunque existen algunas excepciones a esta calificación. Por ejemplo, los sistemas de identificación biométrica a distancia "a posteriori", en los que la identificación se produce tras un retraso significativo, se permitirán para perseguir delitos graves y sólo cuando haya previa aprobación judicial. ALTO RIESGO Los sistemas de IA que afecten negativamente a la seguridad o a los derechos fundamentales se considerarán de alto riesgo y se dividirán en dos categorías. Los sistemas de IA que se utilicen en productos sujetos a la legislación de la UE sobre seguridad de los productos. Esto incluye juguetes, aviación, automóviles, dispositivos médicos y ascensores. Los sistemas de IA pertenecientes a ocho ámbitos específicos que deberán registrarse en una base de datos de la UE: identificación biométrica y categorización de personas físicas gestión y explotación de infraestructuras críticas educación y formación profesional empleo, gestión de trabajadores y acceso al autoempleo acceso y disfrute de servicios privados esenciales y servicios y prestaciones públicas aplicación de la ley gestión de la migración, el asilo y el control de fronteras asistencia en la interpretación jurídica y aplicación de la ley. Todos los sistemas de IA de alto riesgo serán evaluados antes de su comercialización y a lo largo de su ciclo de vida. IA GENERATIVA La IA generativa, como ChatGPT, tendrá que cumplir requisitos de transparencia: revelar que el contenido ha sido generado por IA diseñar el modelo para evitar que genere contenidos ilegales publicar resúmenes de los datos protegidos por derechos de autor utilizados para el entrenamiento RIESGO LIMITADO Los sistemas de IA de riesgo limitado deben cumplir unos requisitos mínimos de transparencia que permitan a los usuarios tomar decisiones con conocimiento de causa. Tras interactuar con las aplicaciones, el usuario puede decidir si desea seguir utilizándolas. Los usuarios deben ser conscientes de cuándo están interactuando con la IA. Esto incluye los sistemas de IA que generan o manipulan contenidos de imagen, audio o vídeo (por ejemplo, deepfakes).

Contenido relacionado

El Consejo Europeo de Investigación otorga 838 millones de euros a 319 científicos de primer nivel para que realicen descubrimientos revolucionarios

El informe "Estado de la Década Digital 2026" muestra avances, pero insta a cerrar las brechas estructurales para alcanzar los objetivos de 2030

La UE proporciona apoyo cibernético a Ucrania contra los principales ataques

Dos tercios de las empresas de la UE utilizan las redes sociales