Von der Leyen pide aprender del pasado y actuar rápido para una IA segura

La presidenta de la Comisión ha intervenido este jueves en la Cumbre de seguridad de IA de Bletchley Park, donde ha abogado por un marco para comprender y mitigar los riesgos de sistemas de IA muy complejos basado en científicos independientes y capacitados; estándares aceptados globalmente; investigación y seguimiento de todos los incidentes importantes; y alertas globales por parte de avisadores confiables. “Estamos entrando en una era completamente diferente”, ha señalado Von der Leyen al inicio de su intervención en la Cumbre de seguridad de IA de Bletchley Park. Una era, ha apuntado, “en la que las máquinas pueden actuar de forma inteligente”. Así pues, ha expresado que su deseo para los próximos cinco años es “que aprendamos del pasado y actuemos rápido”.

La jefa del ejecutivo comunitario ha destacado la complejidad de la seguridad de la inteligencia artificial, proponiendo tomar como referencia otras tecnologías como la historia de la energía atómica y la bomba nuclear.

Con esa referencia, la presidenta de la Comisión ha enfatizado la necesidad de un sistema de controles y equilibrios científicos objetivos. ”Necesitamos nutrir una comunidad de científicos independientes y destacados”, ha apuntado. Científicos con acceso a recursos para evaluar los riesgos de la IA y libres de denunciar esos riesgos.

En segundo lugar, ha hecho hincapié en establecer estándares de seguridad de la IA que sean aceptados en todo el mundo. La mandataria alemana ha partido del ejemplo de la aviación señalando que “los viajes aéreos se han vuelto extremadamente seguros porque aprendemos sistemáticamente de los errores” y porque ”cualquier error puede conducir a un resultado catastrófico”.

En esa misma línea, y partiendo de la base de que las organizaciones están mejor preparadas contra los ciberataques cuando se comparte información de forma eficaz, ha subrayado que “por encima de todo, debemos asegurarnos de que los desarrolladores actúen rápidamente cuando surjan problemas, tanto antes como después de que sus modelos salgan al mercado”.

Así pues, ha abogado por un marco para comprender y mitigar los riesgos de sistemas de IA muy complejos basarado en cuatro pilares: científicos independientes y capacitados; estándares aceptados globalmente; investigación y seguimiento de todos los incidentes importantes; y alertas globales por parte de avisadores confiables.

Finalmente, la presidenta de la Comisión ha destacado que cuanto mayor sea la capacidad de la IA, mayor será la responsabilidad. “Eso significa una responsabilidad corporativa sólida y rastreable, integrada en su modelo de negocio”, ha señalado. Asimismo, ha explicado que las autoridades públicas deben tener poderes de intervención, como complemento y respaldo de la autorregulación.

Finalmente, ha asegurado que la ley sobre IA se encuentra en las etapas finales del proceso legislativo. En ese proceso, ha explicado, se está discutiendo la fundación de una Oficina Europea de IA que podría ocuparse de los modelos de IA más avanzados, con responsabilidad de supervisión, en la lógica del marco de cuatro pilares que la presidenta ha esbozado.

Von der Leyen pide aprender del pasado y actuar rápido para una IA segura

Von der Leyen concluye su gira por los Balcanes Occidentales en Bosnia y Herzegovina

Canal Europa lanza «La Europa de las Regiones»

Noticias Relacionadas

Creación, generación y retención del talento: clave para el futuro de la competitividad en Europa

La Comisión abre convocatorias por valor de 323 millones para apoyar infraestructuras de conectividad digital avanzadas

Temu tiene hasta el 21 de octubre para informar a la Comisión sobre sus medidas contra la venta de productos ilegales

La Comisión envía solicitudes de información a YouTube, Snapchat y TikTok sobre los sistemas de recomendación

La UE deplora la salida de Rusia del Tratado de Prohibición de ensayos nucleares

Secciones

Newsletter

Welcome Back!

Retrieve your password