Comisión e investigadores presentan directrices para el uso responsable IA generativa

La Comisión y los países y partes interesadas del Espacio Europeo de Investigación han presentado un conjunto de directrices para apoyar a la comunidad investigadora europea en su uso responsable de la Inteligencia Artificial (IA) generativa. Según informó hoy la Comisión, si bien las herramientas de IA generativa ofrecen velocidad y conveniencia para producir texto, imágenes y código, los investigadores también deben tener en cuenta las limitaciones de la tecnología, incluido el posible plagio, la revelación de información confidencial o los sesgos inherentes a los modelos.

Margrethe Vestager, vicepresidenta ejecutiva para una Europa adaptada a la era digital, ha afirmado que “estamos comprometidos con la innovación de la IA y la innovación con IA. Y haremos todo lo posible para construir un ecosistema de IA próspero en Europa. Con estas directrices, animamos a la comunidad investigadora a utilizar la IA generativa para ayudar a potenciar la ciencia europea y sus aplicaciones en beneficio de la sociedad y de todos nosotros”.

Por su parte, Iliana Ivanova, comisaria de Innovación, Investigación, Cultura, Educación y Juventud, ha asegurado que "la IA generativa puede impulsar enormemente la investigación, pero su uso exige transparencia y responsabilidad. Estas directrices tienen como objetivo defender la integridad científica y preservar la confianza del público en la ciencia en medio de rápidos avances tecnológicos. Hago un llamamiento a la comunidad científica para que se una a nosotros para convertir estas directrices en la referencia para la investigación europea”.

Con la rápida difusión del uso de esta tecnología en todos los ámbitos, incluido el científico, estas recomendaciones abordan oportunidades y desafíos clave, basándose en los principios de integridad de la investigación, ofreciendo orientación a investigadores, organizaciones y financiadores para un enfoque conjunto en toda Europa. Dado que la IA generativa evoluciona constantemente, estas directrices se actualizarán con comentarios periódicos de la comunidad científica y las partes interesadas que pueden compartir sus puntos de vista aquí .

La nueva Ley de IA de la UE también introduce reglas específicas para modelos de IA de propósito general, incluidos los grandes modelos de IA generativa. Estas nuevas obligaciones garantizarán la transparencia a lo largo de la cadena de valor y se pondrán en práctica mediante códigos de prácticas. La nueva Oficina de IA desempeñará un papel clave en la implementación de la Ley de IA, incluidas las normas para los modelos de IA de uso general.

El paquete de innovación en IA , lanzado en enero de 2024, brinda apoyo financiero dedicado a la IA generativa y también incluye iniciativas para atraer, capacitar y retener especialistas en IA generativa.