proyecto
Cumbres sobre seguridad de la IA
Los gobiernos están explorando la colaboración para navegar por un mundo con IA avanzada. FLI les ofrece asesoramiento y apoyo.
¿Qué son las Cumbres sobre Seguridad de la IA?
Las Cumbres sobre Seguridad de la IA son reuniones internacionales bianuales organizadas por los Estados para debatir sobre la seguridad y la regulación de la inteligencia artificial, en particular de los sistemas avanzados de IA. La primera Cumbre sobre Seguridad de la IA fue convocada por el Reino Unido en Bletchley Park en noviembre de 2023. Tras la segunda Cumbre sobre Seguridad de la IA celebrada en Seúl Los días 21 y 22 de mayo de 2024, Francia ha sido designada para acoger la tercera edición en febrero de 2025.¿Por qué son importantes las Cumbres?
Las grandes empresas se encuentran inmersas en una carrera por desarrollar sistemas de IA cada vez más avanzados, que pueden ser utilizados indebidamente por grupos maliciosos para llevar a cabo ciberataques contra la infraestructura digital o para crear nuevas armas bioquímicas. Estos avances tecnológicos también entrañan el riesgo de consolidar el poder en manos de un número limitado de empresas privadas. La intervención gubernamental y la coordinación internacional son esenciales para mitigar estos riesgos. Las cumbres sobre seguridad son oportunidades clave para la gobernanza de la IA: permiten la cooperación internacional en torno a resultados concretos. Por ejemplo, uno de los objetivos de la primera Cumbre sobre Seguridad de la IA fue desarrollar una comprensión global compartida de los riesgos que plantean los sistemas avanzados de IA. Como resultado, un panel internacional de expertos redactó el Informe internacional sobre seguridad en materia de inteligencia artificial: un informe científico actualizado sobre la seguridad de los sistemas avanzados de IA.¿Cuál es el compromiso de FLI con las Cumbres?
En el periodo previo a las Cumbres, FLI apoya a los anfitriones y a otros países participantes con información clave sobre los avances de la IA y recomendaciones sobre cómo mejorar la cooperación en torno a la seguridad de la IA.Recomendaciones FLIpara la Cumbre sobre el Impacto de la IA
Febrero de 2026
Nuestras recomendaciones para la Cumbre sobre el Impacto de la IA en la India, celebrada en Nueva Delhi del 16 al 20 de febrero de 2026.
En el PDF ofrecemos un resumen del «estado actual» de la cumbre, una visión general de las capacidades actuales de la IA, un calendario de las cumbres sobre IA y los hitos en materia de gobernanza, así como nuestras propias recomendaciones para el programa de la cumbre y los participantes.
FLI Recomendaciones provisionales para la Cumbre de Acción sobre AI
Noviembre de 2024
Nuestras recomendaciones para la Cumbre de Acción sobre AI, que se celebrará en Francia del 10 al 11 de febrero de 2025.
Esbozamos un marco estratégico para la gobernanza mundial de la IA, dando prioridad a la colaboración internacional y al desarrollo de normas de seguridad claras. Estas recomendaciones se centran en un enfoque integral en tres áreas fundamentales: comprender los riesgos de la IA (ciencia), fomentar la cooperación mundial (soluciones) y establecer normas internacionales sólidas (normas).
Recomendaciones FLI para la Cumbre sobre seguridad de la IA en el Reino Unido
Septiembre de 2023
En vísperas de la Cumbre sobre Seguridad de la Inteligencia Artificial del Reino Unido, que se celebrará en Bletchley Park los días 1 y 2 de noviembre de 2023, FLI elaboró y publicó un documento con recomendaciones clave. Entre ellas:- Una propuesta de Declaración sobre la seguridad de la IA, para que la firmen los asistentes.
- Principales recomendaciones de determinados gobiernos antes de la Cumbre.
- Una propuesta de orden del día de la Cumbre, con temas cruciales a incluir.
- Una hoja de ruta posterior a la Cumbre, en la que se esbozaban las medidas necesarias que debían adoptarse tras el evento.
Cuadro de mando FLI y política de normas de seguridad
Octubre de 2023
FLI también elaboró un cuadro de mando para trazar el panorama de la gobernanza de cara a la Cumbre de Seguridad de la IA del Reino Unido, y una Política de Normas de Seguridad (SSP) que proporciona un marco regulador para unas normas, medidas y supervisión de seguridad sólidas.París AI Desayunos de seguridad
Septiembre de 2024
La Cumbre de Acción sobre IA se celebrará en febrero de 2025. Esta serie de actos tiene por objeto estimular el debate en torno a la Cumbre de Seguridad para el público inglés y francés, y reunir a expertos y entusiastas en la materia para intercambiar ideas y perspectivas. Ima (Imane Bello) es responsable de las Cumbres de Seguridad de la IA para el Future of Life Institute FLI).Nuestro material
Contenidos relacionados
Si te ha gustado, puede que también te guste:
Contexto y orden del día de la Cumbre de Acción 2025 sobre IA
La Cumbre de Acción sobre IA se celebrará en París los días 10 y 11 de febrero de 2025. Aquí enumeramos el orden del día y los principales resultados.
31 de enero de 2025
París AI Safety Breakfast #2: Dra. Charlotte Stix
El segundo de nuestra serie de eventos "Desayunos sobre la seguridad de la IA", con la Dra. Charlotte Stix sobre las evaluaciones de modelos, el comportamiento engañoso de la IA y las Cumbres sobre Seguridad y Acción en la IA.
14 de octubre de 2024
París AI Safety Breakfast #1: Stuart Russell
El primero de nuestra serie de eventos "Desayunos sobre seguridad de la IA", con Stuart Russell sobre los avances significativos en IA, las prioridades de investigación en IA y las Cumbres sobre seguridad de la IA.
5 de agosto de 2024
Declaración en vísperas de la Cumbre sobre seguridad de la IA de Seúl
Aportamos algunas recomendaciones para la próxima Cumbre sobre Seguridad de la IA que se celebrará en Seúl, entre las que destaca el nombramiento de un coordinador para las colaboraciones entre los Institutos de Seguridad de la IA.
20 de mayo de 2024
17 de noviembre de 2023
Nuestro material
Nuestro trabajo
Otros proyectos en este ámbito
Trabajamos en una amplia gama de proyectos en algunas áreas clave. Vea algunos de nuestros otros proyectos en esta área de trabajo:
Perspectivas de las religiones tradicionales sobre el futuro positivo de la IA
La mayor parte de la población mundial participa en una religión tradicional. Sin embargo, las perspectivas de estas religiones están en gran medida ausentes de los debates estratégicos sobre la IA. El objetivo de esta iniciativa es apoyar a los grupos religiosos para que expresen las preocupaciones y esperanzas específicas de su fe respecto a un mundo con IA, y trabajar con ellos para resistir los daños y obtener beneficios.
Promoción de un acuerdo global sobre IA
Necesitamos coordinación internacional para que los beneficios de la IA lleguen a todo el mundo, y no se concentren solo en unos pocos lugares. Los riesgos de la IA avanzada no se quedarán dentro de las fronteras, sino que se extenderán por todo el mundo y afectarán a todo el mundo. Debemos trabajar para crear un marco de gobernanza internacional que evite la concentración de beneficios en unos pocos lugares y mitigue los riesgos globales de la IA avanzada.
Nuestro trabajo