Los gobiernos deben aprovechar este Momento Pivotal para la Cooperación Internacional en materia de Seguridad AI
Esta semana en San Francisco, Estados Unidos convocará a la Red Internacional de Institutos de Seguridad AI (en adelante “Network”), establecida con la firma de la Declaración de Intenciones para la Cooperación Internacional en Ciencias de la Seguridad AI en la Cumbre de Seúl en mayo de 2024. Esta será la primera vez que estos líderes –que consisten en representantes de los Institutos de Seguridad AI en Australia, Canadá, la Unión Europea, Francia, Japón, Kenia, la República de Corea, Singapur, el Reino Unido y Estados Unidos – se han reunido desde entonces, y marca un momento crucial en la conversación global sobre seguridad AI antes de la Cumbre de Acción de Francia en febrero de 2025. En esta reunión crucial, la Red debería aprovechar la oportunidad para llegar a un acuerdo sobre un programa proactivo de investigación sobre seguridad de la IA y mecanismos de colaboración entre los Institutos y con los interesados externos y destacar cómo se propone complementar la labor internacional en curso.
La reunión de esta semana es también una oportunidad para que los responsables políticos estadounidenses demuestren su compromiso continuo con el Instituto de Seguridad AI de Estados Unidos. A medida que el Congreso de los Estados Unidos comienza su huella de legislar a fin de año, ITI reitera nuestro llamado a los líderes bipartidistas en Capitol Hill para promulgar leyes que autoricen al Instituto de Seguridad AI de Estados Unidos dentro del Instituto Nacional de Normas y Tecnología (NIST) antes del final del 118o Congreso. Hacerlo proporcionará seguridad y estabilidad para el Instituto de Seguridad AI de EE.UU. y solidificará su papel crítico en el avance de la innovación AI y la facilitación de la confianza, incluso en foros internacionales como el de San Francisco esta semana.
ITI estará en el suelo en San Francisco y aquí es lo que esperamos ver materializar:
- Un acuerdo sobre las cuestiones prioritarias de la Red. Dado que las organizaciones y los gobiernos consideran la mejor manera de abordar los problemas de seguridad de la IA, es necesario contar con una agenda afirmativa y bien definida para la colaboración internacional en el campo incipiente de la ciencia de seguridad de la IA. Hay muchas áreas que son importantes para trabajar para avanzar en la seguridad de la IA, pero si la Red trata de hacer frente a demasiadas cosas, corre el riesgo de diluir los esfuerzos. Un conjunto claro y definido de objetivos es fundamental, al igual que el acuerdo sobre qué esfuerzos de investigación deben priorizar. En nuestra opinión, la Red debe comprometerse en primer lugar a desarrollar un entendimiento común de términos clave, por ejemplo, definir lo que constituye un modelo de IA de frontera y riesgos de preocupación. A continuación, la Red debería comprometerse a hacer frente al desarrollo de prácticas de evaluación previas al despliegue, incluido el desarrollo de métricas para medir y evaluar constantemente los riesgos conocidos y emergentes asociados con un sistema avanzado de IA. The Network should also consider developing consistent ways to measure and report on model and system performance. El consenso en estas esferas ayudará a fomentar la alineación internacional y la compatibilidad reglamentaria a medida que las distintas regiones desarrollen y apliquen sus enfoques de gobernanza de las actividades conjuntas.
- Un claro reconocimiento del importante papel de los órganos internacionales de normas. El desarrollo y la adopción de normas técnicas a través de organizaciones como ISO/IEC SC 42 será esencial para la aplicación de prácticas de seguridad de la IA a escala mundial. The Network should bring their findings on advanced AI model testing and evaluation to these standards bodies in order to foster global alignment and common understanding. Al mismo tiempo, las organizaciones internacionales de normas pueden aportar valiosas aportaciones a la Red para ayudar a configurar y perfeccionar las prácticas de seguridad que están trabajando para avanzar.
- Una clara articulación de cómo la Red complementará o apoyará de otro modo los esfuerzos multilaterales y/o internacionales en curso. Ello incluye la labor en curso para avanzar en la adopción de la Principios rectores internacionales y Código de Conducta para sistemas avanzados de IA derivados del proceso Hiroshima AI, a resolución aprobada en la Asamblea General de las Naciones Unidas para promover una IA fiable y Global Digital Compact con el objetivo de gobernar la tecnología digital y la IA, además de los esfuerzos realizados tanto en el G7 como en el G20. Además, si bien no está claro quién asumirá la responsabilidad de la próxima cumbre mundial de la AI después de la Cumbre de Acción Internacional de Francia, la Red debería considerar cómo puede informar a los resultados tangibles de la Cumbre, incluso si el alcance de estos acontecimientos sigue siendo amplio. The Network should clearly lay out how it will complement these efforts so as not to duplicate work. Creemos que la Red puede desempeñar un papel especialmente importante en la prestación de orientación basada en datos empíricos para poner en práctica muchos de los documentos normativos elaborados a través de estos mayores esfuerzos multilaterales.
- Un marco de cooperación entre la Red Internacional de Institutos de Seguridad de la AI y los interesados externos. Si bien apreciamos que Estados Unidos ha incluido a ciertos interesados en su convocatoria inicial, esperamos que la Red describa cómo colaborará con un conjunto diverso de interesados de todo el ecosistema de AI avanzando. Mientras que el Instituto de Seguridad AI tiene un Consorcio y la Oficina de AI de la UE ha convocado a un grupo de interesados para pesar en el establecimiento de un Código de Práctica General-Purpose AI, es importante que la Red describa cómo trabajará en colaboración con estos y otros grupos, incluyendo el establecimiento de un protocolo claro para el compromiso y para que los interesados aporten. En particular, la Red debería considerar la forma de deduplicar los esfuerzos en que las empresas multinacionales u otras organizaciones puedan ser miembros de grupos de interesados establecidos en diferentes jurisdicciones.
Author
