Promoción de la gobernanza mundial de las actividades conjuntas: lo que esperamos ver en la Cumbre de Acción de Francia sobre las actividades conjuntas
En noviembre, ITI estaba sobre el terreno en los márgenes de la Conferencia inaugural de la Red Internacional de Institutos de Seguridad AI, y proporcionó perspectivas sobre las actividades que pensamos serían de gran utilidad para avanzar en la conversación internacional sobre Seguridad AI. Ahora, nos acercamos rápidamente a la tan esperada Cumbre de Acción de AI, que tendrá lugar en París, Francia los días 10 y 11 de febrero, y los Jefes de Estado y de Gobierno se reunirán en la mañana del 11 de febrero para discutir más a fondo las acciones comunes invitadas a las naciones pueden tomar la AI. Francia ha ampliado el alcance de las dos reuniones originales, auspiciadas por el Reino Unido en Bletchley Park y por Corea del Sur en Seúl, capturando una amplia variedad de temas relacionados con la IA más allá de la seguridad de la IA. Con eso en mente, estos son los elementos que estamos vigilando de cerca, así como algunas cosas que estamos recomendando a quien acoge la próxima convocatoria global. Hacer progresos en las tres esferas siguientes ayudará a asegurar que la colaboración internacional continua sea lo más eficaz posible y contribuirá también a fomentar la coherencia en la elaboración y aplicación de enfoques regionales para la gobernanza y la reglamentación de las actividades conjuntas.
- Further announcements from the International Network of AI Safety Institutes (INAISI). La reunión inaugural fue productiva, con los participantes de la Red accediendo a una Declaración conjunta de la misión (se abre en una pestaña nueva) para el grupo, incluidas cuatro esferas prioritarias de colaboración, anunciando arriba de $11 mil millones para realizar investigaciones conjuntas sobre la mitigación de riesgos para el contenido sintético, (se abre en una pestaña nueva) realizar un ejercicio conjunto de pruebas y acordar un Declaración conjunta sobre evaluaciones de riesgos (se abre en una pestaña nueva). La Cumbre de Acción de Francia ante las Naciones Unidas ofrece una oportunidad para que el grupo de institutos de seguridad de las IA avance en las actividades mencionadas anteriormente. Esperamos que se preste más atención a la promoción de un marco común para la evaluación de los riesgos para los sistemas avanzados de IA, que también puede ser útil para aumentar la interoperabilidad a medida que los miembros de la Red avancen sus políticas nacionales de gobernanza de IA. Agradecemos que la Red haya acordado inicialmente principios para la evaluación de riesgos, pero esperamos que se haga un anuncio sobre la forma en que el INAISI trabajará conjuntamente para elaborar métricas conjuntas de evaluación, lo que será fundamental para poner en práctica las evaluaciones de los riesgos de manera coherente. También esperamos que la Red proporcione un esquema más específico para la forma en que se propone avanzar en las esferas prioritarias acordadas. En la declaración de la misión se identifican la investigación, las pruebas, la orientación y la inclusión como fundamentales para promover la seguridad de las actividades conjuntas. La perforación en esferas prioritarias en las que se necesita investigación para avanzar tanto en las pruebas como en la orientación, sería un primer paso útil. También podría ser útil que la Red Internacional trabaje conjuntamente para determinar qué área de investigación cada participante de la Red es más fuerte, de manera que la colaboración pueda ser lo más fructífera posible.
- Una declaración clara que explica cómo estas convocaciones mundiales seguirán complementando otras iniciativas internacionales en curso. Una de las cosas más emocionantes sobre la conversación política de AI ahora es que hay un interés internacional significativo de una variedad de organismos multilaterales. Por ejemplo, el Proceso G7 Hiroshima AI produjo un conjunto de Principios rectores internacionales (se abre en una pestaña nueva), que ahora están siendo aplicada por la OCDE (se abre en una pestaña nueva). Entendemos que la AI seguirá siendo una esfera prioritaria tanto en el G7 como en el G20 avanzando. Como referencia en mi último blog (se abre en una pestaña nueva), la ONU también sigue comprometida en conversaciones de inteligencia artificial, promoviendo la Global Digital Compact (se abre en una pestaña nueva) y adopción a resolución sobre AI (se abre en una pestaña nueva). También ha reunido a expertos en forma de un Órgano Asesor de Alto Nivel, que produce un informe (se abre en una pestaña nueva) el año pasado con recomendaciones sobre cómo lograr una estructura eficaz de gobernanza mundial. Dada toda esta labor, puede ser difícil diferenciar entre los objetivos y las misiones de diversas iniciativas. Entendemos que los grupos multilaterales se reunirán en París el 9 de febrero para discutir un plan de acción para 2025, del que estamos muy a favor. En ese plan de acción, esperamos que los objetivos y/o misiones específicos estén vinculados a grupos específicos, así como permitir que los gobiernos y los interesados comprendan mejor dónde y cómo conectarse a distintos flujos de trabajo.
- Un anuncio sobre quién será el anfitrión de la próxima convocatoria mundial, y cuál será el alcance de dicha convocatoria. Estamos encantados de participar en la Cumbre de Acción AI de Francia y estamos ansiosos de escuchar qué país podría tomar el timón después de éste. Si el alcance sigue siendo amplio, en consonancia con nuestras recomendaciones anteriores, sugerimos que el anfitrión de una convocatoria mundial de gran escala explique claramente los resultados tangibles que espera alcanzar con respecto a otras iniciativas (como las que tienen lugar en el G7, G20, ONU y UIT). Por lo menos, creemos que es fundamental que esta convocatoria a escala mundial siga centrándose en la seguridad de las IA, proporcionando un lugar para que la labor de la Red de Institutos de Seguridad de las IA se presente a un público más amplio y siga avanzando en los compromisos de alto nivel para la mitigación de riesgos de los sistemas de IA más avanzados. Si el alcance sigue siendo amplio, puede ser útil esbozar qué áreas temáticas existentes seguirán siendo cubiertas más allá de la seguridad de la IA, desarrollar entregas específicas para cada área, y el país designado conduce para pastorear cada corriente de trabajo hacia adelante. Como parte de ello, también sería útil crear mecanismos de coordinación y/o puntos de contacto específicos con iniciativas multilaterales.
Este tipo de reunión mundial de interesados sobre la IA puede desempeñar un papel crítico en el fomento de la conversación, el fomento de la innovación y la creación de un puesto de control para la comunidad internacional sobre los progresos realizados en diversas iniciativas de IA. ITI y sus empresas miembros esperan con interés continuar nuestro compromiso con los responsables de la formulación de políticas mundiales a medida que buscan desarrollar enfoques prácticos para la gobernanza de AI.
Author
