Desempaquetando el nuevo borrador de guía de NIST sobre la gestión del riesgo de uso indebido de los modelos de la Fundación de doble uso
Para cumplir con sus plazos de 270 días de conformidad con la Orden Ejecutiva del Presidente de EE.UU. Joe Biden sobre Inteligencia Artificial segura, segura y confiable, el Departamento de Comercio de EE.UU. publicó recientemente un tranche de documentos. Como parte de esa publicación, el Instituto Nacional de Normas y Tecnología (NIST) publicó orientaciones detalladas sobre la seguridad de las IA, la gestión del riesgo y el desarrollo y el despliegue responsables.
La seguridad de la inteligencia artificial ha sido un tema prioritario entre los encargados de formular políticas en todo el mundo. Esto ha sido demostrado por la actividad, incluyendo: los esfuerzos del G7 para desarrollar principios rectores internacionales y un código de conducta para sistemas avanzados de IA; la labor de los encargados de la formulación de políticas de la Unión Europea para desarrollar un código de práctica para abordar los modelos de IA de propósito general con riesgo sistémico en virtud de la Ley de IA de la UE; las Cumbres mundiales sobre Seguridad de IA en el Reino Unido y Corea del Sur; y muchos encargos dirigidos a gestionar el riesgo asociado con los modelos de base de usos duales.
Al mismo tiempo, se han planteado dificultades para avanzar significativamente en la labor de seguridad de la IA porque no existe una comprensión coherente de los riesgos, que siguen evolucionando. Notablemente, en el plazo de 270 días, el NIST U.S. AI Safety Institute publicó para comentarios públicos, su primer documento de orientación, Gestión de Riesgos de Misuso de Modelos de Fundación de Doble Uso, cumpliendo la tarea 4.1 del Orden Ejecutivo. Al principio, el documento pasa por una serie de consideraciones que dificultan el mapeo y la medición de los riesgos de uso indebido. Sin embargo, el nuevo proyecto de documento de orientación voluntaria tiene el potencial de ser una contribución significativa al discurso si puede seguir perfeccionando y/o desarrollar áreas críticas.
El documento de orientación establece siete objetivos que las organizaciones deben tratar de lograr para ayudar a prevenir el uso indebido deliberado de sus sistemas, e incluye prácticas, recomendaciones y documentación que una organización puede aprovechar para ayudar a la aplicación. Su objetivo es ser coherente con las funciones descritas en el Marco de Gestión de Riesgos de NIST AI.
Agradecemos que la AI EO encargó al gobierno de Estados Unidos la preparación de esta guía y que el Instituto de Seguridad AI de EE.UU. está buscando información de los interesados sobre cómo puede mejorar el documento. Teniendo esto en cuenta, hay varias esferas en el documento de orientación que se beneficiarían de más detalles o aclaraciones, y que esperamos trabajar con NIST y el Instituto de Seguridad AI de los Estados Unidos a medida que finalice el documento de orientación.
- Orientación técnica de redacción. El documento establece la medición del riesgo de uso indebido como uno de los objetivos principales que las organizaciones deben tratar de lograr. Como parte de ello, NIST explica que las organizaciones deben utilizar equipos rojos para evaluar si los actores maliciosos podrían superar las salvaguardias del sistema AI. Si bien estamos de acuerdo en que el tratamiento en rojo puede desempeñar un papel crítico en la evaluación de un sistema de fallas, también alentamos a NIST a que elabore una orientación más técnica de redacción para los modelos de bases de doble uso a fin de que esa actividad sea prácticamente implementable de manera coherente.
- Orientación técnica para medir la capacidad y/o el riesgo. La orientación propone actividades para gestionar el riesgo de robo de modelos, incluyendo, por ejemplo, combinar estimaciones relacionadas con “capacidades de interés” con la “probabilidad del robo de modelos”. Sin embargo, no está claro cómo una organización desarrollaría razonablemente esas métricas. Análogamente, ¿existe una forma coherente en la que una organización podría medir las capacidades de preocupación? La orientación técnica para esas mediciones sería útil para las organizaciones que procuran prácticamente poner en práctica este tipo de actividades.
- Consideraciones relacionadas con las funciones, responsabilidades y capacidades de diversos actores en la cadena de valor. The guidance initially recognizes that actors along the AI value chain and throughout the lifecycle play a role in managing AI risk. Dicho esto, hay ciertas actividades propuestas a lo largo del documento que parecen malinterpretar o tergiversar el nivel de control que un desarrollador de modelos de fundación tiene sobre sus desplegadores aguas abajo, y/o el nivel de conocimiento que tendrá en casos potenciales de uso aguas abajo. Sería útil aclarar más las actividades en que debería compartirse la responsabilidad.
- Refleja más claramente que, en función de los objetivos de transparencia y divulgación, el nivel de detalle de la participación de una organización puede diferir. Agradecemos que en el documento de orientación se refleje el importante papel que desempeña la transparencia en la promoción de la confianza y la comunicación de la información en las aguas abajo. Dicho esto, la orientación debería aclarar más a qué organizaciones de las partes deberían considerar la posibilidad de divulgar información y las formas en que esa información podría diferir dependiendo del público.
Aunque ciertamente hay más trabajo por hacer, ITI espera seguir colaborando con NIST y el Instituto de Seguridad de la AI para configurar estas directrices de una manera que sea valiosa para todas las organizaciones que traten de gestionar el riesgo de uso indebido.
Author
