ITI ofrece recomendaciones al NIST sobre IA Red-Teaming, Stakeholder Engagement y Standards Development
WASHINGTON – Hoy, la asociación mundial de comercio tecnológico ITI respondió a la solicitud del Instituto Nacional de Normas y Tecnología (NIST) de información relacionada con las tareas de NIST en Orden Ejecutiva del Presidente Biden sobre Inteligencia Artificial segura, segura y confiable.
En su Comentarios, ITI recomienda que:
- NIST trabaja con contrapartes internacionales al tiempo que desarrolla un marco de gestión de riesgos de IA generativo para aumentar la alineación de enfoques a través de las fronteras, incluyendo el aprovechamiento de las normas internacionales;
- Considerar las importantes funciones de los desarrolladores e implementadores, así como de otros en todo el ecosistema de IA, para promover la transparencia de los sistemas de IA generativos;
- Velar por que la evaluación y la auditoría se alcancen al nivel de riesgo que supone un sistema de inteligencia artificial;
- Reconocer que la ciberseguridad es diferente de la teledifusión roja de AI, diferenciar entre el análisis rojo de un modelo de IA frente a un sistema de IA en rojo, y evitar interpretar el enrojecimiento como una solución para la gestión del riesgo;
- Considerar un enfoque flexible y basado en el riesgo que permita el uso de múltiples técnicas de autenticación de contenidos apropiadas al nivel de riesgo y caso de uso; y
- Al elaborar un plan mundial de elaboración de normas de inteligencia artificial y de participación, mantener la coherencia internacional en la medida de lo posible y seguir reconociendo la importancia de la participación de los interesados en los órganos de desarrollo de normas.
“Creemos que un perfil, normas y directrices generativas de AI RMF o para la evaluación de modelos y redes de IA, así como un plan para participar y avanzar en el desarrollo de normas internacionales son integrales para promover el desarrollo y el despliegue de IA confiable. Esperamos seguir colaborando con NIST a medida que avanzan estos esfuerzos y alentar a NIST a ver ITI como un recurso”, ITITI escribió en sus comentarios.
Lea los comentarios completos de ITI Aquí..
ITI ha reiterado que el desarrollo y el despliegue seguros y responsables de IA deben basarse en la confianza, la transparencia, la ética y la colaboración entre el gobierno, la industria, la sociedad civil y el mundo académico. INCITS, una división afiliada de ITI, sirve como grupo asesor técnico de EE.UU. al órgano de estándares internacionales que recientemente publicó un estándar para gestionar los riesgos y oportunidades de AI. Esta norma del sistema de gestión permite mejorar la calidad, seguridad, trazabilidad, transparencia y fiabilidad de las aplicaciones de IA.
In January, ITI unveiled a new guide for global policymakers, Authenticating AI-Generated Content: Exploring Risks, Techniques & Policy Recommendations, con el objetivo de abordar la necesidad apremiante de autenticar el contenido generado por IA, incluyendo los chatbots, la imagen y los generadores de audio.