ITI envía recomendaciones NIST a la gestión de riesgos y seguridad de AI
WASHINGTON – Hoy en día, la asociación mundial de comercio tecnológico ITI ofreció información sobre cómo el gobierno de EE.UU. puede avanzar en la seguridad de AI, la gestión del riesgo y el desarrollo responsable y despliegue en respuesta a la consulta del Instituto Nacional de Normas y Tecnología (NIST) de AI Safety Institute (AISI), Gestionar el riesgo de uso indebido para los modelos de la fundación de doble uso.
Los modelos de la Fundación son un tipo de AI que sustentan herramientas cotidianas incluyendo búsquedas de Internet, edición de fotos, traducción, distribución de paseos y chatbots. También tienen el potencial de ayudar a resolver problemas mayores, como la reducción de ciclos de investigación y desarrollo en la medicina y la mejora del acceso a la educación.
“Para avanzar en la labor crítica de seguridad de la IA, los interesados en todo el ecosistema de la IA necesitan tener una comprensión constante de los riesgos de uso indebido y las formas de abordarlos, especialmente a medida que siguen evolucionando”, dijo ITI Vicepresidente de Política Courtney Lang. “Al incorporar los comentarios de la industria tecnológica, NIST puede fortalecer su documento de orientación y proporcionar un libro de juego para los interesados, garantizando la coherencia, fortaleciendo la rendición de cuentas y mitigar los riesgos para los consumidores y las empresas”.
Aprovechamiento de las recomendaciones normativas introducidas en su Understanding Foundation Models " the AI Value Chain: ITI’s Comprehensive Policy Guide (se abre en una pestaña nueva), ITI instó a la AISI de NIST a:
- Desarrollar nuevas orientaciones técnicas para el tratamiento en red de modelos de bases de doble uso para ayudar a las organizaciones a evaluar de forma sistemática si los agentes maliciosos podrían superar las salvaguardias del sistema de inteligencia artificial;
- Considerar las funciones, responsabilidades y capacidades de diversos actores en la cadena de valor AI y esclarecer dentro de la orientación donde se pueda compartir la responsabilidad; y
- Detalle qué organizaciones de información deben dar a conocer, y a quién, a fin de cumplir los objetivos de transparencia y divulgación.
Además de los puntos anteriores, la presentación de ITI propone definiciones clave para la “evaluación de riesgos” y “evaluación de impactos” que los responsables de la formulación de políticas deben esforzarse por ponerse en contacto para promover enfoques de política de IA globalmente coherentes.
Lea la presentación completa de ITI aquí. (se abre en una pestaña nueva)
El mes pasado, ITI Vice President of Policy Courtney Lang publicó un blog de TechWonk destacando su análisis inicial de NIST Gestión del riesgo de uso indebido para los modelos de la Fundación de Uso Dual y ofreció información a AISI sobre cómo se puede mejorar la orientación para hacer frente al uso indebido de AI y proteger más eficazmente a los consumidores. Además, ITI ha publicado una serie de guías de política que están trazando el curso sobre temas clave de AI:
- Agosto 2023: Understanding Foundation Models " the AI Value Chain: ITI’s Comprehensive Policy Guide (se abre en una pestaña nueva)