Tech Industry lanza una guía integral para los sistemas de IA de alta resistencia y modelos de IA de vanguardia
WASHINGTON – Hoy en día, la asociación mundial de comercio tecnológico ITI rdisuadió de un conjunto de prácticas del sector tecnológico de consenso de primera clase las empresas están utilizando para desarrollar e implementar tecnología AI de forma segura y segura y construir confianza con los consumidores.
ITI Marco de rendición de cuentas (se abre en una pestaña nueva) define responsabilidades en todo el ecosistema de IA, destacando los pasos que desarrollan IA, implementadores e integradores – un nuevo término definido para un actor intermedio en la cadena de suministro – están tomando para abordar los usos de IA de alto riesgo, incluyendo los modelos de IA de frontera. También introduce el concepto de auditoría, donde una organización conserva documentación de evaluaciones de riesgos, para aumentar la transparencia en los sistemas de inteligencia artificial. ITI Marco de rendición de cuentas puede informar a ambos gobiernos que buscan desarrollar políticas y organizaciones de IA que están tratando de promover sus prácticas de gestión del riesgo de IA.
“La industria tecnológica aprecia el importante papel que desempeña la confianza de los consumidores en el avance de la adopción de AI y el fomento de la innovación. ITI Marco de rendición de cuentas sirve para profundizar esa confianza detallando prácticas que los desarrolladores, implementadores e integradores están tomando para aumentar la seguridad de la IA y mitigar el riesgo, y es una guía que los responsables de la formulación de políticas pueden aprovechar al contemplar enfoques para la gobernanza de la IA”, dijo el vicepresidente de política de ITI Courtney Lang.
The Framework details seven practices being used by actors across the AI ecosystem:
- Evaluaciones tempranas y continuas de los riesgos y los efectos durante todo el ciclo de vida de desarrollo de la IA, que puede ayudar a una organización a abordar riesgos específicos y tomar decisiones más informadas sobre cómo un despliegue de la IA podría afectar a diferentes grupos;
- Prueba de modelos fronterizos para identificar y abordar fallas y vulnerabilidades antes de la liberación;
- Documenting and sharing information about the AI system with others in the AI value chain, allowing those who are integrating or deploymenting AI systems to better understand the system and prior risk management activities;
- Realizar prácticas de explicación y divulgación para que los usuarios finales tengan una comprensión básica del sistema de inteligencia artificial y sepan cuando interactúan con un sistema de inteligencia artificial;
- Utilizar datos de capacitación seguros, precisos, pertinentes, completos y coherentes, que pueden ayudar a mitigar los productos sesgados y producir resultados coherentes en todas las aplicaciones;
- Velar por que los sistemas de inteligencia artificial estén seguros para proteger a los usuarios finales; y
- Nombrando oficiales de riesgo de IA y capacitando a empleados y personal que interactúan con sistemas de IA o utilizan estos sistemas.
Leer ITI está lleno Marco de rendición de cuentas Aquí. (se abre en una pestaña nueva).
Este Marco es el último en la serie de guías de política de ITI que están trazando el curso sobre temas clave de AI:
- Agosto 2023: Understanding Foundation Models " the AI Value Chain: ITI’s Comprehensive Policy Guide (se abre en una pestaña nueva)