ITI destaca las consideraciones clave para garantizar sistemas de inteligencia artificial
WASHINGTON – Hoy en día, la asociación mundial de comercio tecnológico ITI compartido (se abre en una pestaña nueva) perspectivas y recomendaciones iniciales con el Centro de Normas e Innovación de AI (CAISI) sobre la seguridad de sistemas de IA, la próxima frontera de la tecnología de IA.
Si bien la AI representativa presenta oportunidades, sus capacidades y consecuencias, incluidos los riesgos de seguridad, aún no se entienden plenamente. La presentación de ITI pone de relieve una serie de consideraciones para CAISI, ya que evalúa los riesgos de seguridad de la AI y evalúa si son necesarias nuevas orientaciones y mejores prácticas. En su presentación, ITI ofrece perspectiva de la industria sobre el estado actual de los riesgos de seguridad que afectan a los sistemas de IA agentes, ofrece información sobre los controles y normas de seguridad que pueden apoyar el desarrollo y el despliegue seguros, y examina cuestiones clave relacionadas con la evaluación de la seguridad de los sistemas de IA agentes.
“Como los responsables de la formulación de políticas tratan de comprender las implicaciones de los sistemas de IA agentes, la evaluación adecuada del riesgo es crítica para su desarrollo y despliegue seguros y responsables”, dijo ITI Vicepresidente de Política Courtney Lang. “Apreciamos que CAISI está buscando información sobre las características únicas de los sistemas de agentes de IA, y las formas en que los riesgos de seguridad se presentan en ese contexto. ITI se compromete a trabajar con la CAISI y los responsables de la formulación de políticas para informar de los enfoques emergentes en la gestión de los riesgos de seguridad de la IA, asegurando que cualquier orientación posterior sea ampliamente impactante para los interesados en todo el ecosistema de la IA”.
A medida que CAISI evalúa la seguridad de la AI, ITI alienta a la agencia a:
- b) Aproveche los marcos y arquitecturas existentes de seguridad cibernética para hacer frente a los posibles riesgos introducidos por los sistemas de inteligencia artificial, en lugar de crear paradigmas totalmente nuevos;
- Adoptar enfoques basados en el riesgo que representen diferencias en la capacidad de los agentes, el entorno de despliegue y el caso de uso;
- Promover prácticas de seguridad con capas en todo el ciclo de vida completo de los agentes de inteligencia artificial; y
- Priorizar los mecanismos de seguridad interoperables, la armonización con las normas y las mejores prácticas existentes y la orientación práctica de la aplicación.
Leer las recomendaciones completas de ITI Aquí. (se abre en una pestaña nueva).
ITI Comprensión de inteligencia artificial (se abre en una pestaña nueva) esboza consideraciones normativas centradas en fomentar la adopción y promover la confianza en la AI y la ITI Principios de política de seguridad de AI (se abre en una pestaña nueva) proporcionar sugerencias detalladas sobre cómo los responsables de la formulación de políticas pueden mejorar la ciberseguridad de los modelos y sistemas de IA.