ITI's New Guide Outlines AI Content Authentication Tools and Policy Approaches
WASHINGTON – Como parte de su AI Futures Initiative (se abre en una pestaña nueva), Asociación de Comercio Tecnológico Global ITI desvelada a new guide for global policymakers (se abre en una pestaña nueva) con el objetivo de abordar la necesidad apremiante de autenticar el contenido generado por IA, incluyendo los chatbots, la imagen y los generadores de audio. El análisis de ITI explora diferentes tipos de técnicas de autenticación, como marcadores de agua, procedencia, auditoría de metadatos y autenticación humana, y enfatiza que una combinación de métodos será la forma más eficaz de validar y autenticar contenidos generados por IA. ITI también destaca el importante papel que desempeñarán las normas de consenso en la promoción de la autenticación AI.
Las técnicas de autenticación de IA tienen como objetivo aumentar la transparencia, minimizar los riesgos y aumentar la confianza en la IA generativa en general y en toda la cadena de valor AI, y ayudar a aumentar la confianza en la información utilizada por las empresas, los medios de comunicación y los consumidores.
“AI sigue dominando las conversaciones políticas en todo el mundo. A medida que el contenido generado por AI crece en su sofisticación y adopción, hay una sensación de urgencia para aprovechar la tecnología transformadora en beneficio social y minimizar los daños que podrían derivarse de su uso, incluida la difusión de información errónea y desinformación”, dijo ITI Vicepresidente Principal de Política y Asesor General John Miller. “La nueva guía de políticas de IIT describe los riesgos asociados con el contenido generado por IA, las técnicas de autenticación y los instrumentos disponibles para ayudar a abordarlos, y las consideraciones pertinentes para el desarrollo de políticas. Esperamos que continúe la colaboración con los gobiernos mundiales a medida que desarrollen sus políticas de IA y traten de aumentar su comprensión del paisaje de IA cada vez más cambiante”.
In its guide, ITI encourages policymakers to:
- Evitar enfoques excesivamente prescriptivos que encomienden una técnica sobre otra, ya que tales enfoques corren el riesgo de indizar en una herramienta y perder los beneficios que otra podría proporcionar;
- Invertir de manera más robusta en la investigación y desarrollo de técnicas de autenticación de AI;
- Promover la transparencia y la sensibilización del consumidor en relación con el contenido generado por la AI, haciendo especial hincapié en la educación;
- Aprovechar las asociaciones entre los sectores público y privado para comprender las limitaciones y los beneficios de diversas técnicas de autenticación;
- Ensure AI itself plays a role in detecting AI-generated content; and
- Invertir en el desarrollo de normas claras para la autenticación de IA para promover la coherencia y la colaboración entre técnicas.
Leer ITI está lleno Authenticating AI-Generated Content: Exploring Risks, Techniques & Policy Recommendations Aquí. (se abre en una pestaña nueva)
ITI ha reiterado que el desarrollo y el despliegue seguros y responsables de IA deben basarse en la confianza, la transparencia, la ética y la colaboración entre el gobierno, la industria, la sociedad civil y el mundo académico. INCITS (se abre en una pestaña nueva), una división afiliada de ITI, sirve como el grupo asesor técnico de EE.UU. al órgano de normas internacionales que recientemente publicado un estándar (se abre en una pestaña nueva) para gestionar los riesgos y oportunidades de la IA. Esta norma del sistema de gestión permite mejorar la calidad, seguridad, trazabilidad, transparencia y fiabilidad de las aplicaciones de IA. Se puede encontrar más información sobre los INCITS y cómo participar en el desarrollo de normas AI Aquí. (se abre en una pestaña nueva).