ITI Publishes Global Policy Principles for Enabling Transparency of AI Systems
WASHINGTON – Hoy, la asociación mundial de comercio tecnológico ITI publicó nuevo Policy Principles for Enabling Transparency of AI Systems (se abre en una pestaña nueva)para ayudar a informar y orientar la formulación de políticas. In its principles, ITI underscores that transparency is a critical part of developing accountable and trustworthy AI systems and preventing unintended outcomes or other harmful impacts. En el nivel más alto, la transparencia se trata de ser clara acerca de cómo se construye, funciona y funciona un sistema AI. Cuando se ejecute bien, la transparencia de AI puede ayudar a analizar las salidas y exigir responsabilidades a los interesados de AI.
Entre sus principios, ITI recomienda que los encargados de la formulación de políticas faculten a los usuarios mediante la inclusión de disposiciones en la legislación que proporcionen información suficiente para comprender las decisiones de un sistema de inteligencia artificial que puedan afectar negativamente los derechos fundamentales de los usuarios y darles la capacidad de revisar y/o impugnar esas decisiones. ITI también describe la necesidad de aclarar a los usuarios cuando están interactuando directamente con un sistema AI.
“La transparencia de los sistemas de IA ha sido, acertadamente, un objetivo primordial para los encargados de la formulación de políticas en Estados Unidos y en todo el mundo”, dijo el presidente y CEO de ITI, Jason Oxman. “Las regulaciones deben mitigar eficazmente el riesgo para los usuarios, preservando al mismo tiempo la innovación de las tecnologías de IA y alentando su participación. Los Principios de política de ITI para facilitar la transparencia de los sistemas de inteligencia artificial ofrecen una guía clara para que los encargados de formular políticas aprendan y faciliten una mayor transparencia de los sistemas de inteligencia artificial”.
Los sistemas AI están compuestos por conjuntos de algoritmos, que son capaces de aprender y evolucionar, mientras que un algoritmo por sí solo suele ser más simplista, a menudo ejecutando un conjunto finito de instrucciones. ITI Policy Principles for Enabling Transparency of AI Systems sugerir que la forma más eficaz de abordar la formulación de políticas en materia de transparencia es aplicar requisitos de transparencia a los usos específicos y de alto riesgo de los sistemas de IA, que son aplicaciones en las que un resultado negativo podría tener un impacto significativo en las personas, especialmente en lo que respecta a la salud, la seguridad, la libertad, la discriminación o los derechos humanos.
ITI Policy Principles for Enabling Transparency of AI Systems (se abre en una pestaña nueva)asesorar a los encargados de formular políticas a:
- Considere cuál es el objetivo final de los requisitos de transparencia.
- Considere al público previsto cualquier requisito de transparencia y en qué punto del ciclo de vida del sistema AI se aplicarían.
- Adoptar un enfoque de transparencia basado en el riesgo al examinar los requisitos.
- Incluir definiciones claras de lo que significa la transparencia en el contexto de una propuesta normativa o de política.
- Considere que hay diferentes formas de abordar la transparencia y mejorar la confianza, y que la explicabilidad es sólo un componente.
- Considerar la posibilidad de incluir disposiciones en la legislación que tengan por objeto proporcionar a los usuarios información suficiente para comprender las decisiones de un sistema de inteligencia artificial que puedan afectar negativamente sus derechos fundamentales y proporcionar a los usuarios la capacidad de revisar o impugnar esas decisiones.
- Asegúrese de que los requisitos de transparencia no requieren que las empresas divulguen IP o código fuente sensibles o de otro modo revelar datos individuales sensibles.
- Aprovechar las normas internacionales voluntarias para mantener en la medida de lo posible la interoperabilidad de diversos requisitos de transparencia de la AI.
- Considere que cuando un sistema AI está interactuando directamente con un usuario, ese hecho debe ser fácilmente descubierta y que los requisitos de divulgación pueden ayudar a facilitar esto.
- Las normas relativas a la divulgación deben ser flexibles y evitar incluir información específica o detalles técnicos.
- Sólo el implementador real del sistema AI debe ser responsable de la divulgación.
Estos principios se basan en Recomendaciones de política global de ITI (se abre en una pestaña nueva), publicado en 2021, que ofreció un amplio conjunto de recomendaciones de políticas para los encargados de la formulación de políticas mundiales que procuran fomentar la innovación en la inteligencia artificial, al tiempo que se abordan los daños específicos.
Leer ITI Policy Principles for Enabling Transparency of AI Systems Aquí..
###