Las expectativas de Tech para la Ley de transparencia de la UE AI Código de práctica
Se espera que la Comisión Europea distribuya próximamente el primer borrador del Código de Práctica sobre la marcación y etiquetación del contenido generado por AI. El Código, redactado por un grupo de expertos, ayudará a las empresas a demostrar el cumplimiento de las obligaciones que les incumben en virtud del artículo 50 2) y del artículo 50(4) de la Ley de IA de la Unión Europea, que abarca el marcado y la detección de contenidos generados por IA, así como el etiquetado de fondos y ciertas publicaciones generadas por IA.
El Código trata de abordar cuestiones importantes que pueden ayudar a aumentar la confianza y la transparencia en torno a la IA generativa. Al mismo tiempo, debe tener en cuenta la naturaleza naciente de las técnicas de marcado y detección, las diversas necesidades de transparencia en los casos de uso de la IA y la falta de normas.
Como miembro del grupo de interesados que apoya la redacción del Código, el ITI ha estado haciendo el caso por un Código equilibrado y a prueba de futuro. ¿Nuestra prioridad? El Código debe dejar flexibilidad para encontrar los enfoques correctos de marcación y etiquetado que funcionan para diferentes productos, audiencias y tipos de contenido. Sólo tomando este enfoque el Código puede ser viable y eficaz.
Esto es lo que la industria busca de los responsables de la formulación de políticas al finalizar el primer borrador del Código:
1. Evite describir técnicas específicas de marcado y detección para el artículo 50(2)
Las empresas están invirtiendo en el desarrollo de diferentes herramientas para marcar contenido generado por IA: desde la aplicación de marcas de agua invisibles a imágenes y vídeos, hasta el desarrollo de sólidos estándares de procedencia de contenidos y metadatos como C2PA. A pesar de la innovación significativa en este espacio, ninguna solución es adecuada para todo tipo de sistemas de IA generativos. Es por ello que los proveedores de IA deben tener la flexibilidad para elegir el enfoque más adecuado para cumplir con el artículo 50(2) – dependiendo del caso de uso, el tipo de contenido (por ejemplo, texto vs audio o imágenes), y el nivel de riesgo involucrado. En muchos casos, una combinación de enfoques puede ser la solución más eficaz. Si el Código toma un enfoque prescriptivo, por ejemplo imponiendo una tecnología específica, se volvería rápidamente obsoleto, ya que las técnicas de marcado seguirán evolucionando junto a la tecnología.
2. Aplicar un enfoque flexible para ayudar a reconocer las limitaciones de las herramientas actuales
A pesar de los esfuerzos significativos, las técnicas de marcación de hoy están lejos de ser perfectas. Específicamente, algunos métodos pueden ser técnicamente posibles pero aún así ser poco práctico – demasiado caro, demasiado lento, o demasiado dañino a la experiencia del usuario. Además, la interoperabilidad puede no ser posible para ciertas técnicas de marcación novedosas de vanguardia. Empujar a las empresas a adoptar técnicas que sean comercial o operacionalmente indeseables enfría la investigación y el desarrollo y retrasaría el progreso en mejores soluciones. Un reto clave es también la marcación del texto generado por AI. Puesto que el texto puede ser editado significativamente por los usuarios, marcando que es mucho más difícil que, por ejemplo, incorporar una marca de agua en una imagen.
Si bien el párrafo 2 del artículo 50 de la Ley de IA exige que las técnicas de marcado sean “eficaces, interoperables, robustas y fiables”, el Código debe reconocer las limitaciones del estado actual del arte y el equilibrio adecuado entre los distintos intercambios comerciales.
3. Hacer requisitos de marcación basados en riesgos
La IA generativa se utiliza de muchas maneras diferentes, desde servicios en línea hasta herramientas creativas o profesionales, y las necesidades de transparencia varían en consecuencia. Un vídeo sintético realista plantea diferentes preocupaciones que una pequeña edición con ayuda de inteligencia artificial en una aplicación fotográfica, que no debe requerir marcación o etiquetado específico. Del mismo modo, en el caso de código generado por AI o audio en tiempo real, el marcado degradaría significativamente el rendimiento, mientras que la naturaleza artificial del contenido puede ser obvia.
Para reflejar estos matices, el Código debe seguir siendo proporcional al nivel de riesgo que plantean los distintos casos de uso. Pequeñas salidas de IA o situaciones donde es obvio que un pedazo de contenido es generado por IA no debe ser cubierto por el Código.
4. Asegurar que el etiquetado sea significativo, no abrumador
La transparencia sólo construye confianza cuando es significativa. Los usuarios necesitan etiquetas que puedan notar y comprender, y diferentes audiencias tienen diferentes niveles de alfabetización de AI. Por ejemplo, los instrumentos AI utilizados por el público en general tendrían necesidades de transparencia diferentes que los instrumentos especializados para los profesionales.
Además, el etiquetado debe basarse en el riesgo. Si cada uso menor o rutinario de la IA es etiquetado, los usuarios pueden rápidamente ser abrumados, lo que conduce a la “ fatiga de etiquetas” e incluso la falsa suposición de que el contenido no etiquetado es más confiable.
Para evitarlo, el Código debe adoptar un enfoque específico que se centre en situaciones en las que la participación de la IA realmente importe o pueda engañar a los usuarios. El contenido realista generado por AI se puede utilizar en una variedad de casos beneficiosos y de bajo riesgo, como publicidad, entretenimiento o comunicaciones internas, y estas situaciones no deben estar cubiertas por los requisitos de etiquetado de la Ley AI.
Mira hacia delante
El próximo Código de Práctica es una oportunidad para que Europa establezca expectativas claras y prácticas para marcar y etiquetar contenido generado por AI. Al mantener el Código flexible, basado en la realidad técnica, y centrado en la transparencia significativa en lugar de los usuarios abrumadores, la UE puede apoyar la confianza y la innovación a medida que se aplica la Ley de AI. Un enfoque equilibrado y reflexivo ayudará a asegurar que el Código se convierta en una herramienta valiosa para las empresas y una fuente confiable de claridad para las personas de toda la UE.