Cinco recomendaciones para el Código de Práctica de la UE para los Modelos de GPAI
El 14 de noviembre, la Oficina Internacional de la Unión Europea distribuyó el primer borrador del Código de práctica de la Ley de Amnistía Internacional de la Unión Europea para los modelos generales de IA (GPAI). El Código, redactado por un grupo de expertos, tiene por objeto orientar a los desarrolladores de los modelos GPAI, conocidos como proveedores en virtud de la Ley AI, sobre cómo demostrar el cumplimiento de sus obligaciones en materia de AI. ITI representa la industria tecnológica en el grupo de redacción y presentó información escrita al primer proyecto del Código el 28 de noviembre.
The Code will be a success if it is widely used by GPAI model providers as a reference to demonstrate compliance with the specific legal requirements of the AI Act.
Para ello, el próximo borrador del Código debe ser proporcional y flexible dada la rápida evolución del estado del arte. Importantly, since the Code is meant to implement the AI Act, it must be strictly alignment with the legal text of the regulation and provide an actionable framework for GPAI model providers to demonstrate compliance with the AI Act. The AI Office should intentionally pursue close involvement in the drafting and in considering the consultation responses to ensure the Code meets these practical needs.
Aquí están 5 recomendaciones clave para lograr ese importante objetivo:
- Manténgase dentro del alcance de la Ley de AI
El proyecto actual contiene diversas medidas que no figuran en la Ley de IA. Por ejemplo, los requisitos sobre la participación obligatoria de terceros en evaluaciones y pruebas de riesgo, que anteriormente fueron rechazados por los colegisladores, aparecen varias veces, como las medidas 13.7 o la medida 17. Algunos de los requisitos de derechos de autor, como las medidas 3.2 y 3.3 sobre el cumplimiento de las normas y la aplicación de las normas de derechos de autor, también están fuera del ámbito de aplicación de la Ley de IA.
Desde entonces el Código está destinado exclusivamente a facilitar la aplicación de la Ley de AI requisitos para los proveedores de modelos GPAI, su alcance debe permanecer dentro de esos límites. Esto es fundamental para la seguridad jurídica y para la adopción generalizada del Código. La aplicación de la ley haría más onerosa la adhesión al Código y no se ajustaría al equilibrio reglamentario acordado por los colegisladores.
- Requisitos de transparencia equilibrados y medios
Las medidas 1 y 2 del Código contienen detalles sobre los requisitos de transparencia para los proveedores de modelos de GPAI, respectivamente, para los reguladores (la Oficina de IA) y los proveedores de corriente inferior (es decir, las empresas que utilizan el modelo para construir un sistema específico de IA y necesitarán información sobre el modelo para realizar evaluaciones de riesgos o cumplir los posibles requisitos reglamentarios).
Cuando se trata de transparencia hacia la Oficina de Inteligencia Artificial, será importante garantizar garantías procesales para las solicitudes de información y protección adecuada de secretos comerciales. Las revelaciones también tendrán que ser proporcionales y factibles, especialmente en áreas como la medición de energía o computación, donde todavía no se dispone de prácticas estandarizadas.
Cuando se trata de información para proveedores de aguas abajo será crucial para encontrar el equilibrio adecuado entre el detalle y la viabilidad. Por un lado, los proveedores aguas abajo necesitarán información suficientemente detallada y factible para apoyar su toma de decisiones. Por otra parte, la documentación excesiva o la divulgación de información podrían ser onerosos para los proveedores modelo, violar secretos comerciales y comprometer la seguridad modelo.
- Una taxonomía clara de los riesgos sistémicos
El proyecto de código contiene una taxonomía de los riesgos sistémicos que los proveedores de ciertos modelos de GPAI tendrán que considerar para sus evaluaciones de riesgos y mitigación de conformidad con el artículo 55 de la Ley de AI.
Los proveedores de GPAI necesitarán que esta taxonomía sea lo suficientemente específica y clara para la elaboración, medición y mitigación efectivas de políticas. La falta de especificidad puede dar lugar a una priorización errónea de ciertos riesgos y a una enorme inversión de recursos en una amplia gama de riesgos insignificantes o improbables, lo que complica los esfuerzos de gestión de riesgos de los proveedores modelo.
Es por ello que se deben evitar o especificar en el próximo borrador conceptos y riesgos amplios como la ‘persuasión y manipulación’ o ‘grande impacto negativo en la sociedad en su conjunto’.
- Requisitos de evaluación y mitigación de riesgos feasibles
El Código contiene requisitos detallados para la evaluación y mitigación de los riesgos sistémicos asociados con ciertos modelos de GPAI.
El próximo proyecto debería reconocer explícitamente los límites de la evaluación del riesgo a nivel modelos y mitigación. Dado que el riesgo es altamente dependiente del contexto, y dada la amplia aplicabilidad, las evaluaciones y las atenuaciones del modelo GPAI sobre datos genéricos a nivel de modelos no pueden anticipar y mitigar riesgos específicos asociados con el uso de un modelo en diferentes contextos o sistemas específicos de IA.
Por ello, las medidas prescriptivas que requieren determinar los riesgos específicos del nivel de despliegue (como la medida 9), evaluar los riesgos a nivel de los sistemas a nivel de los modelos (como la medida 10.5) o supervisar ampliamente el modelo posterior al despliegue (medida 11.4) serían sumamente onerosas y, en muchos casos, inviables.
- Mejora de los plazos para la consulta de los interesados
El breve período de consulta para el primer borrador del Código ha hecho difícil para muchos líderes de la industria, especialmente los que tienen casos complejos de uso y cadenas de suministro, evaluar significativamente el proyecto.
Si bien la redacción del Código tendrá que seguir inevitablemente los ambiciosos plazos establecidos por la Ley de AI, es fundamental un diálogo significativo con la industria para garantizar que el Código sea viable y refleje el estado del arte. Las rondas de redacción posteriores deben tener esto en cuenta y permitir tiempo y preparación suficientes.
Muy adelante...
Reflejar estos cinco puntos en el próximo borrador del Código será esencial para que el Código se mantenga fiel a su propósito original, como lo pretenden los colegisladores. Es decir, facilitar el cumplimiento de la Ley de IA para los proveedores de modelos GPAI en ausencia de normas pertinentes, permitiendo al mismo tiempo flexibilidad para el surgimiento y desarrollo de esta tecnología incipiente.