Un Código de Práctica Pro-Innovación para las Ambiciones Continentes de AI de Europa
Se espera que en las próximas semanas se presente el proyecto final de los modelos del Código de práctica para fines generales de IA (GPAI). Las empresas que desarrollan modelos GPAI como los modelos de lenguajes grandes podrán utilizar el Código para demostrar el cumplimiento de sus requisitos legales en virtud de la Ley de AI de la UE. Como tal, el Código tiene la posibilidad de servir como un instrumento valioso para crear certidumbre jurídica para las empresas y apoyar el cumplimiento en una esfera en la que aún están surgiendo normas pertinentes.
Sin embargo, el actual proyecto de versión del Código contiene todavía varios requisitos que son demasiado complejos, prescriptivos o más allá del alcance de la Ley de AI, que podría ser menos atractivo y socavar su propio propósito. Para que Europa sea competitiva y líder global de IA, las empresas necesitan reglas claras y sencillas para innovar con confianza y traer productos en el mercado sin cargas ni demoras innecesarias. Es fundamental abordar estos desafíos y garantizar que la versión final del Código aumente la flexibilidad, reduzca la complejidad innecesaria y se ajuste mejor al alcance de la Ley de AI.
Los líderes de toda la UE han subrayado la necesidad de un marco regulatorio más simple y más favorable a la innovación.Tras las alarmas planteadas por el informe Draghi, la Comisión Europea determinó que la simplificación de la legislación de la UE era una prioridad máxima, especialmente para la tecnología estratégica como AI. El Plan de Acción Continente de AI de la semana pasada, que establece el ambicioso plan de la UE para competir globalmente en AI, prevé la simplificación como uno de sus pilares fundamentales y señala que “el éxito de la Ley de AI dependerá de cómo funcionan sus reglas en la práctica”. Obtener el derecho del Código será el primer punto de prueba de esta ambición.
Para ello, aquí están las 5 recomendaciones de ITI para la finalización del Código:
- Mantener la alineación con la ley AI
El Código todavía contiene varios requisitos que van más allá del ámbito de aplicación de la Ley de IA. Por ejemplo, en la Ley no se presta apoyo al amplio mandato de incluir a terceros en evaluaciones de riesgos (por ejemplo, el Compromiso II.11) o los requisitos de notificación y evaluación de la adecuación onerosos para los modelos de GPAI con riesgo sistémico (por ejemplo, en los Compromisos II.9 y II. 14) o en algunas de las medidas específicas de derechos de autor.
Dado que el Código es una herramienta para demostrar el cumplimiento de la Ley de IA, no puede utilizarse para ampliar o renegociar los requisitos del Reglamento. Si no se aborda en el proyecto final, esto creará una seria incertidumbre jurídica en el mercado y desalentará a las empresas de suscribirse al Código. Las medidas que no estén comprendidas en el ámbito de la Ley de la AI deben eliminarse o hacerse voluntarias, pero no ser necesarias para el cumplimiento.
- Las evaluaciones y evaluaciones del riesgo deben abarcar el nivel modelo, no los sistemas
Los modelos GPAI no se construyen para un propósito específico o caso de uso. Por lo tanto, las evaluaciones sobre datos genéricos a nivel modelo no pueden anticipar y mitigar plenamente los riesgos y circunstancias específicos asociados con el uso de un modelo en diferentes contextos o en sistemas específicos de IA.
Sin embargo, algunas medidas del Código exigirían evaluar los modelos cuando se integraran en un sistema (medida II.4.7) o probar y evaluar para riesgos sistémicos amplios, como la “manipulación dolorosa” (apéndice 1.1) – que están conectados a decisiones e integraciones a nivel de sistema.
Dado que el Código se aplica únicamente a los modelos de GPAI, esas expectativas a nivel de sistema deben eliminarse. Esto ayudará a asegurar que los requisitos se levien en el punto apropiado de la cadena de valor. De hecho, la Ley de IA ya aborda el nivel de los sistemas, entre otras cosas mediante evaluaciones de los sistemas de IA de alto riesgo y la concepción de mecanismos para asignar responsabilidades en toda la cadena de valor. Todo requisito a nivel de los sistemas del Código entraría en conflicto con estas medidas, crearía incertidumbre y sería potencialmente inviable para los proveedores modelo.
- Requisitos Sólo deben aplicar a los proveedores de modelos, sin implicaciones aguas abajo
El tercer borrador del Código contiene un lenguaje ambiguo que requeriría a los proveedores de corriente baja, por ejemplo, a las empresas que licencian un modelo GPAI y se construyen sobre él, para “cooperar” con los proveedores de modelos GPAI para apoyar su cumplimiento con el Código. Por ejemplo, estas referencias poco claras aparecen en la sección de evaluación del riesgo (medida II. 4.7 o II. 4.14) y en la sección de derechos de autor (medida I. 2.5).
El Código debe aplicarse únicamente a los proveedores modelo, de conformidad con la Ley de IA. Para la versión final, será crucial dejar en claro que ningún requisito del Código debe transferirse inadvertidamente a entidades de abajo simplemente debido a su implementación o integración de un modelo GPAI.
- Reducir los informes y notificaciones innecesarios
La versión actual del Código ordenaría requisitos complejos y superpuestos de documentación y notificación para los proveedores de modelos GPAI con riesgo sistémico. Many of these requirements exceed the scope of the AI Act and create additional burden, without demonstrably improving safety outcomes. Por ejemplo, el Código exigiría un Marco de Seguridad, sujeto a actualizaciones anuales, evaluaciones de la idoneidad general y modelo y notificaciones a la Oficina de la AI (comités II.1, II.9 y II.14); un informe modelo individual también sujeto a actualizaciones regulares y requisitos de notificación (comité II.8 y II.14); notificaciones periódicas a la Oficina de la AI sobre la aplicación del Código (commisión II.14) más requisitos de documentación en compromisos II.15 y I.15.
Esta complejidad crea una enorme carga burocrática para los proveedores modelo. La versión final del Código debe simplificar y simplificar significativamente los requisitos de documentación, de conformidad con el objetivo de la UE de garantizar una aplicación viable de la Ley de AI.
- Participación con la industria en los próximos pasos
Se espera que la Comisión elabore orientaciones adicionales para aclarar las cuestiones relativas a las definiciones fundamentales, el alcance y la aplicabilidad del Código. Esto incluye, por ejemplo, los conceptos de ajuste y modificación, o la noción de “placement in the market” de un modelo GPAI. Para informar sobre las próximas directrices, la Comisión abrió una consulta pública en abril de 2025.
Será crucial que se comprometa enérgicamente con la industria para que refleje debidamente las directrices que existen dificultades, incertidumbres e inquietudes. Es importante que una definición específica del ajuste pueda ayudar a evitar el exceso de alcance. The guidelines are a great opportunity to support a simple, proportionate and workable implementation of the AI Act, in line with the objectives of the AI Continent Action Plan.