Five Recommendations for the AI Act GPAI Model Code of Practice
El 30 de septiembre, ITI representará a la industria tecnológica mundial en la primera sesión plenaria de las partes interesadas para la redacción de los modelos del Código de Prácticas para fines generales AI (GPAI). Estos son potentes modelos de IA que sustentan numerosos usos de IA, incluyendo IA generativa, y son cruciales para la innovación IA.
Los desarrolladores de modelos GPAI, conocidos como proveedores de la Ley AI, podrán utilizar el Código de práctica para demostrar el cumplimiento de sus obligaciones en materia de AI Act. ITI participará en su redacción durante los próximos nueve meses, para contribuir a que el Código sea una herramienta equilibrada y flexible que los proveedores de modelos GPAI puedan utilizar eficazmente para cumplir con sus requisitos legales mientras continúan innovando. Para lograrlo, aquí están las 5 prioridades clave que debe seguir el Código:
1. La industria debe estar en el asiento de conducción para la redacción del Código.
El Código es ante todo una herramienta de cumplimiento para los proveedores de modelos GPAI. Dada la naturaleza técnica de las obligaciones y las prácticas óptimas en evolución en este espacio, las contribuciones de Los proveedores de modelos GPAI deben ser el principal aporte para elaborar el Código – de conformidad con el artículo 56 de la Ley de AI.
El Código también ayudará a los actores de abajo, como las empresas que construyen aplicaciones específicas de AI del modelo, a obtener información que necesitan sobre el modelo. Por lo tanto, es importante que la redacción también considerar la perspectiva de los proveedores aguas abajo en apoyo de estos objetivos.
2. Es necesario tener un alcance claro dentro de los límites de la Ley de Amnistía Internacional.
El Código de Prácticas está destinado exclusivamente a facilitar la aplicación de la Ley de AI. Su alcance debe ser claro y dentro de los parámetros establecidos por la Ley de AIEsto es esencial para la seguridad jurídica y para fomentar la adopción generalizada del Código.
The Code shall not become an avenue to impose additional obligations on GPAI model providers or downstream actors unforeseen by the Regulation. Por ejemplo, dado que la Ley de AI de la UE no modifica la legislación de derechos de autor de la UE, el Código no debe incluir obligaciones que vayan más allá del marco jurídico existente. Análogamente, el Código no debe prever la participación obligatoria de terceros en la prueba y evaluación de los modelos de GPAI, ya que no es una obligación con arreglo a la Ley de AI.
3. La flexibilidad es clave para reflejar la rápida evolución tecnológica.
The Code must provide flexibility and choice on how GPAI model providers can comply with legal requirements. Con una tecnología que está evolucionando rápidamente, establecer reglas que son demasiado prescriptivas o establecer soluciones técnicas específicas sobre otros, especialmente cuando existan alternativas igualmente eficaces, eliminará finalmente la eficacia del Código y sofocará la innovación. Por ejemplo, la ciencia de evaluación para la seguridad de AI está en su infancia, y las mejores prácticas de la industria en las pruebas y evaluación de GPAI están surgiendo constantemente.
Para reflejar este estado evolutivo del arte, el Código debe seguir siendo flexible y centrado en los resultados y permitir a los proveedores adaptaciones y aplicación diferentes enfoques adaptados al individuo empresa y producto. Por la misma razón, recomendamos evitar establecer KPIs prescriptivas para el Código.
4. Equilibrar cuidadosamente los distintos objetivos de política.
El Código tendrá que encontrar un equilibrio cuidadoso entre diferentes objetivos clave como la transparencia, la seguridad modelo, la protección de secretos comerciales y la innovación.
Por ejemplo, es crucial que los proveedores de modelos GPAI proporcionen información adecuada sobre el modelo a los actores de abajo, para informar sus evaluaciones de riesgos y opciones al crear una aplicación AI. Al mismo tiempo, estas revelaciones deben seguir siendo proporcionales para los proveedores de modelos GPAI, para proteger adecuadamente los secretos comerciales y la información sensible a las empresas que son fundamentales para sus estrategias de innovación. Del mismo modo, las revelaciones públicas excesivamente detalladas –por ejemplo, para cumplir con el resumen del requisito de la capacitación de datos – podrían comprometer la seguridad del modelo al empoderar a los actores maliciosos para encontrar y explotar vulnerabilidades.
5. La armonización con las mejores prácticas mundiales es crucial.
Habida cuenta de que la cadena de valor de AI es de carácter mundial, la búsqueda de un consenso mundial sobre la gobernanza de las actividades de inteligencia artificial será crucial para apoyar la innovación de las actividades conjuntas y facilitar una amplia disponibilidad de tecnologías de inteligencia artificial. Diverging approaches across jurisdictions – for example when it comes to definitions or risks – could complicate companies’ AI governance efforts.
Por eso el Código debe apalancar o alinearse con los enfoques establecidos, como normas internacionales u otros marcos mundiales para la gestión y seguridad de los riesgos de las IA, en lugar de crear nuevas orientaciones y regímenes potencialmente conflictivos. El Código debe seguir siendo compatible con las actividades de normalización mundial dirigidas por la industria, como en el marco de la ISO/IEC, así como con los marcos existentes como el Código de Conducta de Hiroshima G7, el trabajo de la OCDE sobre gobernanza de AI, las Cumbres sobre Seguridad de la AI o el Marco de Gestión de Riesgos de la NISTA en los Estados Unidos.
###