Cinco recomendaciones para la Ley de IA de la UE
Las negociaciones de la Ley de IA de la UE están en plena marcha mientras los legisladores de la UE preparan para el próximo trilogo político los días 2 y 3 de octubre. Se espera que la Comisión Europea, el Consejo de la UE y el Parlamento Europeo examinen las principales disposiciones relativas a la designación de los casos de uso de la IA de alto riesgo que estarán sujetos a la ley y los requisitos propuestos para los modelos de base y los sistemas de IA de fines generales.
Como primeros impulsores de la gobernanza de AI a nivel mundial, los responsables de la política de la UE tienen la responsabilidad crucial de ofrecer un marco legislativo a prueba de futuro que aumente la confianza en esta tecnología clave. The final AI Act should be a clear, legal framework that helps companies in Europe drag the potential of AI and bring transformadotive products to the market. No debe sobrecargar a los innovadores con requisitos desproporcionados que no están motivados por riesgos claros y específicos.
El próximo trilogo de octubre es una oportunidad para ofrecer aclaraciones adicionales y elaborar un marco regulatorio equilibrado, proporcional y favorable a la innovación. Aquí hay cinco maneras en que los responsables de la formulación de políticas pueden lograr ese objetivo:
- Establecer normas claras y prácticas para la clasificación de sistemas de IA de alto riesgo
La propuesta original de la Comisión identificó una amplia lista de casos de uso de IA de alto riesgo, lo que hizo vago el alcance de la regulación. Por ejemplo, la inclusión de la IA utilizada en la contratación potencialmente se aplica a todos los usos de IA en este campo, incluidos los usos más arriesgados como la evaluación de candidatos, pero también menores usos de riesgo como la colocación de cualquier tipo de anuncios de empleo. Esto sería desproporcionado. Acogemos con beneplácito tanto las propuestas actualizadas del Consejo como las del Parlamento para definir y adaptar mejor la aplicación de sistemas de IA de alto riesgo.
En virtud de ambas propuestas, las empresas evaluarían si su caso de utilización de la IA mencionado en la lista, como ciertos usos en el empleo o la gestión de infraestructuras críticas, cumplía criterios de riesgo específicos y cumpliera con la Ley de IA de la UE únicamente si así fuera. Este es el enfoque adecuado, pero aún es necesario aclararlo.Por ejemplo, la propuesta del Parlamento de notificar a las autoridades públicas el resultado de la autoevaluación de una empresa es desproporcionada, sobrecargaría a empresas y autoridades y correría el riesgo de fragmentar el mercado único debido a interpretaciones divergentes de las autoridades nacionales.
Las empresas deben ser capaces de autoevaluación contra criterios claros si su sistema cae en la categoría de alto riesgo, y libera directamente su producto en el mercado si no es de alto riesgo. The assessment could consider risks to fundamental rights and safety, the degree of human supervision or the type of output delivered by AI. De ser necesario, la documentación pertinente sobre esta evaluación podría proporcionarse a las autoridades. Los reguladores también deben ofrecer orientación a las empresas sobre cómo realizar adecuadamente esta evaluación.
- Elaborar una lista dirigida de sistemas de IA de alta velocidad y evitar la superposición con otros reglamentos
Además de establecer normas claras y prácticas para la clasificación de sistemas de IA de alto riesgo, la lista de usos en sí misma debe ser lo más precisa y precisa posible. Una amplia lista de casos de uso de alto riesgo crearía incertidumbre jurídica para las empresas y aumentaría los riesgos reglamentarios. Por ejemplo, el texto del Parlamento incluiría sistemas de IA utilizados para hacer inferencias basadas en datos biométricos que pudieran traer en alcance una variedad de usos auxiliares de IA, como herramientas AR en aplicaciones fotográficas o filtros utilizados para mejorar la calidad en videollamadas.
Los legisladores también deben evitar la duplicación con legislación vigente o futura como el DSA o la regulación sobre la publicidad política. Las cuestiones relacionadas con la IA utilizadas en las elecciones o los sistemas de recomendación utilizados por las plataformas de redes sociales ya se abordan en esos marcos, que se verían socavadas por los requisitos de superposición establecidos en la Ley de IA de la UE.
- Ensure Relevant Information is Shared along the AI Value Chain
Los sistemas General Purpose AI (GPAI) y los modelos de base no tienen un propósito específico y pueden adaptarse a una variedad de casos de bajo o alto riesgo: se pueden utilizar en sistemas capaces de captar imágenes o reconocer objetos o responder preguntas.
Por lo tanto, es fundamental asegurarse de que quien utilice GPAI o modelos de fundación para construir sistemas de IA de alto riesgo tenga la información adecuada para cumplir con la Ley de IA. Como propone el Consejo y el Parlamento, apoyamos el deber de compartir esta información para los proveedores de GPAI y los modelos de base. Esto apoyará la gestión holística del riesgo en toda la cadena de valor examinando adecuadamente las capacidades y responsabilidades de los distintos actores.
- Garantizar Requisitos para Desarrolladores de Modelos de Fundación son realistas
Los modelos de la Fundación se pueden utilizar para miles de tareas de abajo – desde chatbots a la atención médica o la educación. Si bien los desarrolladores de modelos de fundaciones pueden adoptar ciertas medidas antes de la puesta en libertad para aumentar la seguridad y mitigar los riesgos derivados de su aplicación, prever riesgos derivados de cada uso no es realista en la etapa de desarrollo. Eficacia La gestión del riesgo depende en gran medida del contexto del despliegue o el uso. Por lo tanto, las necesidades de los encargados de elaborar modelos básicos deberían orientarse hacia los resultados, ser proporcionales y viables y sólo se extiende a lo que los desarrolladores pueden abordar razonablemente durante el diseño y desarrollo.
Varios requisitos propuestos por el Parlamento no son realistas y adoptan un enfoque excesivamente prescriptivo. Estos incluyen el requisito de identificar riesgos razonablemente previsibles o alcanzar niveles de rendimiento específicos. Un enfoque prescriptivo aquí socavaría la investigación en curso sobre controles y obstáculos para los modelos de fundación y el riesgo de sofocar la innovación.
- El enfoque basado en el riesgo debe aplicarse también a los modelos de la Fundación
The AI Act should not regulate an entire technology, but rather its use, in line with the risk-based approach. Modelos de fundición que no están destinados a utilizar en aplicaciones de alto riesgo – siempre y cuando se exprese explícitamente en términos de servicio, documentación o instrucciones de uso – Por lo tanto, no debe estar dirigida por requisitos específicos.
Esta aclaración también reconocería mejor la diversidad entre los modelos de base, por ejemplo los que no se ponen a disposición del público o sólo se liberan para usos empresariales a empresas. El Consejo reconoce correctamente este hecho en sus disposiciones del GPAI, e instamos enérgicamente a los legisladores a que lo apoyen en el texto final.