Cómo hacer la Ley de AI de la UE: ¿Qué queda por hacer?
La próxima reunión del trilogo político será un hito crucial para la Ley de IA de la UE y podría ser decisivo para llegar a un acuerdo sobre la histórica legislación de la UE sobre IA. En la actualidad, los encargados de la formulación de políticas de la Unión Europea se enfrentan a algunas de las cuestiones más controvertidas de la Ley, incluidas las que se prohibirán los usos de la IA y las normas para los modelos generales de IA (GPAI) y fundaciones, los bloques de construcción para los sistemas de IA.
Los intereses de la Unión Europea son enormes: para que la economía digital de la UE siga siendo competitiva, es imperativo que cualquier compromiso que alcancen los negociadores de la UE refleje dos principios clave. En primer lugar, la Ley debería establecer normas que ofrezcan claridad jurídica a las empresas y sean lo suficientemente flexibles para soportar la prueba del tiempo. En segundo lugar, el reglamento debe seguir siendo proporcional y basado en el riesgo para limitar cualquier impacto innecesario en la innovación y la adopción de AI.
Edificio Recomendaciones de ITI por delante de los trilogues de septiembre, aquí están cuatro consideraciones que los legisladores deben abordar mientras buscan cerrar un acuerdo final.
1. A Two-Tier Approach for Foundation Models or General-Purpose AI Crearía una incertidumbre legal significativa
Los responsables de la formulación de políticas han formulado recientemente propuestas para introducir un enfoque de dos niveles en la regulación de los modelos de fundación y la IA para fines generales, que incluiría obligaciones más fuertes para ciertos modelos de IA más poderosos que se denominan “alta capacidad” o “alto impacto” y conllevan “riesgos sistemáticos”. Aunque no está claro cuáles modelos caerían en esta categoría, éstos se definirían sobre la base de criterios específicos, incluyendo, como se propuso, la cantidad de computación utilizada para su formación, o las “capacidades de vanguardia” que exhiben.
Las propuestas relativas a un enfoque de dos niveles. Elaborar una definición de 'modelos altamente capaces' que sea adecuada para la regulación es extremadamente difícil, especialmente a la luz del diálogo internacional en curso sobre el tema. Sobre la base de las definiciones actuales y los criterios propuestos, no está claro qué riesgos específicos que los encargados de formular políticas esperan abordar. Es fundamental que cualquier propuesta sobre los modelos de base delinee claramente los riesgos que tiene por objeto mitigar. Por ejemplo, la cantidad de computación que entra en la formación de un modelo no es per-se una medida significativa de riesgo porque los modelos que han sido entrenados con menos poder de computación pueden ser utilizados también en contextos arriesgados. Al mismo tiempo, las capacidades fronterizas son un objetivo en movimiento: a medida que la tecnología evoluciona, así sería la idea de lo que se considera "altamente capaz". Cualquier definición de ese tipo tendría que actualizarse continuamente a medida que avanzan los avances en materia de inteligencia artificial. Por lo tanto, los requisitos establecidos introducirían una incertidumbre significativa en el mercado para las empresas que deben planificar el cumplimiento en consecuencia y obstaculizar la innovación de IA en Europa.
En lugar del enfoque propuesto de dos niveles, la Ley de AI de la UE debe mantenerse alineada con los esfuerzos internacionales existentes, como el Proceso G7 Hiroshima AI, que intentan fomentar definiciones comunes y abordar e identificar riesgos fronterizos únicos en ciertos poderosos modelos de fundación. Estos instrumentos ofrecen una flexibilidad adecuada para que las empresas y las autoridades públicas mundiales cooperen significativamente y aborden los riesgos emergentes.
2. Obligaciones para los modelos de la Fundación o IA General-Purpose Necesidad de seguir siendo proporcional
Los requisitos que se aplican a los desarrolladores de modelos de fundación o IA para fines generales deben ser específicos y realistas. Primero, Los encargados de la formulación de políticas deberían tener por objeto aumentar la transparencia en todo el ecosistema de la IA. Los desarrolladores de modelos de fundaciones deben compartir información sobre las capacidades y limitaciones de sus modelos con entidades que utilizan el modelo para desarrollar aplicaciones específicas de alto riesgo de AI. Esto permitirá a estas entidades cumplir con las posibles obligaciones reglamentarias.
Segundo, cualquier requisito de gestión de riesgos debe seguir siendo objeto de y limitado a lo que puede ser razonablemente abordado durante el diseño y desarrollo de un modelo de fundación. Las necesidades deben centrarse en los resultados generales y no deben ser prescriptivas. Mantener un enfoque flexible, incluso mediante arreglos de gobernanza innovadores, el diálogo regulatorio y la cooperación con la industria permitirán que el marco se mantenga al ritmo del panorama de seguridad de la IA, e integre métricas, herramientas y mejores prácticas actualmente en desarrollo, permitiendo al mismo tiempo la innovación en este espacio.
Finalmente, los responsables de la formulación de políticas deben respetar el enfoque basado en el riesgo original de la Ley de la Unión Europea sobre las actividades conjuntas. Los modelos de la Fundación o la AI para fines generales no deben considerarse como AI de alto riesgo y los requisitos no deben aplicarse cuando los desarrolladores excluyen el uso de su modelo o sistema en aplicaciones de alto riesgo.
3. Nuevo Las disposiciones sobre derechos de autor serían duplicativas
Los responsables de la formulación de políticas están considerando la introducción de ciertas obligaciones relacionadas con el uso de datos protegidos por derechos de autor para la capacitación de sistemas de inteligencia artificial, incluida la divulgación pública de los resúmenes de los datos utilizados para la capacitación. Estas propuestas son relativas e instamos en contra de este enfoque. La Unión Europea ya tiene un sólido marco legal sobre derechos de autor. La Directiva sobre Derecho de Autor de 2019 regula la extracción de texto y datos y ofrece una opción para que los titulares de derechos de autor opten de ella. There are also long-established IP enforcement mechanisms via which a court order can be obtained to compel alleged infringers to disclose relevant information. La introducción de nuevos requisitos relacionados con los derechos de autor en la Ley de IA sería innecesaria, especialmente sin una evaluación de los efectos y sin haber evaluado la idoneidad del marco jurídico existente.
4. Una prohibición completa de la Categorización Biométrica tendría consecuencias no deseadas
El Parlamento Europeo propone una prohibición completa de la categorización biométrica basada en características sensibles o protegidas. Esto significa que cualquier sistema de inteligencia artificial que categorice a las personas basado en características como el género, el sexo, la capacidad física etc. estaría totalmente prohibido, independientemente de cómo se utilice. Esta prohibición tendría consecuencias no deseadas. La categorización biométrica no está destinada a identificar a las personas y es ampliamente utilizada para alimentar ciertos casos de uso beneficioso. Por ejemplo:
- Accesibilidad: La categorización biométrica se utiliza para describir el entorno de una persona en aplicaciones de accesibilidad impulsadas por AI, por ejemplo para personas con discapacidad visual. En este caso se utiliza la Categorización basada en datos sensibles para reconocer a un amigo o describir al interlocutor de una persona.
- Realidad Aumentada: Las aplicaciones de Realidad Aumentada dependen de la categorización para entender y mapear el entorno de una persona. Por ejemplo, las aplicaciones virtuales de prueba permiten a una persona probar virtualmente un producto en (por ejemplo, maquillaje) cuando compra en línea. La Categorización se utiliza para comprender las características de una persona (incluyendo las sensibles como el color de la piel) y adaptar la experiencia virtual de prueba a las características de esa persona.
- Pruebas de sesgo y equidad: Las empresas utilizan categorización biométrica durante las pruebas para determinar si hay sesgo dañino hacia las características protegidas y mitigarlo.
Una prohibición completa de estos casos de uso sería desproporcionada e innecesaria dado que el RGPD regula actualmente el procesamiento de ciertos datos sensibles en condiciones estrictas y con salvaguardias adecuadas en vigor. Los encargados de formular políticas deben mantener la coherencia con el RGPD y evitar una prohibición completa. En lugar de una prohibición completa, los encargados de formular políticas podrían incluir sistemas de clasificación biométrica que procesan atributos sensibles definidos por el RGPD en la lista de sistemas de IA de alto riesgo.