Examining Questions on AI and Liability with ITI Members and MEP Voss
Con la publicación del Libro Blanco de la Comisión Europea sobre Inteligencia Artificial el 19 de febrero de 2020, el debate político sobre Inteligencia Artificial, y cómo será regulado por las instituciones de la UE, se ha intensificado enormemente en Bruselas. La responsabilidad respecto de la regulación de la IA sigue siendo una de las cuestiones que plantean más preguntas desde un punto de vista jurídico. “¿Cómo definir las categorías de riesgo asociadas a las aplicaciones de IA?”, “¿Debería la responsabilidad recaer en los desarrolladores de software o los implementadores?”, “¿Cómo interactúa la nueva regulación potencial con la legislación existente de responsabilidad civil a nivel de UE y Estado Miembro?”, y “¿Qué tipo de régimen de responsabilidad es el más adecuado para IA?” están entre las áreas que los socios de la industria, académicos y reguladores buscan responder.
En un esfuerzo por abordar estas cuestiones fundamentales, el 22 de abril de 2020, ITI y miembro del Parlamento Europeo (MEP) Axel Voss, que está a cargo de la redacción de un informe sobre la responsabilidad de IA por el comité de Asuntos Jurídicos del Parlamento Europeo, organizaron conjuntamente una discusión con nuestras empresas miembros. Otros panelistas incluidos Isabelle Buscke, Head of Brussels Office for the German Federal Consumer Association VZBV; Professor Dr. Peter Bräutigam, Partner at Noerr LLP; Corinna Schulze, Director for EU Government Relations and Global Corporate Affairs at SAP, and Jean-Marc Leclerc, Head of EU Affairs at IBM.
Una cuestión central en esta conversación estaba examinando la definición de categorías de riesgo. Los participantes convinieron en general en la necesidad de adoptar un enfoque basado en el riesgo de la responsabilidad de la IA, pero también señalaron que el modelo de aplicaciones de IA de alto riesgo o bajo riesgo introducido por el Libro Blanco de la Comisión Europea necesita aclaraciones adicionales. Si bien un enfoque basado en el sector puede no tener en cuenta la diversidad de las aplicaciones de la IA y su factor de riesgo específico de contexto, una solución prescriptiva con, por ejemplo, una lista de aplicaciones que se consideran de alto riesgo, puede necesitar una revisión constante y, en última instancia, proporcionar poca certeza jurídica. Los participantes también examinaron si una aplicación de alto riesgo podría definirse como un riesgo para la sociedad en general, como terceros que no tienen un vínculo contractual con los desarrolladores o los desplegadores de la AI. Estas aplicaciones pueden incluir conducción autónoma o drones.
Otro tema clave fue la cuestión de quién debe ser considerado responsable cuando se trata de daños causados por un sistema de inteligencia artificial. Los desarrolladores de software, fabricantes, implementadores y operadores son todos los participantes en la cadena de suministro de IA y, dependiendo del contexto, todos podrían compartir un grado de responsabilidad. Es difícil reflejar esta variedad en un régimen de responsabilidad. While this situation risks creating uncertaintyties for victims, the atribution of fault also needs to take into account possible misuses of the AI against private agreements in business-to-business contexts. El equilibrio entre esta diversidad de intereses será clave para definir el régimen de responsabilidad más adecuado. The discussion subsequently touch upon the type of liability regime connected to high-risk and low-risk AI applications. Es posible que se necesite un régimen estricto de responsabilidad (independiente de la falta o negligencia) para abordar la dificultad de atribuir la culpa en el caso de la IA. Algunos participantes señalaron que este enfoque podría resultar adecuado para aplicaciones de IA de alto riesgo debidamente aclaradas. Un sistema que requiera una inversión de la carga de la prueba puede ser una alternativa, encima de las reglas generales de responsabilidad por incumplimiento.
Finally, panelists also reflected on the relationship of existing legislation with civil liability and AI. Aunque algunos sostuvieron que un marco a nivel de la UE debería armonizar la legislación existente a nivel de los Estados Miembros para prestar servicios al Mercado Único, otros afirmaron que el derecho civil a nivel de los Estados Miembros debía seguir siendo la referencia principal.
En general, este fructífero debate expuso perspectivas perspicaces sobre las principales cuestiones jurídicas relacionadas con la responsabilidad de la AI. Dada la complejidad del tema y la variedad de intereses, sigue siendo fundamental que los encargados de la formulación de políticas, la industria y la sociedad civil colaboren para garantizar un marco para la protección y la innovación de los equilibrios de la responsabilidad de la AI sobre el terreno.
Más información sobre el papel de la industria tecnológica en abordar las implicaciones económicas y sociales de la tecnología AI de una manera que apoye la innovación al tiempo que salvaguarda los intereses públicos e individuales en juego en ITI recomendaciones sobre la Estrategia de la UE sobre Inteligencia Artificial, publicada en febrero de 2020.
Author
