De la misión Villani a la Ley de IA: el surgimiento de la regulación europea de la IA
La regulación de la inteligencia artificial ha avanzado considerablemente en los últimos meses con la finalización del proyecto de reglamento europeo sobre inteligencia artificial. Sería, por supuesto, inexacto suponer que Francia es la única responsable de un texto que se nutre de múltiples influencias. Sin embargo, el doble proceso emprendido en el marco de la Misión Villani y la revisión de la ley de bioética ha dado lugar a reflexiones y propuestas que posteriormente han tenido repercusión a nivel europeo e internacional. El reconocimiento del principio de Supervisión Humana de la IA es un ejemplo de ello.
La Misión Villani: Dando sentido a la Inteligencia Artificial
Si bien el auge del Estado regulador se viene gestando desde principios del siglo XX, la construcción de un marco jurídico y normativo para la inteligencia artificial se ha vuelto gradualmente esencial. Desde 1940, la IA se ha desarrollado y consolidado a la sombra de la cibernética. Esta inmersión transforma profundamente nuestros hábitos, nuestra relación con el trabajo (y con los demás), y exige que la estructuremos y recuperemos el papel central de las políticas públicas, cuya función decisiva y crucial dará sentido a la IA.
Antes de que el gobierno francés abordara este tema, el marco legislativo se centraba principalmente en tratar los impactos digitales y el derecho a la desconexión, y, meses después, en desarrollar una visión de república digital con el objetivo de impulsar la innovación y crear un marco de confianza. Estos primeros pasos facilitaron la creación de grupos de trabajo sobre inteligencia artificial en 2017, dando inicio así a una auténtica estrategia nacional con proyección hasta 2025. Este objetivo es eminentemente social, ya que garantiza la preservación de nuestra humanidad y previene una transformación de naturaleza antropológica. Con este espíritu nació la misión encomendada a Cédric Villani en materia de inteligencia artificial.
Numerosos intentos regulatorios que culminaron en la Ley de IA
Ya en 2017, se recomendó la creación de una personalidad jurídica específica para los robots autónomos más sofisticados, que podrían ser considerados personas electrónicas responsables, con capacidad para responder por cualquier daño causado a terceros. Un Libro Blanco sobre Inteligencia Artificial de 2020, precursor de la regulación en la materia, propuso medidas concretas para apoyar la transición a una sociedad de IA en Francia. Sin embargo, no fue hasta 2022 cuando la Comisión Europea propuso una directiva que presentaba normas armonizadas sobre IA y demostraba su compromiso con la creación de un marco común. Con el objetivo de establecer una jerarquía de riesgos entre los sistemas equipados con inteligencia artificial, la creación de un marco jurídico europeo se volvió esencial, en particular para limitar riesgos como «la posible transformación profunda de la relación médico-paciente». Aprobada por el Parlamento Europeo el 15 de junio de 2023, la Ley de IA estableció un marco regulatorio para el desarrollo de la IA y un compromiso para armonizar su gobernanza, garantizando a los Estados miembros de la UE «el uso de sistemas transparentes, fiables, no discriminatorios y respetuosos con el medio ambiente».
Reconocimiento del Principio de Supervisión Humana de la IA: Un Ejemplo de la Conexión entre la Misión Villani, la Ley de Bioética y la Ley de IA
Propuesto a mediados de 2017 por Ethik-IA, el principio de Supervisión Humana de la IA, como método para la regulación positiva de la inteligencia artificial en la atención sanitaria y otros ámbitos, fue reconocido por primera vez en las conclusiones de la Misión Villani. La Supervisión Humana se refiere a la necesidad de mantener la plena autonomía de la acción y la toma de decisiones humanas en el contexto del creciente uso de la IA en la atención sanitaria. Este principio fue posteriormente respaldado por el Comité Nacional Consultivo de Ética (CCNE) en su Dictamen 129 y, posteriormente, incorporado a la legislación francesa en la Ley de Bioética y el proyecto de Ley Europea de IA. En la nueva Ley de Bioética, las disposiciones pertinentes se encuentran en el artículo 17. Si bien la expresión «Garantía Humana» no aparece en el texto, se hace referencia directa a ella en la exposición de motivos del proyecto de ley y en su evaluación de impacto. En cuanto a las disposiciones legislativas, encontramos la doble dimensión de la «garantía humana» recomendada por la Opinión 129 de la CCNE: se reconoce un nuevo deber de proporcionar información sobre el uso de la IA en la atención sanitaria para permitir, en la medida de lo posible, el consentimiento libre e informado al protocolo de tratamiento que incorpora el procesamiento algorítmico, y la supervisión humana en el diseño del algoritmo y en su aplicación en el mundo real. No obstante, si bien el principio general no se enuncia explícitamente, el artículo 17 impone una serie de nuevas obligaciones que implementan efectivamente elementos de supervisión humana. En el proyecto de Ley Europea de IA, el principio de Supervisión Humana se reitera en los artículos 14 y 29. El párrafo 1 del artículo 14 estipula que las soluciones de inteligencia artificial deben diseñarse y desarrollarse de forma que puedan ser supervisadas por humanos. Esta supervisión humana debe estar sujeta a la monitorización en el mundo real de la inteligencia artificial. El artículo 29 del proyecto de reglamento, que forma parte del Capítulo 3, «Obligaciones de los proveedores y usuarios de sistemas de IA de alto riesgo y otras partes», se refiere a las obligaciones de los usuarios de sistemas de IA. El incumplimiento de estas disposiciones conllevará sanciones equivalentes a las del RGPD. Esta carrera hacia la regulación representa, por tanto, una inversión contra la aparición de nuevos modelos de riesgo, que las autoridades públicas deberán abordar periódicamente en los próximos años.
[pdf-embedder url=“https://www.sih-solutions.fr/wp-content/uploads/2023/11/014SIHMAG_v02_p08-09.pdf” title=“SIH Solutions Magazine”]