La Ley Europea de Inteligencia Artificial

Requisitos para los datos de prueba y las pruebas

Desde el 1 de agosto de 2024, la Ley de IA de la UE, la primera ley mundial que regula la inteligencia artificial, está en vigor a nivel internacional. Esta ley busca generar confianza en los sistemas de IA, proporcionar a las empresas normas claras para su desarrollo y uso, y proteger a la sociedad de los riesgos potenciales. Establece una base fundamental para el uso seguro y el desarrollo futuro de los sistemas de IA.

La ley adopta un enfoque basado en el riesgo y distingue cuatro niveles de riesgo:

• Riesgos inaceptables: Se prohíben los sistemas de IA que amenacen la seguridad, los derechos o el sustento (por ejemplo, la puntuación social). Esto incluye tecnologías que podrían utilizarse de forma discriminatoria o perjudicial.
• Alto riesgo: Los sistemas de IA utilizados en áreas sensibles como la atención médica o la aplicación de la ley están sujetos a regulaciones estrictas. Algunos ejemplos son las herramientas de diagnóstico médico o los sistemas de reconocimiento facial en espacios públicos.
• Riesgo limitado: Los sistemas con riesgo moderado (por ejemplo, los chatbots) requieren transparencia. Los usuarios deben estar informados de que están interactuando con inteligencia artificial.
• Riesgo mínimo o nulo: Los sistemas como la IA en los videojuegos tienen requisitos bajos o nulos, ya que no afectan áreas sensibles ni derechos.

¿A quién abarca la ley de IA?

Si bien la Ley de IA es una ley de la UE, también afecta a Suiza. Esto es particularmente relevante para:

• Empresas: Por ejemplo, empresas suizas que ofrecen o utilizan servicios de IA en la UE, como desarrolladores de software y proveedores de tecnología.
• Proveedores de servicios: Organizaciones que operan servicios basados ​​en inteligencia artificial, por ejemplo, en los sectores financiero o sanitario.
• Autoridades: Instituciones que utilizan sistemas de IA para aumentar la eficiencia o apoyar la toma de decisiones.
• Comerciantes e importadores: Empresas que adquieren sistemas de IA en la UE y los distribuyen en Suiza.
• Desarrolladores de herramientas de IA: Esto incluye también a quienes adaptan modelos de IA a casos de uso específicos. Las empresas suizas que ofrecen servicios de IA en la UE o utilizan sistemas de IA de la UE deben cumplir con la normativa.

¿Qué implica esto para las pruebas?

Como es lógico, nos preguntábamos qué implica la Ley de IA de la UE para la garantía de calidad y las pruebas de software. Hemos recopilado los puntos más importantes en este blog.

Especialmente para sistemas de alto riesgo, existen regulaciones claras que impactan directamente en las pruebas y que ahora son de cumplimiento obligatorio por ley. Esto significa que se deben realizar pruebas específicas para garantizar el cumplimiento de todos los requisitos legales. Estas incluyen la validación de funcionalidades, la identificación y minimización de riesgos, y la documentación de todos los resultados de las pruebas para la evaluación de la conformidad.

Las pruebas como parte esencial del proceso de desarrollo

Debe garantizarse de forma fehaciente que todos los requisitos se han implementado adecuadamente y se han probado y verificado dentro del marco de un sistema de gestión de riesgos.

Esta actividad debe implementarse como un proceso continuo e iterativo a lo largo de todo el ciclo de vida del sistema de IA. Las estrategias de prueba deben contribuir explícitamente a garantizar que se cumpla el propósito previsto. Las actividades de prueba deben integrarse en todo el proceso de desarrollo.

Datos de prueba como parte de la evaluación de conformidad

Los datos de entrenamiento, validación y prueba para los modelos de IA deben cumplir con criterios claros de calidad y gobernanza. Estos incluyen:

• Fines claros para la recopilación de datos, especialmente datos personales
• Medidas para evitar sesgos y lagunas en los datos, así como el uso de "datos justos"
• Uso de datos de prueba representativos
• Medidas estrictas de protección de datos personales

En el caso de los sistemas de IA que no han sido entrenados con datos, estos puntos se aplican exclusivamente a los datos de prueba.

El papel de los datos de prueba sintéticos

Los datos sintéticos de prueba y entrenamiento desempeñan un papel fundamental en la protección de datos personales y la prevención de sesgos. En particular, la Ley de IA exige el uso de datos sintéticos o anonimizados al tratar datos personales.

Por lo tanto, la ley de IA exige el uso de datos sintéticos o anonimizados, en particular en el caso de datos personales, y define ciertas excepciones para el tratamiento de datos personales reales.

Los sistemas de IA suelen generar grandes cantidades de datos sintéticos que son difíciles de distinguir de los datos reales. Dichos datos deben estar claramente etiquetados.

Garantizar la gestión de la calidad

La implementación de un sistema de gestión de calidad es un requisito obligatorio para los proveedores. Se requiere documentación técnica, que debe incluir, entre otros aspectos, los siguientes puntos:

• Una descripción detallada de los métodos de prueba utilizados
• Documentación de todos los resultados de las pruebas y su interpretación
• Evidencia para la evaluación de riesgos y su tratamiento
• Medidas para garantizar la integridad y la equidad de los datos
• Información sobre los entornos de prueba y los conjuntos de datos utilizados

Estos elementos contribuyen a cumplir con los requisitos legales y a garantizar la transparencia durante todo el proceso.

Pruebas en condiciones reales

La ley de IA utiliza el concepto de pruebas en el mundo real, lo que implica obligaciones adicionales. Por lo tanto, es importante reconocer cuándo se realizan dichas pruebas. Las características clave incluyen:

• La prueba simula escenarios de uso reales o se lleva a cabo en el entorno de producción
• Los datos utilizados son representativos de la realidad y de la aplicación real del sistema de IA

Para los sistemas de IA de alto riesgo, existen numerosas regulaciones que rigen las actividades de prueba en condiciones reales fuera de los laboratorios de IA. Las más importantes se resumen a continuación:

• Existe un plan para realizar dichas actividades de prueba
• El plan presentado fue aprobado (tácitamente) por el Estado miembro correspondiente
• Las pruebas están registradas en la UE
• Existe una sucursal o un representante legal en la UE
• La transferencia de datos cumple con las garantías establecidas en el Derecho de la Unión
• Las pruebas están limitadas en tiempo a lo estrictamente necesario
• Las personas vulnerables están adecuadamente protegidas
• Los datos personales solo podrán ser tratados con consentimiento y serán eliminados después de la prueba
• El proceso de pruebas está supervisado por personal especializado
• Las predicciones, recomendaciones o decisiones tomadas por el sistema de IA pueden ser revertidas

Desarrollar habilidades de prueba de IA

¿Le gustaría obtener más información sobre las pruebas de sistemas de IA? Nuestros de formación y consultoría le ayudarán a implementar con confianza los requisitos legales.

‍

‍

‍