El Parlamento Europeo ha sido el primero en promulgar un marco regulador de la IA. Un enfoque basado en el riesgo para la clasificación de la IA asigna obligaciones proporcionales al nivel de riesgo que plantea cada sistema de IA.
Con arreglo al sistema de clasificación de riesgos, las universidades de la UE deben tener en cuenta que se considerarán proveedores de sistemas de IA de alto riesgo. Esto significa que las universidades deben cumplir una serie de obligaciones, entre ellas
- Establecer un sistema de gestión de riesgos durante todo el ciclo de vida del sistema de IA de alto riesgo
- Llevar a cabo la gobernanza de los datos, garantizando que los conjuntos de datos de formación, validación y prueba sean pertinentes, suficientemente representativos y, en la medida de lo posible, libres de errores y completos de acuerdo con la finalidad prevista
- Elaborar documentación técnica para demostrar la conformidad y proporcionar a las autoridades la información necesaria para evaluar dicha conformidad.
- Diseñar su sistema de IA de alto riesgo para el mantenimiento de registros, de forma que pueda registrar automáticamente los eventos relevantes para la identificación de riesgos a nivel nacional y las modificaciones sustanciales a lo largo del ciclo de vida del sistema.
- Proporcionar instrucciones de uso a los usuarios posteriores para permitir el cumplimiento por parte de estos últimos.
- Diseñar su sistema de IA de alto riesgo para alcanzar los niveles adecuados de precisión, solidez y ciberseguridad.
En el DEC Executive Briefing #001, "Getting Real with AI", examinamos los enfoques de la regulación en todo el mundo, centrándonos en la Unión Europea.
Sostenemos que el sistema de la UE es complejo y es probable que requiera muchos recursos. Las universidades de la UE deben contar con procesos de buena gobernanza para hacer frente a estas normativas y a las repercusiones que puedan tener en su funcionamiento y registro.
También recomendamos a las universidades de fuera de la Unión Europea que estén atentas a las posibles tendencias que surjan en torno a la normativa y a su impacto futuro.
Basándonos en el análisis de la Ley, realizamos 3 predicciones:
1. Es probable que la innovación y las capacidades de las empresas más pequeñas para competir en un escenario global se reduzcan debido a los complicados requisitos
2. Las soluciones EdTech dependientes de la personalización podrían ver limitado su potencial debido a las restricciones en la recopilación y uso de datos
3. Es más probable que las empresas tengan aversión al riesgo debido a la complejidad de la normativa
Aunque la Ley se aprobó por unanimidad el 2 de febrero de 2024, puede tardar algún tiempo en promulgarse y en que surjan sus efectos.Los miembros de DEC seguirán recibiendo actualizaciones y nuestro análisis continuo a medida que surjan los impactos de este y otros marcos normativos similares en todo el mundo.
By The Digital Education
