La regulación europea de la IA ante los sesgos y riesgos de discriminación algorítmica en contextos migratorios
Cargando...
Fecha
2024
Autores
Título de la revista
ISSN de la revista
Título del volumen
Editor
Fundación CIDOB
Resumen
La creciente institucionalización de la inteligencia artificial (IA) es un problema social especialmente preocupante para aquellos colectivos más vulnerables, como pueden ser las personas migrantes y solicitantes de asilo.
Si bien los contextos migratorios globales están siendo objeto de un férreo control securitario y de una amplia transformación digital, la regulación europea sobre la IA presenta todavía un alcance muy limitado para contrarrestar las repercusiones negativas del diseño y entrenamiento de algoritmos. A tal propósito, este artículo plantea una revisión crítica sobre cómo se introducen los sistemas de IA en el control y la gestión migratorios europeos y analiza por qué el nuevo marco regulador de la IA es insuficiente para evitar el impacto discriminatorio de sesgos, estereotipos y riesgos asociados a las dinámicas asimétricas de poder y a las estructuras de injusticia social subyacentes a las migraciones
The increasing institutionalisation of artificial intelligence (AI) is a social problem of particular concern for the most vulnerable groups, such as migrants and asylum seekers. While global migration contexts face tight security control and an extensive digital transition, the European regulation on AI is still too limited in scope to counteract the negative impacts of the design and training of algorithms. With that in mind, this paper provides a critical review of how AI- driven systems are introduced into European migration control and management, and analyses why the new legal framework for AI does not do enough to prevent the discriminatory impact of biases, stereotypes and risks associated with the asymmetric power dynamics and the structures of social injustice underlying migration
The increasing institutionalisation of artificial intelligence (AI) is a social problem of particular concern for the most vulnerable groups, such as migrants and asylum seekers. While global migration contexts face tight security control and an extensive digital transition, the European regulation on AI is still too limited in scope to counteract the negative impacts of the design and training of algorithms. With that in mind, this paper provides a critical review of how AI- driven systems are introduced into European migration control and management, and analyses why the new legal framework for AI does not do enough to prevent the discriminatory impact of biases, stereotypes and risks associated with the asymmetric power dynamics and the structures of social injustice underlying migration
Palabras clave
Migraciones
IA
Derechos humanos
Discriminación algorítmica
Sesgos
Estereotipos
Unión Europea (UE)
Migrations
AI
Human rights
Algorithmic discrimination
Bias
Stereotypes
European Union (EU)
IA
Derechos humanos
Discriminación algorítmica
Sesgos
Estereotipos
Unión Europea (UE)
Migrations
AI
Human rights
Algorithmic discrimination
Bias
Stereotypes
European Union (EU)
Descripción
Materias
Cita
La Spina, E. (2024). La regulación europea de la IA ante los sesgos y riesgos de discriminación algorítmica en contextos migratorios. Revista CIDOB d’afers internacionals, 138, 171-194. https://doi.org/10.24241/RCAI.2024.138.3.171