La poco conocida Herramienta de Análisis de Tendencias de Integridad ha analizado el conjunto de datos de 1.4 millones de solicitudes de permisos de estudio y 2.9 millones de solicitudes de visitantes.Por Nicholas Keung, Reportero de Inmigración.
Canadá está utilizando una nueva herramienta de inteligencia artificial para evaluar a posibles estudiantes internacionales y visitantes — generando preguntas sobre qué papel debería tener la IA en determinar quién entra al país.
Los funcionarios de inmigración dicen que la herramienta mejora su capacidad para determinar quién podría estar intentando aprovecharse del sistema canadiense, y afirman que, al final del día, son seres humanos quienes toman las decisiones finales.
Sin embargo, los expertos dicen que ya sabemos que la IA puede reforzar sesgos muy humanos. De hecho, un experto dijo que espera que algunos solicitantes legítimos sean rechazados como resultado.
Lanzada oficialmente en enero, la poco conocida Herramienta de Análisis de Tendencias de Integridad (ITAT) — anteriormente llamada Lighthouse o Watertower — ha analizado el conjunto de datos de 1.4 millones de solicitudes de permisos de estudio y 2.9 millones de solicitudes de visitantes.
Lo que busca son indicios de “patrones de riesgo y fraude” — una combinación de elementos que, juntos, podrían ser motivo de mayor escrutinio en un archivo dado.
Los funcionarios dicen que, solo entre las solicitudes de permisos de estudio, ya han identificado más de 800 “patrones de riesgo únicos”.
A través de actualizaciones continuas basadas en datos frescos, el aparato impulsado por IA no solo analiza estos patrones de riesgo, sino que también señala las solicitudes entrantes que coinciden con ellos.
Produce informes para ayudar a los oficiales en las Unidades de Evaluación de Riesgo de Inmigración, quienes determinan si una solicitud requiere un escrutinio adicional.
“Mantener la confianza pública en cómo se gestiona nuestro sistema de inmigración es de suma importancia”, dijo el portavoz del Departamento de Inmigración, Jeffrey MacDonald, al Star en un correo electrónico.
“El uso de ITAT nos ha permitido mejorar la forma en que gestionamos el riesgo utilizando la tecnología para examinar el riesgo con una perspectiva globalizada.”
Ayudando con una gran carga de trabajo
Cada año, Canadá recibe millones de solicitudes de inmigración — para residencia temporal y permanente, así como para ciudadanía — y el número ha seguido creciendo.
El Departamento de Inmigración dice que el número total de decisiones que emite por año aumentó de 4.1 millones en 2018 a 5.2 millones el año pasado, con la abrumadora mayoría de los solicitantes tratando de obtener el estatus de residente temporal como estudiantes, trabajadores extranjeros y visitantes; el año pasado, las solicitudes de residente temporal representaron el 80 por ciento de las decisiones que el departamento emitió.
Durante la pandemia, el departamento se vio abrumado por retrasos crecientes en cada programa, lo que llevó a Ottawa a emprender una ola de contrataciones y acelerar su modernización para abordar el creciente inventario de solicitudes.
Entrada: una nueva herramienta
ITAT, que fue desarrollada internamente y se probó por primera vez en el verano de 2020, es el último instrumento en la caja de herramientas del departamento, uno que va más allá de realizar simples tareas administrativas, como responder a consultas en línea, a funciones más sofisticadas, como la detección de fraudes.
MacDonald dijo que ITAT puede encontrar fácilmente conexiones entre los registros de solicitudes en las bases de datos de inmigración, que pueden incluir informes y expedientes producidos por la Agencia de Servicios Fronterizos de Canadá u otros cuerpos de aplicación de la ley. La herramienta, dijo, ayuda a los funcionarios a identificar solicitudes que comparten características similares a las solicitudes previamente rechazadas.
Dijo que para proteger la integridad del sistema de inmigración y las técnicas de investigación, no podía revelar detalles de los patrones de riesgo que se utilizan para evaluar las solicitudes.
Sin embargo, MacDonald enfatizó que “se hacen todos los esfuerzos para asegurar que los patrones de riesgo no creen un sesgo real o percibido en relación con factores protegidos por la Carta, como género, edad, raza o religión.
“Estos se revisan cuidadosamente antes de que se distribuyan los informes semanales a las unidades de evaluación de riesgos.”
Un informe gubernamental sobre ITAT publicado el año pasado hizo referencia a las “características adversas” monitoreadas en una solicitud, como los hallazgos de inadmisibilidad (por ejemplo, criminalidad y tergiversación) y otros registros de violaciones de inmigración, como permanecer más tiempo del permitido o trabajar sin autorización.
El informe decía que en el pasado, las unidades de evaluación de riesgos realizaban una muestra aleatoria de solicitudes para detectar fraudes a través de diversas técnicas, incluyendo llamadas telefónicas, visitas al lugar o entrevistas en persona. Los resultados de la actividad de verificación se comparten con los oficiales de procesamiento, ya sea que se haya encontrado información fraudulenta o no.
El informe sugería que la nueva herramienta está destinada a ayudar en estas investigaciones. MacDonald enfatizó que ITAT no recomienda ni toma decisiones sobre las solicitudes, y las decisiones finales sobre las solicitudes aún recaen en los oficiales de procesamiento.
¿Influencia no intencionada?
Ebrahim Bagheri, de la Universidad Metropolitana de Toronto, espera que el personal humano marque y rechace erróneamente a los solicitantes por deferencia a ITAT. Universidad Metropolitana de Toronto.
Sin embargo, eso no significa que el uso de la herramienta no influirá en la toma de decisiones de un oficial, dijo Ebrahim Bagheri, director del programa colaborativo del Consejo de Investigaciones en Ciencias Naturales e Ingeniería de Canadá sobre el desarrollo responsable de la IA. Dijo que espera que el personal humano marque y rechace solicitantes debido al respeto hacia ITAT.
Bagheri, quien se especializa en recuperación de información, análisis de redes sociales y software e ingeniería del conocimiento, dijo que los humanos tienden a prestar demasiada atención a estos programas: “Estás inclinado a estar de acuerdo con la IA a nivel inconsciente, pensando — nuevamente, inconscientemente — que pudo haber cosas que pasaste por alto y que la máquina, que es bastante rigurosa, ha detectado.”
Mientras que el cambio hacia la automatización, la toma de decisiones asistida por IA y basada en datos es parte de una tendencia global, el abogado de inmigración Mario Bellissimo dice que la tecnología aún no está lo suficientemente avanzada para el procesamiento de inmigración.
“La mayoría de los expertos básicamente dicen que depender de herramientas estadísticas automatizadas para tomar decisiones o prever riesgos es una mala idea,” dijo Bellissimo, quien tiene un interés personal en estudiar el uso de la IA en la inmigración canadiense.
“La IA se requiere para lograr precisión, escala y personalización. Pero las herramientas aún no están allí para hacer eso sin discriminación.”
Las deficiencias de la IA
El abogado de inmigración de Toronto, Mario Bellissimo. Foto de Mario Bellissimo.
Una historia de múltiples matrimonios podría ser una señal de alarma para la IA, sugiriendo un matrimonio por conveniencia, dijo Bellissimo. Pero lo que podría haberse omitido en la evaluación de una solicitud son los hechos particulares: que el primer cónyuge de la persona haya fallecido, por ejemplo, o incluso que el segundo se haya escapado porque fue un matrimonio forzado.
“Necesitas saber cuál es el paradigma y cuál es el conjunto de datos. ¿Está todo basado en el Medio Oriente, África? ¿Hay diferentes reglas?”, preguntó Bellissimo.
“Para construir confianza pública en los datos, necesitas auditorías externas. Necesitas un científico de datos y un par de profesionales de inmigración para validar básicamente. Eso no se está haciendo ahora y es un problema.”
Bagheri dijo que la IA puede reforzar sus propios hallazgos y recomendaciones cuando se actúa según sus descubrimientos, creando nuevos datos de rechazos y aprobaciones que se ajustan a sus conclusiones.
“Pensemos en un sistema de IA que te dice quién es un riesgo para venir a Canadá. Señala ciertas solicitudes. Los oficiales lo verán. Decidirán por precaución. Lo señalan. Eso vuelve al sistema,” dijo.
“Y crees que te estás volviendo más preciso cuando solo intensificas los sesgos.”
Bellissimo dijo que los funcionarios de inmigración han estado haciendo un mal trabajo comunicándose con el público sobre la herramienta: “Hay tanta preocupación por los actores amenazantes que están ocultando demasiado y el público generalmente no tiene confianza en este uso.”
Bagheri dijo que los funcionarios de inmigración deberían simplemente limitar su uso de herramientas de IA para optimizar recursos y administrar sus procesos, como usar robots para responder correos electrónicos, verificar elegibilidad y clasificar solicitudes, liberando a los oficiales para la evaluación real de riesgos y toma de decisiones.
“Creo que las decisiones sobre a quién damos la bienvenida deberían basarse en compasión y un enfoque acogedor, en lugar de un enfoque de perfilado”, dijo.
Nicholas Keung es un reportero con sede en Toronto que cubre la inmigración para el Star. Síguelo en Twitter: @nkeung.
