Les défenseurs des droits des immigrés du Joint Council for the Welfare of Immigrants (JCWI) ont entamé une action en justice pour découvrir comment fonctionne réellement l’algorithme du ministère de l’intérieur britannique utilisé pour filtrer les demandes de visa au Royaume-Uni. Cette démarche a été entreprise dans le but d’exposer la manière dont l’intelligence artificielle affecte les politiques d’immigration.
Soutenu par Foxglove, un nouveau groupe de défense qui promeut la justice dans le secteur des nouvelles technologies, le JCWI veut obliger le ministère de l’intérieur britannique à révéler l’algorithme qu’il utilise et à expliquer sur quelle base l’algorithme ‘streams » (en anglais) demandes de visa.
Un porte-parole du ministère de l’intérieur a rapidement répondu que le département ministériel n’utilise l’outil de streaming que pour attribuer les demandes de manière efficace et non pour statuer sur celles-ci.
« L’outil de diffusion en continu est uniquement utilisé pour attribuer les demandes, et non pour prendre une décision. Il utilise des données pour indiquer si une demande peut nécessiter un examen plus ou moins approfondi et il respecte pleinement la législation pertinente en vertu de la loi sur l’égalité de 2010.« , a déclaré le porte-parole.
Mais pour Cori Crider, directrice de Foxglove, l’affirmation du ministère de l’Intérieur selon laquelle son algorithme n’a pas de préjugé racial est ‘plutôt filiforme‘.
« On nous dit que le système utilise la nationalité pour « classer » les candidats en vert, jaune et rouge – et il est facile de deviner qui se retrouve dans la file verte et qui est repoussé à l’arrière du bus en rouge. Si votre algorithme sélectionne des personnes pour une fouille par palpation numérique et offre un embarquement rapide aux personnes blanches, c’est illégal.« , explique-t-elle.
Les deux groupes, le JCWI et Foxglove, estiment que le ministère de l’intérieur utilise un processus obscur, piloté par ordinateur, pour influer sur les chances d’une personne d’obtenir un visa. Selon eux, la machine d’intelligence artificielle utilise des critères problématiques et biaisés, permettant aux personnes originaires de pays blancs et riches d’obtenir un embarquement rapide tandis que les personnes de couleur plus pauvres sont repoussées à l’arrière de la file d’attente.
Ils affirment que le ministère de l’intérieur se cache derrière uneexemption en matière d’immigrationdans le cadre de la loi sur la liberté de l’information, cette dernière ayant souligné à plusieurs reprises que son algorithme était pleinement conforme à la loi sur l’égalité de 2010.
Le JCWI et Foxglove demandent maintenant une révision judiciaire pour découvrir exactement ce qu’est l’algorithme et ce qu’il fait. Ils ont même publié une demande de financement sur GoFundMe intitulée « Deported by Algorithm » dans laquelle ils demandent aux gens de les soutenir financièrement afin qu’ils puissent atteindre un montant de 20 000 livres sterling pour soutenir leur demande. Jusqu’à présent, deux jours après la publication, ils n’ont collecté que 190 livres sterling auprès de 9 donateurs.