Traçage des données personnelles, écoute des conversations privées, reconnaissance faciale, etc., sanctuariser notre vie personnelle devient de plus en plus difficile au fur et à mesure de la montée en puissance des GAFAM. La reconnaissance faciale est particulièrement contestée, surtout lorsqu’elle est utilisée par des services de maintien de l’ordre ou de sécurité. Cette technologie est notamment accusée de commettre plus souvent des erreurs dans la reconnaissance des personnes de couleur et des femmes que pour les autres populations. Le 11 août dernier, l’American Civil Liberties Union (ACLU) a communiqué les conclusions d’un nouveau test qu’elle a réalisé à partir de l’application de reconnaissance faciale d’Amazon (Rekognition). L’organisation a comparé les photographies des 120 membres de l’assemblée législative californienne à celles d’un fichier de 25 000 criminels. Résultat : selon le logiciel, 26 de ces membres étaient considérés comme recherchés. L’année dernière, l’ACLU avait fait la même expérience avec les membres du Congrès des Etats-Unis et 28 d’entre eux avaient été reconnus (à tort) comme inscrits au fichier des délinquants. Amazon se défend en indiquant que l’ACLU a utilisé le logiciel avec un niveau de confiance insuffisant (80 %). Mais pour les défenseurs des droits civils, la technologie n’est pas au point, et encore moins s’il est envisagé qu’elle soit appliquée à des caméras corporelles équipant les forces de l’ordre. Et si elle l’était, elle renforcerait les biais existant dans les actions de police. L’ACLU milite donc pour interdire l’utilisation des systèmes de reconnaissance biométrique par les services de police. En juin dernier, la ville de San Francisco a été la première grande municipalité américaine à interdire l’utilisation de logiciels de reconnaissance faciale par la police, Orlando a abandonné le déploiement de la plate-forme Rekognition en juillet, la municipalité d’Oakland l’envisage et la Californie devrait adopter à la rentrée un projet de loi visant l’interdiction pour tout agent ou organisme chargé de faire appliquer la loi « d’installer, activer ou utiliser tout système de surveillance biométrique en liaison avec une caméra de police ou des données recueillies par cette caméra ».