Une enquête approfondie du Washington Post révèle les dangers croissants de l’utilisation de la reconnaissance faciale par les forces de l’ordre américaines. Au moins huit Américains ont été arrêtés à tort après avoir été identifiés par des logiciels de reconnaissance faciale, mettant en lumière les risques d’une confiance excessive dans cette technologie encore imparfaite.
Le biais de l’automatisation en question
Les chercheurs ont identifié un phénomène inquiétant : le « biais d’automatisation », une tendance des utilisateurs à faire aveuglément confiance aux décisions prises par des logiciels puissants, ignorant leurs limites et leurs risques. Dans le cas de la reconnaissance faciale, ce biais conduit les policiers à négliger les procédures d’enquête traditionnelles, considérant les résultats de l’IA comme des preuves irréfutables.
L’enquête montre que sur 23 départements de police étudiés, 15 ont procédé à des arrestations basées uniquement sur l’identification par l’IA, sans rechercher de preuves complémentaires. Certains rapports de police qualifient même ces correspondances de « 100% fiables » ou permettant d’identifier les suspects « immédiatement et sans question ».
Des biais raciaux préoccupants
Sur les huit cas documentés d’arrestations erronées, sept concernaient des personnes noires. Cette disproportion n’est pas une coïncidence : selon des tests fédéraux menés en 2019, les personnes asiatiques et noires ont jusqu’à 100 fois plus de risques d’être mal identifiées que les hommes blancs. Cette différence s’expliquerait notamment par le fait que les algorithmes ont été initialement entraînés sur des bases de données majoritairement composées de visages d’hommes blancs.
Des conséquences dramatiques pour les victimes
Les conséquences de ces erreurs sont dévastatrices pour les personnes arrêtées à tort : perte d’emploi, relations familiales détériorées, difficultés financières. Certaines familles ont dû recourir à des thérapies pour leurs enfants, traumatisés après avoir vu leurs parents arrêtés devant chez eux. Christopher Gatlin, père de quatre enfants, a passé 16 mois en détention avant que les charges ne soient abandonnées.
Une absence inquiétante de régulation
L’enquête révèle un manque criant de supervision et de régulation. Seuls sept États américains exigent que l’utilisation de la reconnaissance faciale soit explicitement divulguée. De plus, alors que de nombreux services de police disposent de politiques internes exigeant la corroboration des résultats de l’IA par d’autres preuves, ces règles sont régulièrement ignorées.
Un outil à encadrer strictement
Si la reconnaissance faciale peut être utile dans certaines enquêtes, comme l’a montré l’identification des participants à l’attaque du Capitole, son utilisation doit être strictement encadrée. Les experts recommandent de ne pas utiliser cette technologie comme seule base d’arrestation et insistent sur l’importance de maintenir les méthodes d’enquête traditionnelles : vérification des alibis, comparaison des tatouages, analyse des preuves ADN et des empreintes digitales.
La reconnaissance faciale représente un progrès technologique majeur, mais son utilisation actuelle par les forces de l’ordre soulève des questions éthiques fondamentales. Entre biais d’automatisation, préjugés raciaux et absence de régulation, cette technologie risque de devenir un outil de discrimination plutôt qu’un instrument de justice.