San Francisco Frontiers - À Sao Paulo, un "Big Brother" boosté à l'IA cible les délinquants, et des innocents

Lancé par la mairie de droite pour combattre l'insécurité, ce "Big Brother" brésilien a toutefois vu son efficacité entachée par un nombre important d'interpellations indues.

Le panneau est installé à l'entrée d'un immeuble où des dizaines de policiers suivent sur des écrans les images des 40.000 caméras filmant 24 heures sur 24 la plus grande mégalopole d'Amérique latine, couramment appelée "Sampa".

Cette technologie - qui coûte 1,6 million d'euros par mois - a été implantée fin 2024. Cette année-là, près d'un vol de téléphone sur cinq au Brésil avait eu lieu dans cette ville du Sud-Est, parfois avec violence.

Depuis, près de 4.000 personnes ont été arrêtées en flagrant délit pour toutes sortes d'actes. Ce système a par ailleurs permis de retrouver près de 3.000 fugitifs en recoupant en temps réel les images des caméras avec les données du système judiciaire.

"Aujourd'hui, je ne peux pas imaginer Sao Paulo sans Smart Sampa", dit à l'AFP Orlando Morando, secrétaire à la sécurité de cette agglomération de 12 millions d'habitants.

Pour donner un exemple, il charge une photo de lui dans le système. Moins d'une seconde plus tard, la liste des lieux et des horaires où son visage a été reconnu par les caméras s'affiche sur un écran.

"Ça me rappelle le livre +1984+", estime Sonia Ferreira Silva, retraitée de 68 ans, en référence au roman dystopique de George Orwell décrivant un monde totalitaire. "J'adore, j'approuve à 100%", dit-elle cependant, près d'un camion qui sert de poste de surveillance mobile sur l'emblématique avenue Paulista.

- Failles -

Le système connaît toutefois de sérieux ratés.

Des données officielles analysées par l'AFP montrent que plus de 8% des personnes interpellées lors de la première année de Smart Sampa pour avoir été identifiées comme fugitives ont dû être libérées après avoir été ciblées par erreur.

En décembre, un retraité de 80 ans a passé plusieurs heures au commissariat car le système l'avait confondu avec un violeur. Au moins 59 personnes ont été victimes de ce type de confusion.

Le système est alimenté non seulement par des caméras installées dans la rue, mais aussi dans les bâtiments publics (comme les hôpitaux) et dans certains lieux privés ayant accepté leur présence.

Au moins 141 personnes ont été interpellées sur la base de mandats d'arrêt qui se sont révélés périmés.

Mais les autorités locales rejettent la faute sur le pouvoir judiciaire qui n'aurait pas actualisé correctement les données.

- Vols en baisse -

Autre critique des détracteurs du système: près de la moitié des fugitifs arrêtés figurent dans une catégorie intitulée "autres" (délits).

La plupart d'entre eux sont soupçonnés de défaut de paiement de pension alimentaire, "ce qui ne contribue pas vraiment à renforcer la sécurité publique", selon un rapport d'ONG.

"Smart Sampa se présente comme une solution face au crime, mais il est utilisé pour contrôler les citoyens", fustige Amarilis Costa, directrice du réseau d'avocats Liberdade et co-autrice du rapport.

Face à ce qu'elle décrit comme des tentatives de "discréditer" son système de surveillance, la mairie préfère mettre en avant le fait que les vols ont chuté de près de 15% à Sao Paulo l'an dernier.

Par ailleurs, les données officielles ne précisent pas l'identité raciale de plus de la moitié des personnes emprisonnées après avoir été identifiées par Smart Sampa.

Pour Amarilis Costa, cette "lacune" ne permet pas d'identifier un éventuel "racisme algorithmique" dans un pays où la majorité de la population est noire ou métisse.

Selon des études menées dans plusieurs pays, la reconnaissance faciale par IA a tendance à commettre plus d'erreurs avec des personnes noires.

"Smart Sampa n'a pas de préjugé, on n'arrête pas les gens selon leur couleur de peau", rétorque le secrétaire municipal à la sécurité.

La plupart des arrestations dans le cadre de Smart Sampa ont eu lieu dans des quartiers périphériques, visant de nombreuses personnes originaires des régions plus pauvres de l'intérieur du pays.

B.Johnson--SFF