La justice de São Paulo a autorisé la mairie de la capitale à procéder à l'avis public du système Smart Sampa, qui prévoit l'appel d'offres de 20 000 caméras à reconnaissance faciale dans la ville.
Voir aussi: Problèmes de sécurité et de confidentialité: TikTok pourrait être interdit aux États-Unis
voir plus
Les experts disent que l'IA est une force pour le bien
Dans le paysage du développement de l'IA, la Chine avance tandis que les États-Unis…
Suite à une suspension temporaire des échanges en raison de problèmes de confidentialité et d'éventuelles violations des droits fondamentaux, le concours a été reporté à vendredi prochain, le 26 de mai.
La décision du tribunal a estimé que la mise en œuvre de la vidéosurveillance ne renforce pas la discrimination sociale ou raciale, et le système permettra au stockage des données de reconnaissance faciale en conjonction avec les informations de localisation, offrant un meilleur contrôle et une meilleure surveillance dans le ville.
La justice suspend l'édit des caméras à reconnaissance faciale en raison du risque de discrimination
La conseillère Silvia du Feminist Banquet (PSOL) a proposé une action civile publique demandant la suspension de la Avis Smart Sampa, affirmant que l'utilisation de la technologie de reconnaissance faciale peut entraîner des discrimination.
L'action a souligné que lors de tests effectués dans d'autres endroits du Brésil, 90,5% des personnes arrêtées sur la base de cette technologie étaient noires.
Le rapport de la Cour des comptes municipale (TCM), qui a analysé l'avis public, a soulevé des inquiétudes sur le sujet, mais avec peu d'emphase.
L'avis public avait déjà été suspendu par le TCM en décembre, mais a été publié après que la mairie ait répondu aux questions posées lors de l'analyse.
Cependant, les conseillers judiciaires se sont dits préoccupés par l'utilisation d'algorithmes d'intelligence artificielle pour la reconnaissance faciale, notamment en relation avec la préservation des droits et libertés individuels garantis par la Constitution Fédéral.
L'avis exige une réduction des risques et un rapport de sécurité pour le système de reconnaissance faciale
Une nouvelle version de l'avis pour le système Smart Sampa a été publiée, y compris l'exigence que l'entreprise responsable soumette un rapport de réduction des risques en relation avec les données collectées.
La matrice des risques, jointe au texte de la séance de négociation, met en évidence la "forte probabilité" d'accès non autorisé à données personnelles.
Le document souligne que les mesures adoptées pour atténuer ces risques doivent suivre les lignes directrices établies par la loi générale sur la protection des données (LGPD).
En outre, il souligne que le Brésil est constamment la cible de cyberattaques, ce qui peut entraîner l'exposition d'informations stockées dans le système.
Les informations de reconnaissance faciale, capables d'identifier les personnes même avec une barbe, des lunettes ou des coupes de cheveux différentes, seront utilisées pour localiser les fugitifs de la justice, en collaboration avec le Secrétariat d'État à la Sécurité publique de São Paulo et en croisant les données avec d'autres organes.
Selon l'édit, les personnes considérées comme suspectes peuvent également être suivies par les caméras.
Il est essentiel que les mesures de sécurité et de protection des données soient rigoureusement mises en œuvre pour assurer la confidentialité et l'intégrité des informations recueillies par le système de reconnaissance faciale.
La mairie garantit les protocoles internationaux et la protection des données pour Smart Sampa
La mairie assure que le système Smart Sampa adoptera un protocole avancé de validation des alertes et de vérification de l'efficacité analytique, en ne considérant que les détections avec une précision d'au moins 90 %.
Les alertes seront analysées par des agents formés, conformément aux procédures et protocoles internationaux, y compris recommandations de l'Union européenne pour des projets similaires, afin d'évaluer les circonstances de chaque cas avant de prendre toute mesure.
Dans une note, l'administration municipale précise que les informations contenues dans le système seront utilisées exclusivement à des fins de sécurité publique, de manière confidentielle et confidentielle, conformément à la RGPD.
La nouvelle plate-forme comportera un système avancé de protection des données et de contrôle d'accès, garantissant la préservation de toutes les informations stockées.
Les données seront partagées avec le pouvoir judiciaire et d'autres organismes publics sur demande officielle.
Les informations stockées qui ne sont pas demandées par les organes compétents dans un délai maximum de 30 jours seront automatiquement supprimées du système.
Il est essentiel que tous les protocoles et mesures de protection soient strictement suivis pour assurer la sécurité des données et le respect des règles de confidentialité.
La Mairie déclare s'engager à garantir l'efficacité de Smart Sampa et le respect des droits individuels de tous les citoyens.