De justitie van São Paulo gaf het stadhuis van de hoofdstad toestemming om door te gaan met de openbare bekendmaking van het Smart Sampa-systeem, dat voorziet in het bieden van 20.000 camera's met gezichtsherkenning in de stad.
Zie ook: Beveiligings- en privacykwesties: TikTok wordt mogelijk verboden in de VS
Bekijk meer
Experts zeggen dat AI een kracht ten goede is
In het AI-ontwikkelingslandschap gaat China vooruit terwijl de VS...
Na een tijdelijke opschorting van de handel vanwege privacykwesties en mogelijk schendingen van fundamentele rechten, werd de wedstrijd verplaatst naar aanstaande vrijdag de 26ste van mei.
De beslissing van de rechtbank was van mening dat de implementatie van videobewaking sociale of rassendiscriminatie niet versterkt, en het systeem zal de opslag van gezichtsherkenningsgegevens in combinatie met locatie-informatie, voor meer controle en monitoring in de stad.
Justitie schort bevelschrift camera's met gezichtsherkenning op wegens risico op discriminatie
Raadslid Silvia van het Feminist Banquet (PSOL) stelde een openbare civiele procedure voor met het verzoek om opschorting van de Smart Sampa bericht, bewerend dat het gebruik van gezichtsherkenningstechnologie kan resulteren in discriminatie.
De actie benadrukte dat bij tests die op andere locaties in Brazilië werden uitgevoerd, 90,5% van de mensen die op basis van deze technologie waren gearresteerd, zwart was.
In het rapport van de Gemeentelijke Rekenkamer (TCM), waarin de openbare bekendmaking werd geanalyseerd, werden zorgen geuit over het onderwerp, maar met weinig nadruk.
De openbare kennisgeving was in december al opgeschort door de TCM, maar werd vrijgegeven nadat het stadhuis de vragen had beantwoord die tijdens de analyse waren gesteld.
Gerechtsadviseurs uitten echter hun bezorgdheid over het gebruik van algoritmen voor kunstmatige intelligentie gezichtsherkenning, vooral met betrekking tot het behoud van individuele rechten en vrijheden gegarandeerd door de Grondwet Federaal.
Kennisgeving vereist risicobeperking en veiligheidsrapport voor gezichtsherkenningssysteem
Er is een nieuwe versie van de kennisgeving voor het Smart Sampa-systeem vrijgegeven, inclusief de eis dat het verantwoordelijke bedrijf een risicoverminderingsrapport moet indienen met betrekking tot de verzamelde gegevens.
De risicomatrix, bijgevoegd bij de tekst van de handelssessie, benadrukt de "grote waarschijnlijkheid" van ongeoorloofde toegang tot persoonlijke gegevens.
Het document benadrukt dat de maatregelen die worden genomen om deze risico's te beperken, moeten voldoen aan de richtlijnen die zijn vastgesteld door de algemene wet inzake gegevensbescherming (LGPD).
Bovendien wijst het erop dat Brazilië voortdurend het doelwit is van cyberaanvallen, wat kan resulteren in het blootleggen van informatie die in het systeem is opgeslagen.
Gezichtsherkenningsinformatie, die in staat is om mensen te identificeren, zelfs met een baard, bril of ander kapsel, zal worden gebruikt voortvluchtigen opsporen, in samenwerking met het staatssecretariaat voor openbare veiligheid van São Paulo en door gegevens te kruisen met andere organen.
Volgens het edict mogen ook personen die als verdacht worden beschouwd, worden gevolgd door de camera's.
Het is van cruciaal belang dat beveiligings- en gegevensbeschermingsmaatregelen strikt worden geïmplementeerd de privacy en integriteit van de door het herkenningssysteem verzamelde informatie te waarborgen gezichtsbehandeling.
Stadhuis garandeert internationale protocollen en gegevensbescherming voor Smart Sampa
Het stadhuis zorgt ervoor dat het Smart Sampa-systeem een geavanceerd protocol gebruikt voor het valideren van waarschuwingen en het verifiëren van de analytische effectiviteit, waarbij alleen detecties met een nauwkeurigheid van ten minste 90% worden overwogen.
Waarschuwingen worden geanalyseerd door getrainde agenten, volgens internationale procedures en protocollen, waaronder Aanbevelingen van de Europese Unie voor soortgelijke projecten, om de omstandigheden van elk geval te beoordelen alvorens te nemen welke maat dan ook.
In een notitie wijst het gemeentebestuur erop dat de informatie in het systeem uitsluitend zal worden gebruikt voor doeleinden van openbare veiligheid, op een vertrouwelijke en vertrouwelijke manier, in overeenstemming met de LGPD.
Het nieuwe platform zal beschikken over een geavanceerd systeem voor gegevensbescherming en toegangscontrole, waardoor alle opgeslagen informatie behouden blijft.
De gegevens worden op officieel verzoek gedeeld met de Rechtspraak en andere overheidsinstanties.
Opgeslagen informatie die niet binnen een termijn van maximaal 30 dagen door de bevoegde instanties wordt opgevraagd, wordt automatisch uit het systeem verwijderd.
Het is essentieel dat alle protocollen en beschermende maatregelen strikt worden gevolgd om gegevensbeveiliging en naleving van privacyregelgeving te waarborgen.
Het stadhuis stelt dat het zich inzet voor de effectiviteit van Smart Sampa en respect voor de individuele rechten van alle burgers.
