Entidades acionam MP contra reconhecimento facial na capital paulista

Entidades da Sociedade Civil acionaram o Ministério Público (MP) do Estado de São Paulo contra o edital, lançado pela Secretaria Municipal de Segurança Urbana da prefeitura de São Paulo, para a contratação de uma plataforma de videomonitoramento na capital paulista.

Segundo o Instituto Brasileiro de Defesa do Consumidor (Idec) e o Laboratório de Políticas Públicas e Internet (Lapin), que assinam a representação ao MP, a plataforma irá impactar de forma desigual populações vulneráveis, especialmente os negros, em razão de os sistemas de reconhecimento facial resultarem “em gravíssimos erros baseados na discriminação algorítmica”. 

Chamado de Smart Sampa, o sistema tem a previsão de integrar mais de 20 mil câmeras na cidade até 2024 e investimento estimado de R$ 70 milhões por ano. No edital, publicado em 17 de novembro, é previsto que o sistema a ser contratado possua recursos de identificação facial e detecção de movimento. “As câmeras reconhecerão atitudes suspeitas, pessoas procuradas, placas de veículos e objetos perdidos”, diz o texto do edital. A data prevista para o pregão eletrônico é o próximo dia 5.

Experiência

“As cidades de Feira de Santana (BA) e Rio de Janeiro, precursoras no uso do reconhecimento facial para fins de segurança pública, são constantemente criticadas pelo uso massivo e errôneo destas tecnologias. No caso da cidade baiana, durante o carnaval de 2019, apenas 3,6% dos 903 alertas gerados pelo sistema de reconhecimento facial resultaram em mandados de prisão”, destacaram as entidades na representação, protocolada ontem (30).

“Já no Rio de Janeiro, em um projeto-piloto, a Secretaria de Estado de Polícia Militar admitiu que dentre os onze casos de pessoas detidas com o uso da tecnologia de reconhecimento facial nas partidas do Maracanã, sete foram erros da máquina, ou seja: falsos positivos. Desta forma, o sistema errou em 63% dos casos”, acrescentaram. 

Idec e Lapin ainda ressaltaram que, nos quatro meses correspondentes à segunda fase do projeto no Rio de Janeiro, não foram registradas reduções nos principais indicadores de criminalidade, e as câmeras instaladas não cumpriram a função de melhorar a segurança e, atualmente, encontram-se desativadas.

Edital

Na primeira versão do edital, publicado no dia 17 de novembro, estava previsto que as câmeras fossem capazes de rastrear pessoas suspeitas, monitorando todos os movimentos e atividades. “A pesquisa deve ser feita por diferentes tipos de características como cor, face, roupas forma do corpo/aspecto físico e outras características”. Os equipamentos deveriam possuir “analíticos embarcados” para identificar “vadiagem/permanência”. Ontem (30), em publicação do Diário Oficial da cidade, os trechos foram retificados e retiradas as palavras “cor” e “vadiagem”.   

“A implementação da plataforma de videomonitoramento, na prática, produzirá impactos negativos desproporcionais para a população negra em razão do enviesamento racial inerente ao uso dessa tecnologia, assim como para as pessoas transgênero, independentemente das supostas boas intenções que eventualmente norteiem a adoção desta tecnologia pelos gestores públicos, contribuindo para reprodução e até aprofundamento da marginalização social historicamente imposta a esses grupos”, dizem as entidades na representação.

Idec e Lapin chamam a atenção ainda para outra funcionalidade da plataforma prevista no edital, que consiste em criar um sistema de monitoramento de mídias sociais, incluindo Facebook, Instagram, Twitter, YouTube. “Em outras palavras, a Prefeitura do Município de São Paulo quer saber o que cidadãos fazem nas redes sociais em tempo real, podendo usar isso contra os mesmos e analisar cada conteúdo por sentimento, categorizando cada texto em positivo, neutro ou negativo”.

Entidades

Idec e Lapin são integrantes da Coalizão Direitos na Rede, rede de entidades que reúne mais de 50 organizações acadêmicas e da sociedade civil em defesa dos direitos digitais, tendo como temas principais de atuação: acesso, liberdade de expressão, proteção de dados pessoais e privacidade na Internet.

Prefeitura

Procurada, a prefeitura de São Paulo ainda não se manifestou sobre a representação apresentada pelas entidades ao MP. Em seu portal, a administração municipal diz que a iniciativa busca a modernização e ampliação no monitoramento de câmeras na capital, “agregando o conceito de cidades Inteligentes e permitindo maior eficácia e agilidade no atendimento de ocorrências da Guarda Civil Metropolitana e demais órgãos de segurança”.

A prefeitura diz ainda que a plataforma Smart Sampa facilitará a integração, em uma única plataforma, de diversos serviços municipais, como os da Companhia de Engenharia de Tráfego, da Defesa Civil, do Serviço de Atendimento Móvel de Urgência (Samu) e da Guarda Civil Metropolitana.

“Os órgãos de segurança terão como monitorar escolas, unidades básicas de saúde (UBS) e demais equipamentos públicos, aumentando significativamente a segurança nesses locais. As câmeras contarão ainda com monitoramento de calor, facilitando a supervisão em praças e parques, que normalmente possuem árvores e áreas verdes que podem prejudicar uma vigilância mais precisa”.

Edição: Aline Leal