São Paulo, Brasil – Enquanto a cidade de São Paulo se prepara para implantar milhares de câmeras de vigilância com Reconhecimento Facial, especialistas levantam preocupações de que o uso indiscriminado dessa tecnologia na metrópole brasileira possa agravar problemas como racismo estrutural e desigualdade, além de representar riscos à privacidade e cíber segurança.

O projeto Smart Sampa é o mais recente de uma série de iniciativas que utilizam modernas técnicas de vigilância em diferentes estados brasileiros. É importante pelo tamanho da população que afetará: São Paulo, a cidade mais populosa do hemisfério sul, abriga 12 milhões de pessoas.

O objetivo do projeto é introduzir uma plataforma única de videomonitoramento que integre e apoie as operações dos serviços de resgate e trânsito, a rede de transporte público da cidade e a polícia. Até 20.000 câmeras serão instaladas até 2024 e tantas câmeras de terceiros e privadas serão integradas à rede.

Com as novas câmeras, a cidade pode monitorar escolas, consultórios médicos, espaços públicos como praças e parques e conteúdos de redes sociais relevantes para a administração pública.

A combinação de análise em tempo real e tecnologia de Reconhecimento facial – que usa algoritmos de inteligência artificial (IA) para reconhecer e comparar rostos em um determinado espaço – deve acelerar o processo de identificação de criminosos procurados, carros roubados, pessoas desaparecidas, itens perdidos , etc. nas administrações de transporte público de toda a cidade.

“Esperamos poder concluir o contrato [for Smart Sampa] o mais rápido possível, pois isso vai melhorar significativamente a segurança e a mobilidade na cidade”, disse o prefeito de São Paulo, Ricardo Nunes, durante a retomada do processo licitatório em maio.

Melhorias são necessárias com urgência em ambas as áreas, e as reclamações de tempo excessivo de espera dos usuários de ônibus à autoridade de transporte da cidade aumentaram 42% no primeiro trimestre de 2023, e dados da autoridade de segurança da cidade indicam um aumento de 35,7% nos roubos na cidade 2023 em relação a 2021.

Com os dados em tempo real das câmeras e algoritmos, a cidade espera ser capaz de prever e responder a eventos mais rapidamente. Espera-se também poder prever padrões de tráfego e potenciais pontos de congestionamento e usar o conhecimento adquirido para ajustar horários de ônibus, por exemplo.

Apesar do apelo das tecnologias de vigilância remota para resolver os problemas da cidade, os críticos do Smart Sampa temem que o projeto viole os direitos humanos básicos dos cidadãos, incluindo privacidade, liberdade de expressão, reunião e associação.

Essas preocupações levaram à suspensão do processo de licitação duas vezes e levaram os promotores a investigar possíveis problemas do projeto, inclusive em áreas como a privacidade do cidadão.

O acordo foi adiante depois que os tribunais de São Paulo concluíram que não havia provas suficientes para mostrar que o sistema era tendencioso contra os negros. A PK9, empresa de tecnologia com sede em São Paulo, fez uma oferta mensal de R$ 9,2 milhões (US$ 1,8 milhão) para operar o sistema por 60 meses.

Os riscos para os negros brasileiros

Uma das principais questões apontadas por especialistas em relação ao Smart Sampa diz respeito às consequências negativas que o sistema pode trazer, especialmente para grupos como a comunidade negra, que representa 56% da população brasileira, segundo o Instituto Brasileiro de Geografia e Estatística (IBGE). . . Especialistas argumentam que o projeto pode prejudicar o direito à não discriminação e questionar o princípio da presunção de inocência.

De acordo com Fernanda Rodrigues, defensora dos direitos digitais e coordenadora de pesquisa do Institute for Internet and Societal Research (IRIS), a tecnologia de reconhecimento facial pode levar a falsos positivos – confundir o rosto de uma pessoa com uma imagem no banco de dados – levando assim ao encarceramento em massa de negros pessoas.

“Além do risco de que as informações enviadas para essas plataformas não sejam precisas e o próprio sistema falhe, há um problema que antecede os impactos tecnológicos, que é o racismo”, disse Rodrigues.

“Sabemos que o sistema penal no Brasil é seletivo, então podemos concluir disso [use of surveillance with facial recognition] “Trata-se de aumentar os riscos e danos a essa população”, acrescentou Rodrigues, citando a alta proporção de negros nas prisões brasileiras, que representam mais de 67% da população carcerária, segundo dados de 2022 do Fórum Brasileiro de Segurança Pública. .

Um estudo realizado pelo Centro de Estudos em Segurança Pública e Cidadania (CESeC), que monitora o impacto do uso do reconhecimento facial pela polícia em todo o país, constatou que mais de 90% das pessoas presas no Brasil por decisões baseadas em reconhecimento facial reconhecimento foram presos são negros. No estado do Rio de Janeiro, a proporção de prisões indevidas com base em reconhecimento fotográfico envolvendo negros chegou a 81% em 2021, segundo a Câmara dos Defensores Públicos do Rio de Janeiro.

Outro problema diz respeito à falta de abertura em relação ao projeto. Como uma das organizações por trás da campanha nacional Take My Face Out of Your Aim e outras iniciativas que pedem a proibição do reconhecimento facial, o CESeC e outras organizações sem fins lucrativos estão envolvidos em uma série de ações legais contra governos comprometidos em adotar a opção de tecnologia para segurança urbana e outras finalidades.

No ano passado, a Prefeitura de São Paulo promoveu uma consulta pública virtual durante a última quinzena de agosto, convidando especialistas a contribuir com suas opiniões, com um único dia dedicado a esclarecer suas dúvidas.

“A participação foi limitada e as sugestões feitas foram amplamente ignoradas”, disse Celina Bottino, líder do projeto no Instituto de Tecnologia e Sociedade do Rio de Janeiro.

Em resposta à oposição pública, o edital Smart Sampa foi atualizado com um estudo de impacto da tecnologia, reconhecendo deficiências como alta probabilidade de viés nos recursos de reconhecimento facial, risco de uso e divulgação não autorizados de informações pessoais e probabilidade de dados violações.

Para lidar com esses riscos, o relatório afirma que a plataforma consideraria apenas detecções com 90% de paridade, e todos os alertas emitidos seriam analisados ​​por pessoal treinado para mitigar injustiças, além de contar com um sistema avançado de proteção de dados e controle de acesso.

Solicita uma suspensão

O Ministério Público de São Paulo entrou com uma ação civil em maio junto com o Laboratório de Ordem Pública e Internet (LAPIN) e a Uneafro Brasil, apoiados pela Rede Liberdade, uma rede de advogados que trabalham com organizações de direitos humanos. O caso em andamento pede a suspensão do projeto e a suspensão do uso de sistemas de reconhecimento facial para a segurança da cidade.

“O reconhecimento facial é uma tecnologia complexa cujos aspectos ainda não são totalmente compreendidos e, portanto, incompatível com um processo licitatório [this format] não permite a necessária transparência e participação. Isso representa uma série de riscos aos direitos fundamentais de grupos vulneráveis, como negros e transgêneros e crianças”, afirmaram as organizações em comunicado.

A ação civil também argumenta que a avaliação de impacto carece de pareceres especializados e estudos detalhados sobre os potenciais malefícios da tecnologia e formas de gerenciar os riscos: “A Prefeitura apresenta apenas aspectos pontuais sobre o impacto do programa Sampa Inteligente. que raramente foram discutidos com a sociedade civil e outras instituições”, diz o defensor público Surrailly Youssef.

Mesmo que um prestador já tenha sido selecionado, o serviço pode ser suspenso a qualquer momento caso sejam constatadas violações de direitos ou princípios da administração pública, diz a Defensora Cecília Nascimento Ferreira.

“No entanto, a medida judicial visava evitar que o dinheiro público fosse gasto em uma tecnologia imprudente encomendada por meio de uma modalidade inadequada dada a complexidade do serviço”, acrescenta.

O governo de São Paulo não atendeu aos pedidos de entrevista da Al Jazeera.

Em outros lugares da América, a vizinha Argentina, no ano passado, proibiu o uso de reconhecimento facial em sua capital, Buenos Aires. Nos EUA, vários estados mudaram sua postura e proibiram o reconhecimento facial para apoiar os serviços públicos, embora a tecnologia permaneça amplamente não regulamentada. Por outro lado, a adoção da tecnologia em países ao redor do mundo, como China e Índia, tem avançado, ainda que não sem críticas.

“Fatores como transparência e responsabilidade na aplicação dessas novas tecnologias parecem ter sido esquecidos pelos tomadores de decisão em todo o mundo”, diz Pablo Nunes, cientista político e coordenador do CESeC. “Mesmo em um cenário que não resulte em banimento, espero que no Brasil tenhamos salvaguardas e regulamentações mínimas para o uso do reconhecimento facial.”