No mesmo dia em que assinou um termo de cooperação com a Secretaria de Estado da Segurança Pública de Alagoas (SSP-AL), para a adoção de um algoritmo de policiamento preditivo no estado, o gerente de tecnologia ou ‘CTO’ da Singular Perturbations, Keisuke Nishitani, fez posts xenofóbicos e com aparente tom de ironia sobre a segurança local.

Sem fontes que respaldem a informação, em 12 de março, Nishitani disse, na rede social X, antigo Twitter, que não só Alagoas como o Amazonas, estados que iria visitar, seriam os menos seguros do país, contrariando o próprio Governo de Alagoas que – em 14 de março – trouxe no seu portal institucional que o estado está entre os que alcançaram redução de homicídios em 2023 em relação ao ano anterior, tanto em números absolutos quanto em termos percentuais. Veja o twitter em idioma japonês:

Em 13 de março, o CTO da empresa japonesa fez outro post afirmando que seria alvo de gangues ou da máfia após aparecer numa televisão local. As publicações foram realizadas originalmente em japonês e checadas com o auxílio de um falante do idioma para a reportagem do Olhos Jornalismo.

Mas não só Alagoas e o Amazonas foram alvo de desinformação do CTO. No dia 6 de março, Nishitani afirmou que o número de roubos na capital federal era “3.000 vezes maior que no Japão”, emendando com o questionamento: “Será que é assim mesmo na capital? Haha”. O dado citado pelo CTO é falso, considerando que foram 408 mil roubos em 2022 no Japão, contra 23.141 na capital federal. Esse tipo de comparação também seria incabível, devido à grande disparidade populacional entre o país e o Distrito Federal.

Confira logo abaixo o twitter em japonês e a tradução em formato de print em língua portuguesa:

A reportagem do Olhos Jornalismo procurou Nishitani para comentar tanto sobre suas publicações discriminatórias quanto sobre o viés do algoritmo da sua empresa e, após receber a mensagem, os posts na rede social foram apagados. Até o momento, os questionamentos também não foram respondidos.

Inteligência artificial é feita por pessoas

O teor das publicações reforça os questionamentos que especialistas e ativistas fazem sobre softwares, como o vendido pela Singular Perturbations. Em suas aplicações pelo mundo, algoritmos de policiamento preditivo reforçaram preconceitos e afetaram desproporcionalmente comunidades minoritárias.

É com o mote “reduzir as experiências tristes do mundo” que a empresa japonesa Singular Perturbations – que Nishitani representa – vende o seu sistema “CRIME NABI”, de policiamento preditivo. Cada vez mais presente mundo afora, sistemas desse tipo buscam utilizar o big data – coleta e processamento massivo de informações – para prever com aparente precisão onde e quando um crime pode acontecer.

Anunciada pela SSP em meados de março, a parceria entre o Governo do Estado e a empresa japonesa seria a segunda fechada no país – a primeira foi selada com a prefeitura de Belo Horizonte. Em seu site, a empresa celebra seus acordos feitos no Brasil e anuncia até a abertura de sede local, mas não há informações sobre acordos com outras cidades, nem mesmo no Japão.

Sobre o assunto, Pedro Gomes, advogado do Núcleo de Advocacia Racial do Instituto do Negro de Alagoas (Ineg/AL), diz que é preciso analisar com cautela a situação. “É muito importante ter em mãos de forma célere os dados de ocorrência de crimes, para que as políticas públicas sejam implementadas de forma eficaz, entretanto não podemos admitir que esses dados sejam utilizados para estigmatizar populações em função de sua cor, de seu local de moradia, ou de qualquer outro viés que nada tem a ver com o cometimento ou não de crimes”, diz.

Entendemos que deve haver inovação e emprego de tecnologia para o combate à criminalidade, sem nenhuma dúvida, entretanto, o combate deve ser contra o crime e não contra quem é o ‘criminoso em potencial

O pesquisador Walter Lippold, do Instituto Nacional de Ciência e Tecnologia da Universidade Federal Fluminense, explica que a relação entre tecnologias e minorias sociais sempre foi conturbada, relembrando os filmes de fotografia, que não revelavam adequadamente os tons de pele de pessoas negras. “Isso é um problema sério, pois quanto mais usamos tecnologias para questões de justiça e criminalidade, vemos casos como os de identificação errônea de rostos negros em reconhecimento facial, por exemplo”, pontua.

Pesquisas recentes sobre algoritmos de policiamento preditivo apontam problemas muito similares aos de outras soluções de tecnologia aplicada à segurança pública. A falta de transparência sobre o funcionamento desses programas, quase sempre protegidos por sigilo empresarial e patentes, é um dos pontos mais levantados pelos pesquisadores. Algoritmos baseados no histórico de criminalidade em uma localização, como é o caso do “CRIME NABI”, também podem ser enviesados por maiores históricos de prisões e abordagens em algumas comunidades, que não necessariamente refletem a periculosidade do local.

Com isso, lugares historicamente mais patrulhados por serem, por exemplo, pontos de encontro de comunidades marginalizadas em bairros ricos e turísticos, onde também ocorrem mais abordagens, tendem a ser supervalorizados nos algoritmos. “Há um perigo direto de aumento do encarceramento, especialmente de homens jovens negros. Estamos em um momento perigoso para as populações subalternizadas”, avalia Lippold.

Programa ‘custo zero’

Um dos pontos destacados pela SSP durante o anúncio da parceria com a Singular Perturbations foi que o Governo teria ônus zero. Em release do Estado, o tenente-coronel Iran Rêgo, chefe de Articulação de Políticas de Prevenção da SSP, disse que os únicos custos serão “dados que a empresa vai testar” que serão compartilhados pelo governo.

A cessão de dados pelo governo faz sentido dentro da lógica de comodificação de dados e da importância deles para o refinamento e treinamento de novos algoritmos que caracterizam o modelo de negócio de empresas de tecnologia, avalia Walter Lippold.

“Cada vez mais, estamos dentro do capitalismo de vigilância, há altos lucros para essas indústrias. A insegurança é um grande negócio. Já é perigoso um governo ter esse tipo de base de dados, pois governos mudam e democracias caem, o segundo mais alarmante é a cibersegurança desses sistemas. Hoje, você compra na deep web documentos com milhões de CPFs, telefones e senhas de brasileiros vazados de plataformas como Serasa Experian”, relembra o pesquisador.

Como os termos do acordo de cooperação ainda não foram disponibilizados, não se sabe os exatos tipos de dados sobre o policiamento local e ocorrências serão compartilhados pela SSP com a empresa japonesa.

Buscando um posicionamento, a reportagem do Olhos Jornalismo procurou a Secretaria de Segurança Pública para comentar tanto sobre as publicações feitas na rede social do CTO quanto sobre o viés do algoritmo do programa adotado pelo órgão, mas até o momento desta publicação não teve retorno.