Análise de 52 acórdãos de segunda instância dos Tribunais de
Justiça de São Paulo, Rio de Janeiro, Distrito Federal, Santa Catarina e Goiás
alerta para uma “caixa-preta” no uso da tecnologia. Falta de informações sobre
as identificações pode dificultar que pessoas acusadas contestem a prova usada
contra elas.
Ao
analisar 52 acórdãos de segunda instância dos Tribunais de Justiça de São
Paulo, Rio de Janeiro, Distrito Federal, Santa Catarina e Goiás, uma pesquisa
inédita desenvolvida pelo Centro de Estudos de Segurança e Cidadania (CESeC),
identificou que 33 decisões (63,5%) mencionam o reconhecimento facial sem
apresentar qualquer um dos três elementos considerados mínimos para avaliar a
confiabilidade da tecnologia: o sistema ou software utilizado, a base de dados
consultada ou um laudo técnico específico sobre o processamento das imagens. Os
dados do estudo estão disponíveis aqui.
Os
resultados do estudo Algoritmos e Direitos: Reconhecimento Facial na Justiça
Criminal, segundo os pesquisadores, revelam uma contradição crescente. Ao
mesmo tempo em que o reconhecimento facial passa a desempenhar um papel cada
vez mais relevante na investigação e na atribuição de autoria criminal, as
informações necessárias para verificar sua confiabilidade permanecem
praticamente invisíveis dentro dos processos judiciais.
Na
prática, a falta dessas informações pode comprometer uma etapa fundamental do
processo penal: a possibilidade de a pessoa acusada contestar a prova
apresentada contra ela. Sem saber qual sistema produziu a identificação, qual
imagem foi comparada, qual banco de dados foi utilizado ou quais critérios
levaram o algoritmo a apontar uma correspondência, a defesa não dispõe dos
elementos necessários para verificar a confiabilidade do resultado ou
submetê-lo a uma análise técnica independente. O problema, portanto, não é
apenas de transparência sobre o uso da tecnologia, mas de acesso aos elementos
que permitem questionar uma evidência potencialmente relevante para a
atribuição de autoria.
“Quando
afirmamos que 63,5% dos acórdãos não apresentam nenhuma informação técnica
mínima, não estamos falando apenas de uma falta de transparência
administrativa. Estamos falando de uma limitação concreta ao exercício da
defesa. Na prática, o réu sabe que um sistema teria indicado o seu rosto, mas
muitas vezes não consegue saber qual software foi utilizado, qual imagem foi
inserida, qual banco de dados foi consultado, qual foi o resultado numérico da
comparação ou que parâmetro permitiu considerar aquela correspondência
relevante”, afirma Pablo Nunes, coordenador do projeto O Panóptico.
O
estudo identificou que essa dinâmica não se limita a sistemas utilizados
diretamente por órgãos públicos. Um dos casos mais emblemáticos identificados
no levantamento ocorreu no Rio de Janeiro – uma identificação produzida por um
sistema de reconhecimento facial de uma loja da rede varejista Havan foi
posteriormente incorporada a um processo criminal, sem que o acórdão trouxesse
informações suficientes sobre a tecnologia empregada, a base de dados
consultada ou os critérios utilizados para a comparação biométrica.
O caso
da loja Havan amplia o problema ao deslocar a produção inicial da suspeita para
uma infraestrutura privada de vigilância. No acórdão, a identificação da ré
aparece a partir da afirmação de que a empresa “possui sistema de
reconhecimento facial” e que, por isso, ela teria sido associada a outras
compras realizadas com documentos falsos.
A
questão central não é apenas a participação de uma empresa privada na produção
de informação relevante para a persecução penal, mas o modo como essa
informação entra no processo: sem esclarecimento sobre a base de dados
utilizada, os critérios de correspondência, a taxa de erro, a finalidade
original da coleta, os procedimentos de auditoria ou a revisão humana do
resultado. O caso evidencia uma dimensão específica da passagem entre pista e
prova – a suspeita não nasce diretamente de uma diligência policial, mas de um
circuito empresarial orientado por lógicas de segurança patrimonial, prevenção
de perdas e controle de consumidores.
Entrevistas
realizadas na elaboração do estudo revelaram outro aspecto que chamou a
atenção: a existência de práticas informais de circulação de imagens entre
agentes públicos. Segundo relatos colhidos durante o estudo, policiais e
guardas municipais fotografam pessoas abordadas em situações diversas e
compartilham essas imagens em grupos de mensagens para tentar identificar
possíveis antecedentes ou vínculos com investigações. Embora os pesquisadores
ressaltem que os depoimentos não permitem afirmar que essas práticas sejam
generalizadas, eles apontam para a existência de circuitos paralelos de
produção e circulação de imagens biométricas, muitas vezes sem protocolos
claros sobre finalidade, armazenamento, controle ou descarte.
Esses
relatos ampliam a discussão sobre reconhecimento facial para além dos bancos de
dados oficiais. Se fotografias produzidas durante abordagens policiais, imagens
captadas por empresas privadas, registros obtidos em redes sociais e bancos
institucionais podem alimentar investigações, compreender a origem dessas
imagens torna-se tão importante quanto avaliar o desempenho do algoritmo
responsável pela comparação biométrica.
Vale
ressaltar que imagens faciais constituem dados biométricos classificados como
sensíveis pela Lei Geral de Proteção de Dados (LGPD), o que reforça a
importância de conhecer quem controla essas bases, quais registros são
utilizados e em quais condições esses dados podem ser compartilhados ou
reutilizados. Apesar da relevância e do uso cada vez mais disseminado de dados
biométricos por agentes policiais, a LGPD não se aplica totalmente à esfera da
segurança pública e à defesa nacional.
Tecnologia influencia processos,
mas quase não é debatida
O
estudo mostra que o reconhecimento facial frequentemente aparece nas decisões
como uma tecnologia naturalmente confiável, sem que os desembargadores discutam
seu funcionamento, suas limitações ou suas margens de erro. Em apenas sete dos
52 acórdãos analisados houve alguma discussão direta sobre aspectos técnicos do
reconhecimento facial, como critérios de correspondência, qualidade das
imagens, confiabilidade dos resultados ou limitações dos sistemas utilizados.
Na
maioria dos casos, a tecnologia é apenas mencionada como parte da investigação
policial ou incorporada à narrativa acusatória, sem explicações sobre perguntas
fundamentais, como:
● qual algoritmo realizou a comparação;
● qual banco de imagens foi utilizado;
● qual foi o índice de similaridade encontrado;
● quais critérios levaram à identificação do
suspeito;
● se houve validação independente do resultado.
Para os pesquisadores, esse cenário cria uma espécie de
“caixa-preta” da prova digital: a conclusão produzida pelo sistema
chega ao processo judicial, mas o caminho percorrido até ela permanece
desconhecido. Essa falta de transparência dificulta tanto o controle judicial
quanto o exercício do contraditório pela defesa, já que informações essenciais
para avaliar a integridade da evidência simplesmente não aparecem nos autos.
“O que
estamos chamando de ‘caixa-preta’, portanto, não está apenas dentro do
algoritmo. Ela também é produzida pela forma como o reconhecimento facial é
registrado nos documentos policiais e judiciais. Quando o acórdão apenas diz
que houve uma ‘identificação positiva’, sem explicar como ela foi produzida, a
tecnologia adquire aparência de certeza, embora o resultado seja probabilístico
e dependa de uma série de decisões humanas e técnicas”, alerta Thallita
Lima, coordenadora de pesquisa do projeto O Panóptico.
A “caixa-preta” da
identificação
Para
avaliar o grau de transparência presente nas decisões judiciais, o estudo
desenvolveu um indicador inédito de auditabilidade. Em vez de medir a precisão
dos algoritmos, o índice procura responder a uma pergunta: os tribunais
fornecem informações suficientes para que seja possível compreender como o
reconhecimento facial foi realizado? O indicador considera três elementos
considerados mínimos:
● identificação do software ou sistema
utilizado;
● indicação da base de dados consultada;
● existência de laudo técnico ou relatório
pericial específico sobre o processamento das imagens.
A
pontuação varia de zero a três e o resultado revelou um cenário de baixa
documentação técnica – a média geral foi de apenas 0,42. Dos 52 acórdãos
analisados:
● 33 (63,5%) receberam nota zero, sem apresentar
nenhum dos três elementos mínimos de auditabilidade;
● 16 (30,8%) receberam nota um;
● apenas três (5,8%) receberam nota dois;
● nenhum acórdão alcançou a pontuação máxima.
Quando
cada critério é analisado isoladamente, os números também chamam atenção. O
nome do software utilizado apareceu em apenas oito decisões (15,4%); a base de
dados consultada foi identificada em somente quatro casos (7,7%); já a
existência de laudo técnico específico relacionado ao reconhecimento facial foi
mencionada em dez acórdãos (19,2%).
Nenhuma
decisão apresentou simultaneamente as três informações. Para os pesquisadores,
isso significa que, mesmo quando o reconhecimento facial desempenha papel
relevante na investigação, raramente é possível reconstruir tecnicamente como
aquela identificação foi produzida.
“Criamos
o indicador para transformar a ideia de ‘caixa-preta’ em uma medida concreta. O
indicador não mede se o sistema é tecnicamente bom, se o laudo é consistente ou
se a identificação está correta. Ele mede algo anterior e fundamental: se
existem informações suficientes para que a defesa, o Judiciário ou um perito
independente possam compreender como aquele resultado foi produzido e, a partir
disso, questioná-lo”, analisa Thallita Lima, coordenadora de pesquisa do
projeto O Panóptico.
(Crédito: Imagem criada por IA)
About the Author
