Como ação de reconhecimento facial na Oktoberfest traz a necessidade de avaliação do impacto algorítmico

No em caso em tela a Prefeitura de Blumenau, em Santa Catarina, adotou o uso de Técnicas de Reconhecimento Facial com Inteligência Artificial, para principalmente, segundo o Prefeito, pegar pessoas que estão com Mandado de Prisão em aberto, e, se identificadas, serão presas imediatamente.

Segundo, o Prefeito, as imagens coletadas serão compartilhadas com a Policia Militar, Polícia Civil, Polícia Científica e Vigilância Privada.

No entanto, não há dúvidas, de que a utilização de dados biométricos pode oferecer novas formas de segurança e simplificação das atividades cotidianas. Todavia, essas considerações não são suficientes, sendo importante observar detidamente as diversas espécies de dados biométricos, as finalidades para as quais podem ser utilizados e as formas de utilização.

O uso de Técnicas de Reconhecimento facial com Inteligência Artificial embarcada reclama uma aproximação tecnicamente prudente sem a euforia e as certezas definitivas, que, com frequência, vêm proclamados, sobretudo por quem tem interesse direto em colocar no mercado tecnologias ligadas a esses dados.

Seguindo no mesmo horizonte, cabe uma importante observação. A LGPD é principal diploma legal brasileiro que trata de assuntos relacionados a dados pessoais. Contudo, conforme determinação do seu Artigo 4º, III, a Lei não se aplica a tratamento de dados pessoais realizados para fins exclusivamente de segurança pública, defesa nacional, segurança do Estado ou atividades de repressão e investigação de infrações penais.

Dessa forma no âmbito do setor público, o uso de tecnologias de reconhecimento facial para os referidos fins, encontra-se parcialmente excepcionado do âmbito de aplicação da LGPD, segundo Bruno Bioni.

Parcialmente excepcionado, pois a não aplicação da Lei nesses contextos não é absoluta. O artigo 4º, em seu parágrafo primeiro, determina, além da necessidade de lei específica para regulação das hipóteses do inciso III, que os princípios gerais de proteção dos direitos dos titulares de dados continuarão orientando qualquer esfera de tratamento, até mesmo em contextos de interesse público, como no caso do Município de Blumenau.

Art. 4º, parágrafo 1º – O tratamento de dados pessoais previsto no inciso III será regido por

legislação específica, que deverá prever medidas proporcionais e estritamente necessárias ao atendimento do interesse público, observados o devido processo legal, os princípio gerais de proteção e os direitos do titular previstos nesta Lei”.

Outro ponto importante, que atrai a LGPD para o caso concreto de Blumenau é o compartilhamento de dados pessoais (imagens) com empresas de vigilância privada, a não ser que esta empresa tenha integralmente capital público investido, conforme artigo 4º, parágrafo 4º, da LGPD.

Isso se dá, reconhecendo também, o valor dos bancos de dados envolvidos em tais atividades, os riscos associados aos desvios de finalidade e com cautela com o possível uso indevido dessa massa de dados, inclusive com as tentativas de cooptação de agentes públicos públicos e do envolvimento improbo.

Não menos importante, e, ainda como cautela adicional, compete a Autoridade Nacional de Proteção de Dados emitir “opiniões técnicas ou recomendações referentes às exceções previstas no inciso III do caput deste artigo e deverá solicitar aos responsáveis relatórios de impacto à proteção de dados pessoais”. (Parágrafo 3º).

Sendo assim, a regulação de tecnologias de reconhecimento facial para fins de segurança pública demandará a criação de Lei específica, por enquanto está em tramitação no Senado Federal a PL 2338/23, que trata do Marco Regulatório da Inteligência Artificial. Nesse caso, o dever de observância dos princípios gerais da proteção de dados pessoais no Brasil se revela uma forma de garantia dos direitos de seus titulares, a fim de impedir tratamentos irregulares ou abusivos por parte do Poder Público Municipal.

Diante destes tópicos acima referidos podemos perceber o grande risco regulatório de utilizar essas técnicas de reconhecimento facial para fins de segurança pública na cidade de Blumenau/SC.

Mas, diante de todos esses aspectos acima elencados, quais são os pontos positivos e negativos com a aplicação dessas tecnologias:

ASPECTOS POSITIVOS:

Eficiência e Segurança: Uma das maiores vantagens do reconhecimento facial é a sua capacidade de tornar a segurança mais eficaz em locais de grande aglomeração como aeroportos, instituições financeiras e prédios públicos. O sistema pode ajudar a identificar rapidamente criminosos ou pessoas indesejadas.

Rastreamento de Desaparecidos: A tecnologia de reconhecimento facial tem sido útil para localizar pessoas desaparecidas e reunir famílias separadas. Organizações de direitos humanos e agências de aplicação da lei têm usado essa ferramenta para reunir entes queridos.

Conveniência: Em setores como telefonia móvel, o reconhecimento facial tornou-se uma ferramenta de desbloqueio eficiente, proporcionando conveniência aos usuários.

ASPECTOS NEGATIVOS:

Viés Racial: O reconhecimento facial frequentemente demonstra viés racial, com maior precisão em pessoas de pele clara e menos precisão em pessoas de pele escura. Isso pode resultar em tratamento desigual e injustiças, uma vez que minorias são frequentemente mais afetadas, bem como algoritmos com viés racial, mesmo que inconsciente, podem impactar no direito das pessoais de ir e vir, liberdade de associação, cidadania e a própria democracia, uma vez que os desenvolvedores desses algoritmos replicam e aprofundam o racismo estrutural que ocorre em nosso ambiente, mundo físico.

Vigilância Excessiva: A proliferação da tecnologia de reconhecimento facial levanta preocupações sobre a vigilância em massa. Governos e empresas podem monitorar e rastrear cidadãos sem o seu conhecimento ou consentimento.

Desvio de Finalidade dos Dados: A coleta de dados para reconhecimento facial pode muitas vezes ser usada para fins não autorizados, invadindo a privacidade das pessoas.

Falta de Acurácia da Inteligência Artificial: A tecnologia não é infalível, e erros na identificação podem resultar em falsas acusações e danos à reputação de indivíduos.

QUESTÕES ÉTICAS E LEGAIS:

Consentimento: O direito dos titulares dos dados em relação à coleta de imagens para reconhecimento facial deve ser respeitado. O consentimento informado deve ser obtido antes da coleta de dados.

Explicabilidade: A transparência e a explicabilidade dos algoritmos usados no reconhecimento facial são cruciais para garantir a confiança e a prestação de contas.

Revisão de Decisões Automatizadas: Em casos de decisões automatizadas baseadas em reconhecimento facial, as pessoas devem ter o direito de contestar e solicitar revisão por um ser humano imparcial, uma vez que a revisão de decisão automatizada realizada por outra máquina, fere o direito a informação, explicabilidade, transparência e a prestação de contas do uso desses algoritmos que podem esconder e aprofundar vieses.

Armazenamento de Dados: O armazenamento de imagens em vários bancos de dados, tanto do setor público quanto do setor privado, deve ser regulamentado de maneira a proteger os dados pessoais.

Algoritmos de Reconhecimento Facial com IA: A Necessidade de Avaliação de Impacto Algorítmico

A aplicação de algoritmos de reconhecimento facial com inteligência artificial é um avanço tecnológico notável, mas é um campo repleto de questões éticas, sociais e humanas que exigem um exame crítico e uma abordagem ponderada.

Primeiramente, é imperativo discutir a importância da avaliação de impacto algorítmico. Estas ferramentas, que utilizam IA para identificar e classificar indivíduos com base em imagens faciais, têm o potencial de causar impactos significativos na sociedade. A avaliação de impacto algorítmico é crucial para compreender e mitigar as consequências negativas que podem surgir do uso indevido desses sistemas.

Avaliação de Impacto Algorítmico:

A avaliação de impacto algorítmico é uma ferramenta fundamental para a identificação e mitigação de possíveis danos causados pelo uso de algoritmos de reconhecimento facial com IA. Ela envolve uma análise abrangente dos impactos sociais, éticos e humanos associados ao uso desses sistemas. A implementação de uma avaliação de impacto algorítmico deve ser um requisito regulatório e ético rigoroso para qualquer organização ou governo que planeje adotar essa tecnologia.

Impactos Éticos:

O uso inadequado de algoritmos de reconhecimento facial levanta questões éticas profundas. O viés racial, como mencionado anteriormente, é um problema crítico que deve ser abordado. A discriminação e a injustiça resultantes de sistemas que não consideram devidamente a diversidade da população são inaceitáveis e prejudicam as relações sociais e a igualdade.

Impactos Sociais:

Os impactos sociais da aplicação generalizada de reconhecimento facial são vastos. A vigilância em massa pode minar a privacidade individual e criar um ambiente de desconfiança. Além disso, a automação de tarefas que envolvem interações humanas, como processos de seleção de emprego, pode levar à exclusão de grupos vulneráveis e à falta de empatia.

Impactos Humanos:

Os impactos humanos do uso indevido de reconhecimento facial são igualmente preocupantes. A perda de privacidade pode causar ansiedade e afetar negativamente o bem-estar psicológico das pessoas. Além disso, a falta de controle sobre nossos próprios dados e imagens faciais é uma ameaça à autonomia individual.

Conclusão:

O reconhecimento facial é uma ferramenta poderosa, mas sua aplicação deve ser cuidadosamente controlada e regulamentada para evitar abusos. Os riscos associados à falta de privacidade, viés racial, falta de acurácia e desvio de finalidade dos dados são reais e podem resultar em consequências prejudiciais para a sociedade.

É crucial que governos, empresas e a sociedade em geral estejam atentos a essas preocupações éticas e legais e trabalhem em conjunto para garantir que o reconhecimento facial seja usado de maneira responsável e que os direitos individuais sejam respeitados. O equilíbrio entre a segurança e a privacidade é desafiador, mas é um desafio que deve ser enfrentado em nome da sociedade justa e democrática que aspiramos a construir.

Em conclusão, a aplicação de algoritmos de reconhecimento facial com IA é um campo que requer um escrutínio rigoroso e regulamentação ética. A avaliação de impacto algorítmico e o relatório de impacto de proteção de dados são ferramentas essenciais para entender e gerenciar os impactos negativos e garantir que o uso dessa tecnologia seja benéfico para a sociedade como um todo. O equilíbrio entre os avanços tecnológicos e a preservação dos direitos e valores humanos deve ser cuidadosamente mantido.

Por Dr. Evaldo Junior