REGULAÇÃO DE SISTEMAS DE RECONHECIMENTO FACIAL PARA FINS DE SEGURANÇA PÚBLICA NO BRASIL: RISCOS E DESAFIOS

Alice Azevedo Magalhães; Técio  Spínola Gomes

Alice Azevedo Magalhães Universidade Federal da Bahia - UFBA https://orcid.org/0000-0001-7487-1149
Técio Spínola Gomes Universidade Federal da Bahia https://orcid.org/0000-0003-0701-3915

Palavras-chave: Reconhecimento facial, Segurança Pública, Inteligência Artificial, Regulação

Resumo

O objetivo deste artigo é explicitar os potenciais riscos que o uso incondicionado de sistemas de reconhecimento facial na segurança pública gera a direitos fundamentais. Questiona-se sobre a necessidade de adoção de mecanismos de governança mediante regulação, assim como de contribuições ao contexto nacional proporcionadas pela discussão normativa no exterior. Trata-se de pesquisa pautada em revisão bibliográfica e fontes documentais primárias e secundárias. Diante do escasso material quantitativo sobre a eficácia do uso desses sistemas no Brasil, conclui-se que sua regulamentação é necessária, sendo imprescindível precedê-la por amplo diálogo com a comunidade acadêmica. Ademais, a Proposta de Lei apresentada pela Comissão Europeia ao Parlamento Europeu equilibra, satisfatoriamente, inovação tecnológica e respeito aos direitos fundamentais, sendo que pode se tornar uma referência para o debate nacional. A regulação de inteligência artificial ainda é experimental. Dessarte, este artigo é relevante ao proporcionar uma base para o aprofundamento do tema em estudos futuros.

Biografia do Autor

Alice Azevedo Magalhães, Universidade Federal da Bahia - UFBA

Graduanda em Direito pela Universidade Federal da Bahia.

Técio Spínola Gomes, Universidade Federal da Bahia

Professor Adjunto da Universidade Federal da Bahia (UFBA). Doutor em Direito Civil pela Universidade de São Paulo (USP). Mestre em Direito pela UFBA. Advogado.

Referências

AMNESTY INTERNATIONAL. Ban dangerous facial recognition technology that amplifies racist policing. 2021. Disponível em: https://www.amnesty.org/en/latest/news/2021/01/ban-dangerous-facial-recognition-technology-that-amplifies-racist-policing/. Acesso em: 03 mai. 2021.

AYRE, Lori; CRANER, Jim. Algorithms: avoiding the implementation of institutional biases. Technology Column. v. 37, n. 3, 2018. Disponível em: https://www.researchgate.net/publication/327806571_Algorithms_avoiding_the_implementation_of_institutional_biases. Acesso em: 14 abr. 2021.

BAROCAS, Solon; ROSENBLAT, Alex; BOYD, Danah; GANGADHARAN, Seeta Peña; YU, Corrine. Data & Civil Rights: Technology Primer. Data & Civil Rights Conference. Out. 2014. Disponível em: https://datasociety.net/wp-content/uploads/2014/10/Technology.pdf. Acesso em: 17 abr. 2021.

______; SELBST, Andrew D. Big data’s disparate impact. California Law Review., v.104, p.671-732, 2016. Disponível em: http://www.californialawreview.org/wp-content/uploads/2016/06/2Barocas-Selbst.pdf. Acesso em: 19 abr. 2021.

BECKER, Daniel; WOLKART, Erik Navarro; FERRARI, Isabela. Arbitrium ex machina: panorama, riscos e a necessidade de regulação das decisões informadas por algoritmos. Revista dos Tribunais, v. 995, p.1-16, set, 2018. Disponível em: http://governance40.com/wp-content/uploads/2018/11/ARBITRIUM-EX-MACHINA-PANORAMA-RISCOS-E-A-NECESSIDADE.pdf. Acesso em: 10 abr. 2021.

BIG BROTHER WATCH. Briefing on facial recognition surveillance. Londres. 2020. Disponível em: https://bigbrotherwatch.org.uk/wp-content/uploads/2020/06/Big-Brother-Watch-briefing-on-Facial-recognition-surveillance-June-2020.pdf. Acesso em: 29 abr. 2021.

______. Executive Summary. Londres. 2018. Disponível em: https://bigbrotherwatch.org.uk/wp-content/uploads/2018/05/Face-Off-final-digital-1.pdf. Acesso em: 25 abr 2021.

BOULAMWINI, Joy; GEBRU, Timnit. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Conference on Fairness, Accountability, and Transparency. p. 1 – 15. 2018. Disponível em: https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf. Acesso em 29 abr. 2021.

BRASIL. [Constituição (1988)]. Constituição da República Federativa do Brasil: promulgada em 5 de outubro de 1988. 2. ed. São Paulo: Rideel, 2019.

______. Lei n° 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais. Brasília, DF: Presidência da República, 2018. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 15 de abr. 2021.

¬¬¬¬¬¬¬¬______. Congresso Nacional. Câmara dos Deputados. Projeto de Lei da Câmara n° 4612, de 2019. Dispõe sobre o desenvolvimento, aplicação e uso de tecnologias de reconhecimento facial e emocional, bem como outras tecnologias digitais voltadas à identificação de indivíduos ou análise de comportamentos. Sr. Bibo Nunes. Brasília, DF: Disponível em: https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=1794019&filename=PL+4612/2019. Acesso em 29 abr. 2021.

¬¬¬¬______. Congresso Nacional. Câmara dos Deputados. Projeto de Lei da Câmara n° 9736, de 2018. Acrescenta dispositivo à Lei n° 7.210, de 11 de julho de 1984, para incluir a previsão de identificação por reconhecimento facial. Sr. Julio Lopes. Brasília, DF: Disponível em: https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=1643053&filename=PL+9736/2018. Acesso em 29 abr. 2021.

______. Decreto n° 8.771, de 11 de maio de 2016. Regulamenta a Lei nº 12.965, de 23 de abril de 2014, para tratar das hipóteses admitidas de discriminação de pacotes de dados na internet e de degradação de tráfego, indicar procedimentos para guarda e proteção de dados por provedores de conexão e de aplicações, apontar medidas de transparência na requisição de dados cadastrais pela administração pública e estabelecer parâmetros para fiscalização e apuração de infrações. Brasília, DF: Presidência da República, 2016. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2016/decreto/D8771.htm. Acesso em 15 abr. 2021.

______. Ministério da Ciência, Tecnologia e Inovações. Portaria n° 4.617, de 6 de abril de 2021. Institui a Estratégia Brasileira de Inteligência Artificial e seus eixos temáticos. Brasília, DF: Ministério da Ciência, Tecnologia e Inovações, 2021. Disponível em: https://www.in.gov.br/en/web/dou/-/portaria-gm-n-4.617-de-6-de-abril-de-2021-*-313212172. Acesso em 15 abr. 2021.

______. Tribunal Regional do Trabalho da 1ª Região. Mandado de Segurança. Agravo Regimental. Plataforma digital. Vínculo de emprego. Perícia em dados de algoritmo. Necessidade, possibilidade e limites. Juiz natural. Independência. Princípio democrático fundante. Transcendência do caso. Produção antecipada de prova e contenção a litigiosidade. Acórdão em mandado de segurança n. 0103519-41.2020.5.01.0000-RJ. Uber do Brasil Tecnologia LTDA e Carlos Cesar Goncalves Ventura. Relatora: Raquel de Oliveira Maciel. 22 abr. 2021.

HORA, Nina da. O que é Reconhecimento facial? Uma introdução técnica. 2021. Disponível em: https://www.ninadahora.dev/post/reconhecimento-facial-introdu%C3%A7%C3%A3o. Acesso em 10 mai. 2021.

NUNES, Pablo. Novas ferramentas, velhas práticas: reconhecimento facial e policiamento no Brasil. In: CENTRO DE ESTUDOS DE SEGURANÇA E CIDADANIA (CESeC). Retratos da violência: cinco meses de monitoramento, análises e descobertas. p. 67- 70. 2019. Disponível em: http://observatorioseguranca.com.br/wp-content/uploads/2019/11/1relatoriorede.pdf. Acesso em 03 mai. 2021.

EUROPEAN COMMISSION, Regulation of the European Parliament and of The Council – Laying down harmonized rules on artificial intelligence (artificial intelligence act) and amending certain Union legislative acts. COM (2021) 206. Bruxelas, 2021. Disponível em: https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence. Acesso em: 22 abr. 2021.

EUROPEAN COUNCIL. Council Framework Decision on the European arrest warrant and the surrender procedures between Member States. JHA (2002) 584. Bruxelas. 2002. Disponível em: https://www.gov.uk/government/publications/framework-decision-on-the-european-arrest-warrant. Acesso em: 29 abr. 2021.

GRUPO INDEPENDENTE DE PERITOS DE ALTO NÍVEL SOBRE A INTELIGÊNCIA ARTIFICIAL (GPAN IA). Orientações éticas para uma IA de confiança. Abr. 2019. Disponível em: https://ec.europa.eu/futurium/en/ai-alliance-consultation#:~:text=The%20Ethics%20Guidelines%20for%20Trustworthy,strategy%20announced%20earlier%20that%20year. Acesso em 17 de abr. 2021.

______. Uma definição de IA: Principais capacidades e disciplinas científicas. Abr. 2019. Disponível em:https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai. Acesso em: 20 abr. 2021.

HIDVEGI, Fanny; MASSÉ, Estelle. Mapping artificial intelligence strategies in Europe: a new report by Access Now. 2018. Disponível em: https://www.accessnow.org/mapping-artificial-intelligence-strategies-in-europe/. Acesso em: 17 abr. 2021.

INSTITUTO IGARAPÉ. Infográfico reconhecimento facial no Brasil. 2019. Disponível em: https://igarape.org.br/infografico-reconhecimento-facial-no-brasil/. Acesso em: 03 mai. 2021.

______. Regulação do reconhecimento facial no setor público. 2020. Disponível em: https://igarape.org.br/wp-content/uploads/2020/06/2020-06-09-Regula%C3%A7%C3%A3o-do-reconhecimento-facial-no-setor-p%C3%BAblico.pdf. Acesso em: 03 mai. 2021.

______. Webreport videomonitoramento. 2019. Disponível em: https://igarape.org.br/videomonitoramento-webreport/. Acesso em: 03 mai. 2021.

KLEINBERG, Jon; MULLAINATHAN, Sendhil; SUNSTEIN, Cass R. Algorithms as discrimination detectors. PNAS. vol. 117, n. 48, dez. 2020. p. 30097 – 30100. Disponível em: https://www.pnas.org/content/117/48/30096. Acesso em: 24 abr. 2021.

MELLO, Celso Antônio Bandeira de. O conteúdo jurídico do princípio da igualdade. 3 ed. São Paulo: Malheiros, 2008.

MINAS GERAIS. Assembleia Legislativa. Projeto de Lei n° 391, de 2019. Dispõe sobre a obrigatoriedade da implantação de tecnologia de reconhecimento facial em locais públicos no âmbito do Estado de Minas Gerais. Deputado Carlos Henrique. Belo Horizonte, MG. Disponível em: https://www.almg.gov.br/atividade_parlamentar/tramitacao_projetos/texto.html?a=2019&n=391&t=PL. Acesso em 29 abr. 2021.

NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY (NIST). NIST Study Evaluates Effects of Race, Age, Sex on Face Recognition Software. 2019. Disponível em: https://www.nist.gov/news-events/news/2019/12/nist-study-evaluates-effects-race-age-sex-face-recognition-software. Acesso em: 03 mai. 2021.

O’NEIL, Cathy. Weapons of math destruction: how big data increases inequality and threatens democracy. 1 ed. Nova Iorque: Crown Publishers, 2016.

ORGANIZATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT (OECD). OECD/LEGAL/0449: Recommendation of the Council on Artificial Intelligence. 2019. Disponível em: https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449. Acesso em: 17 abr. 2021.

PARANÁ. Assembleia Legislativa. Projeto de Lei n° 148, de 2019. Dispõe sobre a permissão de implantação de tecnologia de reconhecimento facial em locais públicos. Deputado Subtenente Everton. Curitiba, PR. Disponível em: http://portal.alep.pr.gov.br/modules/mod_legislativo_arquivo/mod_legislativo_arquivo.php?leiCod=82332&tipo=I. Acesso em 29 abr. 2021.

RIO DE JANEIRO. Assembleia Legislativa. Projeto de Lei n° 341, de 2019. Dispõe sobre a obrigatoriedade de concessionários do serviço público de administração de terminais rodoviários, instalação de câmeras de segurança com tecnologia de reconhecimento facial de suspeitos e procurados da justiça nos locais que determina e dá outras providências. Deputado Vandro Familia. Rio de Janeiro, RJ. Disponível em: http://alerjln1.alerj.rj.gov.br/scpro1923.nsf/0c5bf5cde95601f903256caa0023131b/5db5f3d2098193ca832583d100739827?OpenDocument&Highlight=0,341%2F2019. Acesso em 29 abr. 2021.

______. Assembleia Legislativa. Projeto de Lei n° 342, de 2019. Dispõe sobre a obrigatoriedade de concessionários do serviço público de metrô, trens e barcas, instalação de câmaras de segurança com tecnologia de reconhecimento facial de suspeitos e procurados da justiça nos locais que determina e dá outras providências. Deputado Vandro Familia. Rio de Janeiro, RJ. Disponível em: http://alerjln1.alerj.rj.gov.br/scpro1923.nsf/e00a7c3c8652b69a83256cca00646ee5/ea3643862a7c5ce2832583d100740275?OpenDocument. Acesso em 29 abr. 2021.

______. Assembleia Legislativa. Projeto de Lei n° 607, de 2019. Torna obrigatória a instalação de câmeras de monitoramento com reconhecimento facial em todas as praças de pedágios, no âmbito do estado do Rio de Janeiro. Deputado Sergio Louback. Rio de Janeiro, RJ. Disponível em: http://alerjln1.alerj.rj.gov.br/scpro1923.nsf/e00a7c3c8652b69a83256cca00646ee5/051ddc6638919505832584010064da36?OpenDocument, Acesso em 29 abr. 2021.

______. Assembleia Legislativa. Projeto de Lei n°853, de 2019. Veda a negociação e comercialização de produtos e serviços no interior dos vagões e embarcações dos transportes públicos do Estado do Rio de Janeiro na forma que menciona. Deputado Anderson Moraes. Rio de Janeiro, RJ. Disponível em: http://alerjln1.alerj.rj.gov.br/scpro1923.nsf/18c1dd68f96be3e7832566ec0018d833/85f4bde0acc7c0f783258426006119f4?OpenDocument. Acesso em 29 abr. 2021.

SAKAI, Juliana; GALDINO, Manoel; BURG, Tamara. Recomendações de Governança: Uso de Inteligência Artificial pelo Poder Público. 2020. Disponível em: https://www.transparencia.org.br/downloads/publicacoes/Recomendacoes_Governanca_Uso_IA_PoderPublico.pdf. Acesso em: 20 mar 2021

SÃO PAULO. Assembleia Legislativa. Projeto de Lei n° 865, de 2019. Torna obrigatória a instalação de câmeras de reconhecimento facial em todas as estações do Metrô e da CPTM, bem como no interior dos vagões das composições. Deputado Rodrigo Gambale. São Paulo, SP. Disponível em: https://www.al.sp.gov.br/propositura/?id=1000278098. Acesso em 29 abr. 2021.

SIMÕES-GOMES, Letícia; ROBERTO, Enrico; MENDONÇA, Jônatas. Viés algorítmico - um balanço provisório. Estud. sociol., Araraquara, v. 25, n. 48, jan/jun, 2020. Disponível em: https://periodicos.fclar.unesp.br/estudos/article/view/13402. Acesso em: 10 abr. 2021.

STRANDBURG, Katherine J. Rulemaking and inscrutable automated decision tools. Columbia Law Review, v. 119, n. 7, p. 1851-1886, 2019. Disponível em: https://www.jstor.org/stable/26810852?seq=1. Acesso em: 11 abr. 2021.

THIEME, Nick. We are Hard-Coding Injustices for Generations to Come. 2018. Disponível em: https://undark.org/2018/02/20/ai-watchdog-computational-justice/. Acesso em: 17 abr. 2021.

THOMAS, Nye; CHOCHLA, Erin; LINDSAY, Susie. Law Commission of Ontario, Regulating AI: Critical Issues and Choices. Toronto. 2021. Disponível em: https://www.lco-cdo.org/wp-content/uploads/2021/04/LCO-Regulating-AI-Critical-Issues-and-Choices-Toronto-April-2021-1.pdf. Acesso em 10 mai. 2021.

UE. Comunicação da Comissão ao Parlamento Europeu, ao Conselho Europeu, ao Conselho, ao Comité Económico e Social Europeu e ao Comité das Regiões — Inteligência artificial para a Europa, Bruxelas, 25.4.2018 [COM(2018) 237 final]. Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/PDF/?uri=CELEX:52018DC0237&from=EN. Acesso em 29 abr. 2021.