SYRI:
UM MARCO NA PROTEÇÃO DOS DIREITOS HUMANOS NA ERA DA INTELIGÊNCIA ARTIFICIAL
Palavras-chave:
Proteção de dados, Privacidade, Algoritmo, Vieses, Poder JudiciárioResumo
Em 2020, o uso do SyRI foi proibido pelo tribunal holandês, marcando um dos primeiros casos de interrupção de um sistema de inteligência artificial para preservar os direitos humanos. Este artigo propõe analisar o referido caso, identificando as violações dos direitos humanos durante seu uso, contextualizando tais transgressões à luz da legislação e da jurisprudência brasileira. Através de uma abordagem metodológica dedutiva, empregando pesquisa indireta embasada em revisão bibliográfica e documental, o estudo analisa o sistema de tecnologia e, subsequentemente, o veredicto da corte. São identificados os direitos humanos violados, seguido por uma análise da proteção desses mesmos direitos no contexto brasileiro. Como conclusão, verifica-se que o Brasil dispõe de uma legislação e jurisprudência em consonância com as normas europeias.
Downloads
Referências
ALGORITHM WATCH. SYRI: A digital welfarestate experiment. 2020 Disponível em: https://algorithmwatch.org/en/syri-netherlands-algorithm/. Acesso em: 31 ago. 2023.
APPELMAN, Naomi; FATHAIGH, Ronan O.; VAN HOBOKEN, Joris. Social Welfare, Risk Profiling and Fundamental Rights: The Case of SyRI in theNetherlands. J. Intell. Prop. Info. Tech. &Elec. Com. L., v. 12, p. 257, 2021.
BEKKER, S. Digital Welfare States: Boundaries and Opportunities. Social Europe. Disponível em: https://www.socialeurope.eu/digital-welfare-states-boundaries-and-opportunities. Acesso em: 31 ago. 2023.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018.Dispõesobre a proteção de dados pessoais e altera a Lei nº 12.965/2014 (Marco Civil da Internet). Diário Oficial da União, Brasília, DF, 15 ago. 2018.
BRASIL. Supremo Tribunal Federal. Ação Direta de Inconstitucionalidade nº 6387 Medida Cautelar-Referendo. Relatora Ministra Rosa Weber. Tribunal Pleno. Julgado em 07/05/2020. Diário da Justiça Eletrônico, nº 270, Divulgação em 11-11-2020, Publicação em 12-11-2020a. Processo Eletrônico.
BRASIL. Medida Provisória nº 954/2020.Dispõe sobre o compartilhamento de dados por empresas de telecomunicações prestadoras de Serviço Telefônico Fixo Comutado e de Serviço Móvel Pessoal com a Fundação Instituto Brasileiro de Geografia e Estatística. Diário Oficial da União, Brasília, DF, 17 abr. 2020b.
EKKER LEGAL. SyRI. 02 de fevereiro de 2020. Disponível em: https://ekker.legal/en/2020/02/02/syri/. Acesso em: 31 ago. 2023.
HOLANDA. HAGUE DISTRICT COURT. Tribunal Distrital de Haia. Número do processo C-09-550982-HA ZA 18-388. Sentença foi proferida pelo Sr. MC Ritsema van Eck-van Drempt, Sr. JS Honée e Sr. HJ van Harten e pronunciada em audiência pública em 5 de fevereiro de 2020. Disponível em: https://uitspraken.rechtspraak.nl/#!/details?id=ECLI:NL:RBDHA:2020:1878. Acesso em: 31 ago. 2023.
HEIKKILÃ, Melissa. DutchScandal Serves as a Warning for EuropeoverRisks of UsingAlgorithms. 29 de março de 2022. Político. Disponível em: https://www.politico.eu/article/dutch-scandal-serves-as-a-warning-for-europe-over-risks-of-using-algorithms/. Acesso em: 31 ago 2023.
HUSSAIN, H. Human Rights Pulse. Dutch Court Finds SYRI Algorithm Violates Human Rights Norms in Landmark Case. Human Rights Pulse. 22 março de 2020. Disponível em: https://www.humanrightspulse.com/mastercontentblog/dutch-court-finds-syri-algorithm-violates-human-rights-norms-in-landmark-case. Acesso em: 31 ago. 2023.
LEITÃO, Rômulo Guilherme; BELCHIOR, Wilson Sales. Diretrizes Regulatórias para sistemas de inteligência artificial: análise documental das iniciativas dos Estados Unidos e União Europeia. Revista Eletrônica Direito e Sociedade-REDES, v. 10, n. 3, p. 187-204, 2022.
MORAIS JÚNIOR, Ricardo Maia de. Accountability e Direito Fundamental à proteção de dados pessoais enquanto limites ao uso da Inteligência Artificial na relação de emprego, 2023. Disponível em: https://www.academia.edu/108390065/Accountability_e_Direito_Fundamental_%C3%A0_prote%C3%A7%C3%A3o_de_dados_pessoais_enquanto_limites_ao_uso_da_Intelig%C3%AAncia_Artificial_na_rela%C3%A7%C3%A3o_de_emprego. Acesso em: 31. ago. 2023.
PARLAMENTO EUROPEU. Carta dos Direitos Fundamentais da União Europeia. 18 de dezembro de 2000. Jornal Oficial das Comunidades Europeias. Disponível em: https://www.europarl.europa.eu/charter/pdf/text_pt.pdf. Acesso em: 31 ago. 2023.
RACHOVITSA, Adamantia; JOHANN, Niclas. The human right simplications of the use of AI in the digital welfarestate: LessonslearnedfromtheDutchSyRI case. Human Rights Law Review, v. 22, n. 2, p. ngac010, 2022.
SARLET, Ingo Wolfgang; SAAVEDRA, Giovani Agostini. Fundamentos jusfilosóficos e âmbito de proteção do direito fundamental à proteção de dados pessoais. Revista Direito Público, Brasília, Volume 17, n. 93, 33-57, maio/jun. 2020.
SIMONITE, T. EuropeLimitsGovernment Use of AI. Wired. Disponível em: https://www.wired.com/story/europe-limits-government-algorithm-us-not-much/?mbid=social_twitter&utm_brand=wired&utm_campaign=wired&utm_medium=social&utm_social-type=owned&utm_source=twitter. Acesso em: 31 ago. 2023.
TOH, Amós. Dutch Ruling a Victory for Rights of the Poor. 06 de fevereiro de 2020. Human Rights Watch. Disponível em: https://www.hrw.org/news/2020/02/06/dutch-ruling-victory-rights-poor. Acesso em: 31 ago. 2023.
TOH, Amós. Welfare Surveillanceon Trial in the Netherlands. Can EuropeMakeIt?.08 de novembro de 2019. Disponível em: https://www.opendemocracy.net/en/can-europe-make-it/welfare-surveillance-trial-netherlands/. Acesso em: 31 ago. 2023.
UNIÃO EUROPEIA. Regulation (EU) 2016/679 (General Data Protection Regulation) do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados, e que revoga a Diretiva 95/46/CE (Regulamento Geral de Proteção de Dados). Disponível em: https://eur-lex.europa.eu/eli/reg/2016/679/oj
. Acesso em: 31 ago. 2023.
VAN BEKKUM, Marvin; BORGESIUS, FrederikZuiderveen. Digital welfare fraud detection and theDutch SyRI judgment. EuropeanJournal of Social Security, v. 23, n. 4, p. 323-340, 2021.
VAN VEEN, Christiaan. Landmark Judgment from the Netherlandson Digital Welfare Statesand Human Rights. 19 de março de 2020. Open Global Rights. Disponível em: https://www.openglobalrights.org/landmark-judgment-from-netherlands-on-digital-welfare-states/. Acesso em: 31 ago. 2023.
VAN VEEN, Christiaan. Profiling the Poor in the Dutch Welfare State. 1º de novembro de 2019. NYU Center for Human Right sand Global Justice. Disponível em: https://chrgj.org/2019/11/01/profiling-the-poor-in-the-dutch-welfare-state/. Acesso em: 31 ago. 2023.
