DISCRIMINAÇÃO ALGORÍTMICA E A RESPONSABILIDADE EMPRESARIAL E INDIVIDUAL EM SUA MITIGAÇÃO:
O PAPEL DAS DIRETRIZES ESG, COMPLIANCE E AGENDA 2030 DA ONU
Palavras-chave:
Agenda 2030, Algoritmos, Compliance, discriminação algorítmica, ESGResumo
Este artigo busca abordar a temática da discriminação algorítmica decorrente da sub-representação dos dados de referências dos algoritmos diante de vieses discriminatórios de raça, gênero, classe social e outros, no contexto das transformações digitais apresentadas nos tempos atuais. O artigo propõe-se a destacar a necessária mitigação da incidência da discriminação algorítmica a partir da compreensão do papel das diretrizes ESG, em ascensão no Brasil, da compliance e da responsabilidade empresarial e individual, conforme alinhamento com a Agenda 2030 da ONU. Desta feita, parte-se da definição de algoritmos e de discriminação algorítmica diante dos vieses discriminatórios para, em seguida, apresentar a necessária mudança de comportamento acerca das discriminações enraizadas na sociedade e introjetadas no meio digital; perpassando para o destaque das diretrizes ESG e do compliance no sentido de aprimoramento da governança corporativa, culminando na perspectiva de necessidade de envolvimento amplo dos stakeholders na responsabilidade de mitigação de discriminações, alinhada aos Objetivos de Desenvolvimento Sustentável da ONU. A metodologia apresenta uma pesquisa de abordagem qualitativa, de natureza básica, com procedimentos bibliográfico e documental, a partir de seleção de livros e textos científico-acadêmicos em bases de dados, tais como Google Acadêmico e Scielo, mediante descritores como “discriminação algorítmica”, “vieses discriminatórios em algoritmos”, “ESG e algoritmos”, “ESG e compliance” e “Agenda 2030 e responsabilidade social”.
Downloads
Referências
ALMEIDA, Silvio. Racismo estrutural. Coleção Feminismos Plurais. São Paulo: Pólen, 2019.
ALMEIDA, Virgilio A. F.; DONEDA, Danilo. O que é a governança dos algoritmos? In: BRUNO, Fernanda; CARDOSO, Bruno; KANASHIRO, Marta; GUILHON, Luciana; MELGACO, Lucas (Org.). Tecnopolíticas de vigilância: perspectivas da margem. São Paulo: Boitempo, 2018.
ALPAYDIN, Ethem. Machine Learning: The New Al. Cambridge, MA: The MIT Press, 2016.
BANDINI, Adriano. Neurociência. In: AMATO, Luciano (Coord.). Diversidade e inclusão em suas dimensões. São Paulo: Literare Books International, 2022.
BHARGAVA, Aditya Y. Entendendo algoritmos: um guia ilustrativo para programadores e outros curiosos. Tradução de BrodTec. São Paulo: Novatec, 2017.
BRASIL. MDS. Transformando Nosso Mundo: A Agenda 2030 para o Desenvolvimento Sustentável. 2015. Disponível em: https://www.mds.gov.br/webarquivos/publicacao/Brasil_Amigo_Pesso_Idosa/Agenda2030.pdf. Acesso em: 28 out. 2023.
BUGHIN, Jacques; HAZAN, Eric. The new spring of artificial intelligence: a few carly economies. VoxEu, 2017. Disponível em: https://cepr.org/voxeu/columns/new-spring-artificial-intelligence-few-early-economies. Acesso em: 16 out. 2023.
BUOLAMWINI, Joy; GEBRU, Timnit. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, PMLR, n. 81, p. 77-91. 2018. Disponível em: http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf. Acesso em: 20 out. 2023.
CARRERA, Fernanda. Racismo e sexismo em bancos de imagens digitais: análise de resultados de busca e atribuição de relevância na dimensão financeira/profissional. In: Comunidades, algoritmos e ativismos digitais. Tarcízio Silva (Org.) São Paulo: LiteraRua, 2020.
CARVALHO, Larisse Santos Cabral de Oliveira; NICODEMO, Leonardo Pivotto. Manual de boas práticas em compliance ESG: estratégias para a sustentabilidade na cadeia de valor da energia eólica. 1 ed. Parnamirim: Ed. da autora, 2022.
CORREA, Bianca Kremer Nogueira. Direito e tecnologia em perspectiva amefricana: autonomia, algoritmos e vieses raciais. 2021. Tese (Doutorado em Direito) – Pontifícia Universidade Católica (PUC), Rio de Janeiro, 2021. pág.191. Disponível em: https://www.maxwell.vrac.puc-rio.br/58993/58993.PDF. Acesso em: 19 out. 2023.
CURZIO, Paulo Henrique. Caminhos para a equidade LGBTQIAP+ nas empresas. p. 187-192. In: AMATO, Luciano (Coord.). Diversidade e inclusão em suas dimensões. São Paulo: Literare Books International, 2022.
DA SILVA, Nilton Correia. Inteligência Artificial. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. São Paulo: Thomson Reutters Brasil, 2019.
DATATYLSINET. Artificial intelligence and privacy report. The Norwegian Data Protection Authority, 2018. Disponível em: https://www.datatilsynet.no/globalassets/global/english/ai-and-privacy.pdf. Acesso em: 29 out. 2023.
FREITAS, Juarez; FREITAS, Thomas Bellini. Direito e Inteligência Artificial: em defesa do humano. Belo Horizonte: Fórum, 2020.
GABRIEL, Martha. Inteligência artificial: do zero ao metaverso. 1 ed. 2 reimp. Barueri: Atlas, 2024.
KAUFMAN, Dora. Desmistificando a inteligência artificial. Belo Horizonte, Autentica, 2022.
KÖLLING, Gabrielle Jacobi; ANDRADE, Gernardes Silva; PEIXOTO, Mayra Rody. ESG: Empreendorismo Sustentável e as perspectivas da indústria 4.0 no agronegócio. Revista DNS – Direito, Negócios & Sociedade, Santo André, vol. 2, n. 3, p. 20-31, jan/jul, 2022. Disponível em: https://portalderevistas.esags.edu.br/index.php/DNS/article/view/37. Acesso em: 28 out. 2023.
LEC. Legal, Ethics, Compliance. A evolução do ESG e o papel do compliance. 10 ago. 2021. Disponível em: https://lec.com.br/a-evolucao-do-esg-e-o-papel-do-compliance-2/. Acesso em: 30 out. 2023.
LESLIE, David. Understanding bias in facial recognition technologies: an explainer. The Alan Turing Institute, 2020. Disponível em: https://arxiv.org/ftp/arxiv/papers/2010/2010.07023.pdf. Acesso em: 28 out. 2023.
MULHOLLAND, Cailtin. Responsabilidade civil e processos decisórios autônomos. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e Direito: ética, regulação e responsabilidade. 2. ed. São Paulo: Ed. Revista dos Tribunais, 2020.
O’NEIL, Cathy. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Trad. Rafael Abraham. 1. ed. Santo André: Rua do Sabão, 2020.
OSOBA, Osonde A.; WELSER IV, William. An intelligence in our image: The risks of bias and errors in artificial intelligence. Rand Corporation, 2017.
PIRES, Thula. Por um constitucionalismo ladino amefricano. In: Decolonialidade e pensamento afrodiasporico. BERNARDINO-COSTA, Joaze; MALDONADOTORRES, Nelson; GROSFOGUEL, Ramon. (Org.) Belo Horizonte: Autentica Editora, 2018.
RIBEIRO, Djamila. Pequeno manual antirracista. 1 ed. São Paulo: Companhia das Letras, 2019.
SALES, Ricardo. Diversidade nas organizações: conceitos e histórico. In: AMATO, Luciano (Coord.). Diversidade e inclusão em suas dimensões. São Paulo: Literare Books International, p. 11-15, 2022.
SCHMIDT, Eric; HUTTENLOCHER, Daniel; KISSINGER, Henry A. A era da IA e nosso futuro como humanos. Tradução de Vanessa Schreiner. Rio de Janeiro: Atla Books, 2023.
SILVA, Tarcízio. Linha do Tempo do Racismo Algorítmico. Blog do Tarcízio Silva, 2019. Disponível em: https://tarciziosilva.com.br/blog/posts/racismo-algoritmico-linha-do-tempo. Acesso em: 28 out. 2023.
SILVA, Tarcízio. Racismo algorítmico em plataformas digitais: microagressões e discriminação em código. In: Comunidades, algoritmos e ativismos digitais. Tarcízio Silva (Org.) São Paulo: Litera Rua, 2020.
WALKER, Joshua. On legal AI: um rápido tratado sobre a inteligência artificial no direito. WALKER, Joshua; COELHO, Alexandre Zavaglia Pereira; FEFERBAUM, Marina; DA SILVA, Alexandre Pacheco (cord.). São Paulo: Thomson Reuters Brasil, 2021.
YAMASAKI, Beatriz Maximo; SCATOLIN, Carolina Lanzini. ESG e Compliance: benefícios de sua aplicação nas pequenas e médias empresas. J2 – Jornal Jurídico, vol. 6, n.2, p. 79-88, 2023. Disponível em: https://revistas.ponteditora.org/index.php/j2/article/view/776. Acesso em: 30 out. 2023.