ALGORITHMIC DISCRIMINATION AND CORPORATE AND INDIVIDUAL RESPONSIBILITY IN ITS MITIGATION:

THE ROLE OF ESG GUIDELINES, COMPLIANCE AND THE UN 2030 AGENDA

Authors

  • Rayza Ribeiro Oliveira Universidade Tiradentes
  • Danila Leite Almeida de Sá Fundação Universitária Iberoamericana - FUNIBER
  • Stephanny Resende de Melo Universidade Tiradentes

Keywords:

Algorithms, Algorithmic discrimination, Compliance, ESG, UN 2030 AgendA

Abstract

This article seeks to address the issue of algorithmic discrimination resulting from the underrepresentation of algorithm reference data in the face of discriminatory biases of race, gender, social class and others, in the context of digital transformations presented in current times. The article aims to highlight the necessary mitigation of the incidence of algorithmic discrimination based on understanding the role of ESG guidelines, on the rise in Brazil, compliance and corporate and individual responsibility, in line with the UN 2030 Agenda. This time, we start from the definition of algorithms and algorithmic discrimination in the face of discriminatory biases to then present the necessary change in behavior regarding discriminations rooted in society and introjected into the digital environment; extending to the emphasis on ESG guidelines and compliance in order to improve corporate governance, culminating in the perspective of the need for broad stakeholder involvement in the responsibility for mitigating discrimination, in line with the UN Sustainable Development Goals. The methodology presents research with a qualitative approach, of a basic nature, with bibliographic and documentary procedures, based on the selection of books and scientific-academic texts in databases, such as Google Scholar and Scielo, using descriptors such as “algorithmic discrimination”, “Discriminatory biases in algorithms”, “ESG and algorithms”, “ESG and compliance” and “Agenda 2030 and social responsibility”.

Downloads

Download data is not yet available.

Author Biographies

Rayza Ribeiro Oliveira, Universidade Tiradentes

Doutoranda e Mestra, com bolsa CAPES, pelo Programa de Pós-Graduação em Direitos Humanos da Universidade Tiradentes – SE. Especialista em Direito Urbanístico e Ambiental pela Pontifícia Universidade Católica de Minas Gerais (PUC/MG). Graduada em Direito pela Universidade Tiradentes (UNIT). Docente licenciada do Curso de Direito do Centro Universitário Estácio de Sergipe. Advogada. Idealizadora do Curso Stricto Sensu. Coordenadora do Grupo de Estudos em Direitos Humanos, Ambiente e Sustentabilidade (GEDHAS) e pesquisadora da linha "Direitos Humanos, Ambiente e Sustentabilidade" do Grupo de Pesquisa "Direitos Fundamentais, Novos Direitos e Evolução Social" e do Grupo de Pesquisa "Direito, Políticas Públicas e Inovação".

Danila Leite Almeida de Sá, Fundação Universitária Iberoamericana - FUNIBER

Advogada. Especialista em Direito Civil e Processo Civil. Mestranda em Direito e Negócios Internacionais pela Universidad Europea Del Atlántico. Sócia Júnior do Escritório Lisbôa Prado, Pereira & Lima Advocacia. Associada do Instituto Brasileiro do Direito das Famílias - IBDFAM e Membro da Comissão de Família e Tecnologia – IBDFAMTEC. Professora Colaboradora Voluntária da Universidade Federal de Sergipe – UFS.

Stephanny Resende de Melo, Universidade Tiradentes

Mestra pelo Programa de Pós-Graduação em Direitos Humanos da Universidade Tiradentes – SE. Especialista em Direito Penal e Processo Penal pela EBRADI. Especialista em Direito Internacional pelo Instituto Damásio de Direito. Graduada em Direito pelo Centro Universitário Estácio de Sergipe. Integrante do Grupo de Pesquisa em Direitos Fundamentais, Novos Direitos e Evolução Social (dgp.cnpq.br/dgp/espelhogrupo/7004133565949592), com linha de pesquisa em Fraternidade e Novas Tecnologias Coordenadora Adjunta do IBCCRIM/SE Idealizadora do curso de Direito e Prática Jurídica, Stricto Sensu. Advogada.

References

ALMEIDA, Silvio. Racismo estrutural. Coleção Feminismos Plurais. São Paulo: Pólen, 2019.

ALMEIDA, Virgilio A. F.; DONEDA, Danilo. O que é a governança dos algoritmos? In: BRUNO, Fernanda; CARDOSO, Bruno; KANASHIRO, Marta; GUILHON, Luciana; MELGACO, Lucas (Org.). Tecnopolíticas de vigilância: perspectivas da margem. São Paulo: Boitempo, 2018.

ALPAYDIN, Ethem. Machine Learning: The New Al. Cambridge, MA: The MIT Press, 2016.

BANDINI, Adriano. Neurociência. In: AMATO, Luciano (Coord.). Diversidade e inclusão em suas dimensões. São Paulo: Literare Books International, 2022.

BHARGAVA, Aditya Y. Entendendo algoritmos: um guia ilustrativo para programadores e outros curiosos. Tradução de BrodTec. São Paulo: Novatec, 2017.

BRASIL. MDS. Transformando Nosso Mundo: A Agenda 2030 para o Desenvolvimento Sustentável. 2015. Disponível em: https://www.mds.gov.br/webarquivos/publicacao/Brasil_Amigo_Pesso_Idosa/Agenda2030.pdf. Acesso em: 28 out. 2023.

BUGHIN, Jacques; HAZAN, Eric. The new spring of artificial intelligence: a few carly economies. VoxEu, 2017. Disponível em: https://cepr.org/voxeu/columns/new-spring-artificial-intelligence-few-early-economies. Acesso em: 16 out. 2023.

BUOLAMWINI, Joy; GEBRU, Timnit. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, PMLR, n. 81, p. 77-91. 2018. Disponível em: http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf. Acesso em: 20 out. 2023.

CARRERA, Fernanda. Racismo e sexismo em bancos de imagens digitais: análise de resultados de busca e atribuição de relevância na dimensão financeira/profissional. In: Comunidades, algoritmos e ativismos digitais. Tarcízio Silva (Org.) São Paulo: LiteraRua, 2020.

CARVALHO, Larisse Santos Cabral de Oliveira; NICODEMO, Leonardo Pivotto. Manual de boas práticas em compliance ESG: estratégias para a sustentabilidade na cadeia de valor da energia eólica. 1 ed. Parnamirim: Ed. da autora, 2022.

CORREA, Bianca Kremer Nogueira. Direito e tecnologia em perspectiva amefricana: autonomia, algoritmos e vieses raciais. 2021. Tese (Doutorado em Direito) – Pontifícia Universidade Católica (PUC), Rio de Janeiro, 2021. pág.191. Disponível em: https://www.maxwell.vrac.puc-rio.br/58993/58993.PDF. Acesso em: 19 out. 2023.

CURZIO, Paulo Henrique. Caminhos para a equidade LGBTQIAP+ nas empresas. p. 187-192. In: AMATO, Luciano (Coord.). Diversidade e inclusão em suas dimensões. São Paulo: Literare Books International, 2022.

DA SILVA, Nilton Correia. Inteligência Artificial. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (coord.). Inteligência artificial e direito: ética, regulação e responsabilidade. São Paulo: Thomson Reutters Brasil, 2019.

DATATYLSINET. Artificial intelligence and privacy report. The Norwegian Data Protection Authority, 2018. Disponível em: https://www.datatilsynet.no/globalassets/global/english/ai-and-privacy.pdf. Acesso em: 29 out. 2023.

FREITAS, Juarez; FREITAS, Thomas Bellini. Direito e Inteligência Artificial: em defesa do humano. Belo Horizonte: Fórum, 2020.

GABRIEL, Martha. Inteligência artificial: do zero ao metaverso. 1 ed. 2 reimp. Barueri: Atlas, 2024.

KAUFMAN, Dora. Desmistificando a inteligência artificial. Belo Horizonte, Autentica, 2022.

KÖLLING, Gabrielle Jacobi; ANDRADE, Gernardes Silva; PEIXOTO, Mayra Rody. ESG: Empreendorismo Sustentável e as perspectivas da indústria 4.0 no agronegócio. Revista DNS – Direito, Negócios & Sociedade, Santo André, vol. 2, n. 3, p. 20-31, jan/jul, 2022. Disponível em: https://portalderevistas.esags.edu.br/index.php/DNS/article/view/37. Acesso em: 28 out. 2023.

LEC. Legal, Ethics, Compliance. A evolução do ESG e o papel do compliance. 10 ago. 2021. Disponível em: https://lec.com.br/a-evolucao-do-esg-e-o-papel-do-compliance-2/. Acesso em: 30 out. 2023.

LESLIE, David. Understanding bias in facial recognition technologies: an explainer. The Alan Turing Institute, 2020. Disponível em: https://arxiv.org/ftp/arxiv/papers/2010/2010.07023.pdf. Acesso em: 28 out. 2023.

MULHOLLAND, Cailtin. Responsabilidade civil e processos decisórios autônomos. In: FRAZÃO, Ana; MULHOLLAND, Caitlin (Coord.). Inteligência artificial e Direito: ética, regulação e responsabilidade. 2. ed. São Paulo: Ed. Revista dos Tribunais, 2020.

O’NEIL, Cathy. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia. Trad. Rafael Abraham. 1. ed. Santo André: Rua do Sabão, 2020.

OSOBA, Osonde A.; WELSER IV, William. An intelligence in our image: The risks of bias and errors in artificial intelligence. Rand Corporation, 2017.

PIRES, Thula. Por um constitucionalismo ladino amefricano. In: Decolonialidade e pensamento afrodiasporico. BERNARDINO-COSTA, Joaze; MALDONADOTORRES, Nelson; GROSFOGUEL, Ramon. (Org.) Belo Horizonte: Autentica Editora, 2018.

RIBEIRO, Djamila. Pequeno manual antirracista. 1 ed. São Paulo: Companhia das Letras, 2019.

SALES, Ricardo. Diversidade nas organizações: conceitos e histórico. In: AMATO, Luciano (Coord.). Diversidade e inclusão em suas dimensões. São Paulo: Literare Books International, p. 11-15, 2022.

SCHMIDT, Eric; HUTTENLOCHER, Daniel; KISSINGER, Henry A. A era da IA e nosso futuro como humanos. Tradução de Vanessa Schreiner. Rio de Janeiro: Atla Books, 2023.

SILVA, Tarcízio. Linha do Tempo do Racismo Algorítmico. Blog do Tarcízio Silva, 2019. Disponível em: https://tarciziosilva.com.br/blog/posts/racismo-algoritmico-linha-do-tempo. Acesso em: 28 out. 2023.

SILVA, Tarcízio. Racismo algorítmico em plataformas digitais: microagressões e discriminação em código. In: Comunidades, algoritmos e ativismos digitais. Tarcízio Silva (Org.) São Paulo: Litera Rua, 2020.

WALKER, Joshua. On legal AI: um rápido tratado sobre a inteligência artificial no direito. WALKER, Joshua; COELHO, Alexandre Zavaglia Pereira; FEFERBAUM, Marina; DA SILVA, Alexandre Pacheco (cord.). São Paulo: Thomson Reuters Brasil, 2021.

YAMASAKI, Beatriz Maximo; SCATOLIN, Carolina Lanzini. ESG e Compliance: benefícios de sua aplicação nas pequenas e médias empresas. J2 – Jornal Jurídico, vol. 6, n.2, p. 79-88, 2023. Disponível em: https://revistas.ponteditora.org/index.php/j2/article/view/776. Acesso em: 30 out. 2023.

Published

2024-01-22

How to Cite

Ribeiro Oliveira, R., Leite Almeida de Sá, D., & Resende de Melo, S. (2024). ALGORITHMIC DISCRIMINATION AND CORPORATE AND INDIVIDUAL RESPONSIBILITY IN ITS MITIGATION:: THE ROLE OF ESG GUIDELINES, COMPLIANCE AND THE UN 2030 AGENDA. Revista Eletrônica Direito & TI, 1(17), 80–97. Retrieved from https://direitoeti.emnuvens.com.br/direitoeti/article/view/180