A autodeterminação informativa subjetiva e a influência de modelos obscuros de linguagem tecnológica

Autores

DOI:

https://doi.org/10.63451/ti.v1i20.228

Palavras-chave:

autodeterminação subjetiva, direitos de personalidade, linguagem tecnológica

Resumo

As grandes empresas de tecnologia desenvolvem modelos de linguagem, capturando atenção de seus usuários a fim de colher seus dados pessoais. Ao coletar esses dados, sobretudo os relacionais, é possível predizer comportamentos e influenciá-los. Uma das ferramentas usadas por essas empresas são os modelos obscuros de design manipulativo (dark pattern), que pode afetar a autonomia do indivíduo e, por conseguinte, sua capacidade de se autodeterminar. O objetivo dessa análise é averiguar em que medida a autodeterminação informativa subjetiva é atingida pelos padrões obscuros de manipulação de design, destacando sua nocividade e o correspondente papel de proteção do Direito. Utilizou-se o método hipotético-dedutivo, com análise dos modelos de design manipulativos, os quais formam a base para avaliar qualitativamente a hipótese. O trabalho valeu-se de pesquisa bibliográfica, considerando o alicerce multidisciplinar, em especial, o Direito, a Filosofia do Direito e a Tecnologia da Informação. Verificou-se que esses modelos de linguagem tecnológica podem manipular a autodeterminação subjetiva e, por conseguinte, colocar em risco os direitos de personalidade, que devem ser protegidos pelo Direito, colocando-se como questão futura se essa autodeterminação é passível de renúncia ou delegação.

Downloads

Não há dados estatísticos.

Biografia do Autor

Regina Linden Ruaro, Pontifícia Universidade Católica do Rio Grande do Sul

Doutora em Direito pela Universidad Complutense de Madrid e pela UFRGS. Pós-Doutora pela Universidad San Pablo CEU de Madrid. Professora Titular da Escola de Direito da PUC-RS. Procuradora Federal/AGU aposentada. Lidera o Grupo de Pesquisa Proteção de Dados Pessoais no Estado Democrático de Direito.

Plínio Gevezier Podolan, Pontifícia Universidade Católica do Rio Grande do Sul

Doutorando em Direito pela PUC-RS. Mestre em Direito pela UFMT. Professor da Escola da Magistratura do Trabalho e Juiz do Trabalho no TRT da 23ª Região.

Referências

ADORNO, Theodor W. Educação e emancipação. Tradução de Wolfgang Leo Maar. 3. ed. São Paulo: Paz e Terra, 2003.

ADORNO, Theodor; HORKHEIMER, Max. Dialética do esclarecimento: fragmentos filosóficos. Tradução de Guido Antonio de Almeida. Rio de Janeiro: Zahar, 1985.

ARENDT, Hannah (1906-1975). Origens do totalitarismo. Tradução Roberto Raposo. São Paulo: Companhia das Letras, 1989.

BITTAR, Eduardo C. B. A Teoria do Direito, a Era Digital e o Pós-Humano: o novo estatuto do corpo sob um regime tecnológico e a emergência do Sujeito Pós-Humano de Direito, 2019.

BRASIL. Câmara dos Deputados. Lei 13.709/2018 (Lei Geral de Proteção de Dados). Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Publicada em 14 ago. 2018. Acesso em 16 maio 2023.

BRASIL. Embrapa. Visão 2030: o futuro da agricultura brasileira. Brasília, DF: EMBRAPA, 2018.

BRASIL. Presidência da República. Decreto n.º 678, de 6 de novembro de 1992. Promulga a Convenção Americana de Direitos Humanos (Pacto de São José da Costa Rica), de 22 de novembro de 1969. Disponível em https://www.planalto.gov.br/ccivil_03/decreto/d0678.htm. Acesso em 28 jun. 2023.

BRASIL. Supremo Tribunal Federal. ADI 6387/DF. Publicado em 24 abr. 2020. Disponível em https://www.stf.jus.br/arquivo/cms/noticiaNoticiaStf/anexo/ADI6387MC.pdf. Acesso em 16 maio 2023.

CALONGA, Luiz Octavio Lanssoni; SOARES, Carla D.M.; Melo, Thiago Coelho de; MACHADO, Luciano Marchi. Pensa que me engana, eu finjo que acredito: padrões obscuros sob a perspectiva do usuário. XLVI Encontro da ANPAD. 21-23 set 2022. Disponível em http://anpad.com.br/uploads/articles/120/approved/8a88d5f412f2ad376f8597d28cbd3720.pdf. Acesso em 16 maio 2023.

COULDRY, Nick; MEJIAS, Ulisses. The costs of connection: how data is colonizing human life and appropriating it for capitalism. California: Stanford University Press, 2019.

CARVALHO, Felipe Rodolfo de. Outramente: o direito interpelado pelo rosto do Outro. Belo Horizonte, São Paulo: D´Plácido, 2021.

DAVENPORT, Thomas H.; BECK, John C. A economia da atenção. Tradução de Afonso Celso da Cunha. Rio de Janeiro: Campus, 2001.

GOMES, Laurentino. Escravidão: da independência do Brasil à Lei Áurea. V. 3. Rio de Janeiro: Globo Livros, 2022

GRAY, Colin M.; KOU, Yubo; BATTLES, Bryan; HOGGATT, Joseph; TOOMBS, Austin. The Dark (Pattern) Side of UX Design. CHI, Montreal, QC, Canada, April 21-26, 2018. Disponível em https://doi.org/10.1145/3173574.3174108. Acesso em 18 abr. 2023.

HAN, Byung-Chul (1959). Capitalismo e impulso de morte: ensaios e entrevistas. Tradução: Gabriel Salvi Philipson. Petropólis: RJ, Vozes, 2021.

HOFFMANN-RIEM, Wolfgang. Teoria Geral do Direito Digital: transformação digital: desafios para o Direito. Tradução de Italo Furrmann. 2 ed. Rio de Janeiro: Forense, 2022.

KANT, Immanuel. A metafísica dos costumes. 3. ed. Lisboa: Fundação Calouste Glubnekian, 2017.

KANT, Immanuel. Crítica da razão pura. Tradução Manuela Pinto dos Santos e Alexandre Fradique Morujão 5. ed. Lisboa: Fundação Calouste Gulbekian, 2001.

MENDES, Laura Schertel Ferreira. Autodeterminação informativa: a história de um conceito. Revista de Ciências Jurídicas Pensar. DOI: 10.5020/2317-2150.2020.10828. Fortaleza, v. 25, n. 4, p. 1-18, out./dez. 2020.

MOROZOV, Evgeny. Big Tech: a ascensão dos dados e a morte da política. Tradução de Cláudio Marcondes. São Paulo: Ubu Editora, 2018.

MOURA, Carolina Silva de; GOMES, Suely Henrique de Aquino. Com quem andas e com quem andarás: rastros digitais na algoritmização das relações. IX Simpósio Nacional ABCiber. Cibercultura, democracia e liberdade no Brasil. PUC São Paulo, dezembro de 2016.

MOURA, Débora Ferreira et al. Fear of missing out (FoMO), mídias sociais e ansiedade: uma revisão sistemática. Psicología, Conocimiento y Sociedad. v. 11 n. 3. Montevideo. Publicado em 01 dez. 2021. Disponível em https://doi.org/10.26864/pcs.v11.n3.7. Acesso em 28 jun. 2023.

PEIRANO, Marta. O inimigo conhece o sistema. Tradução de Ana Helena Oliveira. Santo André, 2022.

PELLUCHON, Corine. Por uma ética da vulnerabilidade. In: Vidas vulneráveis: ensaios de ética e filosofia dos direitos humanos. CARVALHO, Felipe Rodolfo de (Org.). Porto Alegre, RS: Editora FI, 2021

PIOVESAN, Denis. Plataformas de big data e inteligência artificial serão cada vez mais procuradas com a última fase do Open Finance. TI Inside. Disponível em https://tiinside.com.br/09/08/2022/plataformas-de-big-data-e-inteligencia-artificial-serao-cada-vez-mais-procuradas-com-a-ultima-fase-do-open-finance/. Publicado em 09 ago. 22. Acesso em 16 maio 2023.

RUARO, Regina Linden. Algumas reflexões em torno do RGPD, em especial quanto ao consentimento, com alusões à LGPD (um exercício interpretativo). Direitos Fundamentais & Justiça, Belo Horizonte, ano 14, n. 42, p. 219-249, jan./jun. 2020. Disponível em https://dfj.emnuvens.com.br/dfj/article/view/760. Acesso em 11 ago. 2023.

SARLET, Ingo Wolfgang; SARLET, Gabrielle Bezerra Sales. Algumas notas sobre a relação entre inteligência artificial, proteção de dados pessoais e os direitos fundamentais na ordem constitucional brasileira. In: Inteligência artificial e direito. Coordenador executivo Lucas Reckziegel Weschenfelder. Porto Alegre: Editora Fundação Fênix, 2023. Disponível em https://www.fundarfenix.com.br/_files/ugd/9b34d5_2950337010ed4af2be74f1c840a54db7.pdf. Acesso em 15 maio 2023.

SARLET, Ingo Wolfgang. A eficácia dos direitos fundamentais: uma teoria geral dos direitos fundamentais na perspectiva constitucional (e-book). 12. ed. Livraria do Advogado, 2014.

SILVA, Alexandre Pereira da. Os princípios das relações internacionais e os 25 anos da Constituição Federal. Revista de Informação Legislativa. Ano 50 Número 200 out./dez. 2013. Disponível em https://www12.senado.leg.br/ril/edicoes/50/200/ril_v50_n200_p15.pdf. Acesso em 16 maio 2023.

SOUZA, Ricardo Timm de. O pensamento e o outro, o outro do pensamento: a questão da alteridade em configurações contemporâneas. Porto Alegre: Zouk, 2022.

WEBER, Thadeu. Justiça e direitos fundamentais em debate. Porto Alegre: Editora Fundação Fênix, 2023. Disponível em file:///C:/Users/Usuario/Downloads/Obra%20-%20Justic%CC%A7a%20e%20direitos%20humanos%20em%20debate.pdf. Acesso em 15 maio 2023.

WEBER, Thadeu. Autonomia e dignidade da pessoa humana em Kant. Revista Brasileira de Direitos Fundamentais & Justiça, [S. l.], v. 3, n. 9, p. 232–259, 2009. DOI: 10.30899/dfj.v3i9.462. Disponível em: https://dfj.emnuvens.com.br/dfj/article/view/462. Acesso em 16 maio. 2023.

WILLIAM, James. Liberdade e resistência da economia da atenção: como evitar que as tecnologias digitais nos distraiam dos nossos verdadeiros propósitos. Tradução de Cristian Scwartz. Porto Alegre: Arquipélago, 2021.

Downloads

Publicado

06-03-2025

Como Citar

RUARO, R. L.; PODOLAN, P. G. A autodeterminação informativa subjetiva e a influência de modelos obscuros de linguagem tecnológica. Direito & TI, [S. l.], v. 1, n. 20, p. 1–30, 2025. DOI: 10.63451/ti.v1i20.228. Disponível em: https://direitoeti.emnuvens.com.br/direitoeti/article/view/228. Acesso em: 3 abr. 2025.

Edição

Seção

Artigos