“LIFE CENTERED AI” - SUSTENTABILIDADE AMBIENTAL, RACISMO AMBIENTAL E EPISTEMOLOGIAS DO SUL

Paola CANTARINI

Resumo


O presente artigo pretende endereçar as seguintes problemáticas, em uma abordagem interdisciplinar, holística, zetética, voltada à perspectiva de uma IA inclusiva, decolonial, sustentável e democrática, trazendo soluções concretas, aliando, portanto, a parte teórica com a prática: como poderá ser reduzido o impacto ambiental da  IA, e quais os principais desafios no Brasil como país do sul Global, quanto à proteção de direitos fundamentais de populações vulneráveis (indígenas e afrodescendentes); como promover a justiça social e inclusão social conjugando-se com os conceitos de “justiça de design”, “justiça algorítmica”, “justiça epistêmica”, justiça ambiental, e inclusão digital, por meio de modelos alternativos de governança de IA; como um modelo alternativo de governança de IA pode contribuir para se conjugar tais objetivos com a inovação e desenvolvimento tecnológico, aliando-se a inovação à ética ("metainnovation”) e à responsabilidade; de que forma o conceito de “human centered AI” e o “framework” apresentado voltado à proteção de direitos fundamentais e para o impacto ambiental, poderá contribuir para uma proteção adequada ao meio ambiente, evitando-se uma abordagem antropocêntrica, passando-se para uma compreensão mais holística e sustentável? Ainda busca trazer reflexões e contribuir para o debate acadêmico acerca de tais temáticas no Brasil, já que são praticamente inexistentes as abordagens voltadas aos impactos ambientais e quanto ao potencial de afronta da IA a todos os direitos fundamentais, ao contrário de documentos internacionais que já trazem tais temáticas.

 

Objetivos: Pretende-se abordar os problemas afetos à IA e seu impacto ambiental, e conceitos como de “justiça ambiental”, “racismo ambiental” e “justiça algorítmica”, os quais demandam uma abordagem crítica, interdisciplinar e, sobretudo, contextualizada, levando em consideração o aspecto sociocultural do Brasil e as “Epistemologias do Sul”, possuindo, pois um “ethos” abolicionista, inclusivo e decolonial. O artigo visa, pois, contribuir sobretudo para o “gap” de produção científica acerca das temáticas tratadas no Sul Global, havendo uma sub-representação do Brasil, bem como dos direitos fundamentais, já que muitas vezes se foca apenas no seu aspecto individual, esquecendo-se da sua múltipla dimensionalidade, que envolve também os aspectos coletivos e sociais. Visa-se contribuir para uma efetiva proteção aos direitos fundamentais afetados pela IA em sua múltipla dimensionalidade (individual, coletiva e social), bem como para a redução do impacto ambiental causado pela IA, evitando-se condutas como as denominadas “lavagem ética”, ou “green washing”, e em prol de uma sustentabilidade da IA.

 

Metodologia: A metodologia e as técnicas de investigação combinarão a investigação teórica, relacionando-se com a metodologia de Michel Foucault denominada de “teatro filosófico”, buscando-se uma visão interdisciplinar e holística, e uma epistemologia multifacetada.

 

Resultados: Buscou-se traçar as bases epistemológicas, hermenêuticas e metodológicas para a construção de um “framework” para a elaboração de um dos mais importantes instrumentos de “compliance” no âmbito da inteligência artificial, qual seja, a AIA – Avaliação de Impacto Algorítmico, com foco em direitos fundamentais em sua tríplice dimensionalidade envolvendo, pois os impactos ambientais diretos e indiretos causados pela IA, bem como levando em consideração as particularidades sócio-culturais do Brasil.

 

Contribuições: O artigo busca trazer contribuições para a construção de uma inteligência artificial antropófaga, ou tropicalista, no sentido do desenvolvimento de uma IA inclusiva, decolonial, democrática, multicultural, multidimensional e com foco nas Epistemologias do Sul, pós-eurocêntrica, apta a enfrentar os desafios e problemáticas apontadas. Pretende-se com isso contribuir para a proteção efetiva ao meio ambiente, consolidando-se o que se denomina de “life centered AI’, bem como para a adequada e sistêmica proteção a direitos fundamentais potencialmente afetados.

 

Palavras-Chave: “Life-centered AI”, “direitos fundamentais por design”, Estado de Direito desde a concepção

 

 

ABSTRACT
This article aims to address the following issues in an interdisciplinary, holistic, and zetetic approach, focused on the perspective of an inclusive, decolonial, sustainable, and democratic AI. It seeks to bring concrete solutions, thus combining the theoretical and practical aspects: how the environmental impact of AI can be reduced, and what are the main challenges in Brazil as a Global South country regarding the protection of fundamental rights of vulnerable populations (indigenous and Afro-descendant); how to promote social justice and social inclusion by combining the concepts of "design justice," "algorithmic justice," "epistemic justice," environmental justice, and digital inclusion through alternative models of AI governance; how an alternative AI governance model can contribute to combining these goals with innovation and technological development, aligning innovation with ethics ("metainnovation") and responsibility; how the concept of "human-centered AI" and the presented framework focused on the protection of fundamental rights and environmental impact can contribute to adequate environmental protection, avoiding an anthropocentric approach and moving towards a more holistic and sustainable understanding. It also seeks to bring reflections and contribute to the academic debate on these topics in Brazil, as there are practically no approaches focused on environmental impacts and the potential threat of AI to all fundamental rights, unlike international documents that already address these issues.

 

Objectives: The aim is to address issues related to AI and its environmental impact, as well as concepts such as "environmental justice," "environmental racism," and "algorithmic justice," which require a critical, interdisciplinary, and contextualized approach, considering the socio-cultural aspect of Brazil and the "Epistemologies of the South," thus having an abolitionist, inclusive, and decolonial "ethos." The article aims to contribute primarily to the gap in scientific production on the topics addressed in the Global South, with underrepresentation of Brazil, as well as fundamental rights, as it often focuses only on their individual aspect, forgetting their multiple dimensionality, which also involves collective and social aspects. The goal is to contribute to the effective protection of fundamental rights affected by AI in their multiple dimensionality (individual, collective, and social), as well as to reduce the environmental impact caused by AI, avoiding practices such as so-called "ethical washing" or "greenwashing" and in favor of AI sustainability.

 

Methodology: The methodology and investigative techniques will combine theoretical research, relating to Michel Foucault's methodology called "philosophical theater," seeking an interdisciplinary and holistic view, and a multifaceted epistemology.

 

Results: The aim was to trace the epistemological, hermeneutic, and methodological foundations for the construction of a framework for the development of one of the most important compliance instruments in the field of artificial intelligence, namely, the AIA – Algorithmic Impact Assessment. The focus is on fundamental rights in their three-dimensional nature, encompassing the direct and indirect environmental impacts caused by AI, as well as considering the socio-cultural particularities of Brazil.

Contributions: The article seeks to contribute to the construction of an anthropophagic or tropicalist artificial intelligence, in the sense of developing an inclusive, decolonial, democratic, multicultural, multidimensional AI with a focus on the Epistemologies of the South, post-Eurocentric, capable of addressing the challenges and issues pointed out. The goal is to contribute to the effective protection of the environment, consolidating what is called "life-centered AI," as well as the adequate protection of fundamental rights in this field.

 

Keywords: "Life-centered AI;" "fundamental rights by design;" Rule of Law from conception.


Palavras-chave


“Life-centered AI”; “direitos fundamentais por design”; Estado de Direito desde a concepção

Texto completo:

PDF

Referências


ADLER-MILSTEIN, Sarah et al. Stable Scheduling increases productivity and sales. The Stable Scheduling Study. San Francisco: The Center for WorkLife Law, 2018, http://worklifelaw.org/projects/ stable-scheduling-study/report/.

AI NOW INSTITUTE, “Report 2018”, disponível em https://ainowinstitute.org/publication/ai-now-2018-report-2.

ALBUQUERQUE, P.H.M. et al.. “Na era das máquinas, o emprego é de quem? Estimação da probabilidade de automação de ocupações no Brasil.”, Rio de Janeiro: Ipea, 2019. https://www.ipea.gov.br/portal/images/ stories/PDFs/TDs/190329_td_2457.pdf.

ANDRADE, Oswald de. O manifesto antropófago. In: TELES, Gilberto Mendonça. Vanguarda europeia e modernismo brasileiro: apresentação e crítica dos principais manifestos vanguardistas. 3a ed. Petrópolis: Vozes; Brasília: INL, 1976.

ANGWIN, Julia et al. “Machine Bias. Pro Publica”. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing.

ANTUNES. Ricardo. “Trabalho digital, “indústria 4.0” e uberização do trabalho”, em “O futuro do trabalho - os efeitos da revolução digital na sociedade”, Org. Rodrigo de Lacerda Carelli, Tiago M. Cavalcanti, Vanessa P. da Fonseca, Brasília: Escola Superior do Ministério Público da União, 2020.

ARBIX, Glauco. “Algoritmos não são inteligentes nem têm ética, nós temos”: a transparência no centro da construção de uma IA ética”, em “Inteligência artificial, avanços e tendências, org. Fabio G. Cozman, Guilherme Ary Plonski, Hugo Neri. São Paulo: Instituto de Estudos Avançados, 2021.

ATLASSIAN. Relatório de 2018 (Atlassian (2018). State of Diversity and Inclusion in U.S Tech: Stats Summary. https://www.atlassian.com/dam/jcr:c009637c- 1335-429d-9181-6a66685b712e/Atlassian_StateofDiversityTech_2018_StatsSummary.pdf.

BENJAMIN, Ruha. “Race After Technology: Abolitionist Tools for the New Jim Code”, Polity Press; Illustrated edição, 2019.

BIONI, Bruno, LUCIANO, Maria.“O princípio da precaução na regulação de IA: seriam as leis de proteção de dados o seu portal de entrada?”), https://brunobioni.com.br/home/wp-content/uploads/2019/09/Bioni-Luciano_O-PRINCÍPIO-DA-PRECAUÇÃO-PARA-REGULAÇÃO-DE-INTELIGÊNCIA-ARTIFICIAL-1.pdf.

BRADLEY, Charles, WINGFIELD, Richard. “National Artificial Intelligence Strategies and human Rights: A Review”, 04.2020, Global Digital Policy Incubator at the Stanford Cyber Policy Center.

BRYNJOLFSSON, E., MCAFEE, A. Race Against the Machine: How the Digital Revolution is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy. Massachusetts: Digital Frontier Press, 2011.

BROOKFIELD Institute (2019). Who Are Canada’s Tech Workers? https://brookfieldinstitute.ca/wp-content/uploads/FINAL- Tech-Workers-ONLINE.pdf.

CAMPOS MELLO, Patrícia. “Sul Global precisa agir rápido para não perder a soberania sobre seus dados, diz enviado da ONU”, Folha de São Paulo, 2023; https://www1.folha.uol.com.br/autores/patricia-campos-mello.shtml.

CAVOUKIAN, Ann.“Privacy by Design - The 7 Foundational Principles Implementation and Mapping of Fair Information Practices”, disponível em https://iab.org/wp-content/IAB-uploads/2011/03/fred_carter.pdf.

COECKELBERGH, Mark. “The Political Philosophy of AI- An Introduction”, Polity; 2022;

CEPAL. Agenda Digital para América Latina y el Caribe (2021). Séptima Conferencia Ministerial sobre la Sociedad de la Información de América Latina y el Caribe. https://www.cepal.org/sites/default/files/publication/files/46766/S2000991_es.pdf.

CHOCK, Costanza. “Design Justice, A.I., and Escape from the Matrix of Domination.” Journal of Design and Science (JoDS), 2018; http://dx.doi. org/10.21428/96c8d426.

COZMAN, Fabio, PLONSKI, Guilherme Ary, NERI, Hugo. “Inteligência artificial, avanços e tendências. São Paulo: Instituto de Estudos Avançados, 2021.

DAVIS, Angela, “Are Prisons Obsolete?”, Seven Stories Press”, 2011.

DAVIS, Angela. “Abolition Democracy. Beyond Empire, Prisons, and Torture”, Seven Stories Press,U.S., 2005.

DE STEFANO, Valerio. “Automação, inteligência artificial e proteção laboral: patrões algorítmicos e o que fazer com eles”, livro “O futuro do trabalho - os efeitos da revolução digital na sociedade”, org. Rodrigo de Lacerda Carelli, Tiago M. Cavalcanti, Vanessa P. da Fonseca, Brasília: Escola Superior do Ministério Público da União, 2020.

DEVELOPER SURVEY. Developer Profile. https://survey.stackoverflow.co/2023/#methodology- general.

EUROPEAN UNION AGENCY FOR FUNDAMENTAL RIGHTS. “Getting the future right - Artificial intelligence and fundamental rights”, da lavra da https://fra.europa.eu/sites/default/files/fra_uploads/fra-2020-artificial-intelligence_en.pdf.

FINGER, Marcelo. “Quando se compra Inteligência Artificial, o que de fato se leva para casa? Além do “oba-oba””, livro “Inteligência artificial, avanços e tendências, org. Fabio G. Cozman, Guilherme Ary Plonski, Hugo Neri. São Paulo: Instituto de Estudos Avançados, 2021.

FLORIDI, Luciano. “Onlife Manifesto - Being Human in a Hyperconnected Era”, Springer; 2015.

FREEDOM HOUSE. Relatório “Freedom in the world 2022 - The Global Expansion of Authoritarian Rule, 2021; https://freedomhouse.org.

FUSTER, A. &. “Predictably Unequal? The Effects of Machine Learning on Credit Markets” (77 (1) J Finance 4), New York: St. Martin's Press, 2018.

GLOBAL INDIGENOUS DATA ALLIANCE. “CARE Principles of Indigenous Data Governance”, reconhecendo a soberania de dados indígena, disponível emhttps://www.gida- global.org.

GRAY, Mary L., SURI, Siddharth. “Ghost Work”, Houghton Mifflin Harcourt, 2019.

HARARI, Yuval Noah. Homo Deus: uma breve história do amanhã. São Paulo: Companhia das Letras, 2016.

HILDEBRANDT, Mireille. “Smart Technologies and the End(s) of Law: Novel Entanglements of Law and Technology”, Edward Elgar Pub, 2015.

HOFFMANN-RIEM, Wolfgang. “Big data e inteligência artificial: desafios para o direito”, 6 Journal of institutional studies 2 (2020), Revista Estudos Institucionais, v. 6, n. 2, p. 431-506, maio/ago, 2020.

HUDSON, Maui et al. Indigenous Peoples’ Rights in Data: a contribution toward Indigenous Research Sovereignty. Frontiers in Research Metrics and Analytics, v. 8, p. 1173805, 2023.

HUWS, Ursula. “Labor in the Global Digital Economy: The Cybertariat Comes of Age”, New York: Monthly Review Press, 2014.

INTERNETLAB. Notícia, disponível em: https://internetlab.org.br/pt/noticias/drag-queens-e-inteligencia-artificial-computadores-devem-decidir-o-que-e-toxico-na-internet/.

Intergovernmental Panel on Climate Change. Climate Change 2021: The Physical Science Basis, Intergovernmental Panel on Climate Change, Working Group I (2021)..

Special Report: Global Warming of 1.5 oC, 2018.

ISAAC, William S., MOHAMED, Shakir, PNG, Marie. “Algorithmic oppression is rooted in the colonial project”, https://www.bostonreview.net/forum_response/decolonizing-ai/.

Kaack et al. Aligning artificial intelligence with climate change mitigation, 2021 (working paper).

LATIN AMERICA AND CARIBBEAN ECONOMIC SYSTEM (2020). COVID-19 and Digital Inclusion in Latin America and the Caribbean: A Connectivity and Access Problem. http://www.sela.org/en/press/articles/a/64488/covid-19-digital-inclusion-in-latin-america-and-the- caribbean.

LE LUDEC, Clément; CORNET, Maxime; CASILLI, Antonio A. The problem with annotation. Human labour and outsourcing between France and Madagascar. Big Data & Society, v. 10, n. 2, p. 1-13, 2023.

LEWIS, Jason Edward, ed. 2020. “Indigenous Protocol and Artificial Intelligence Position Paper”. Project Report. Indigenous Protocol and Artificial Intelligence Working Group and the Canadian Institute for Advanced Research, Honolulu, HI, 2020.

LUCCIONI, A. S., AKIKI, C., MITCHELL, M., & JERNITE, Y. “Stable bias: Analyzing societal representations in diffusion models”, 2023, < https://arxiv.org/abs/2303.11408>;

MARDA, V. “Inteligencia artificial: Una perspectiva desde el sur. América Latina en Movimiento”, 2019, https:// www.alainet.org/sites/default/files/alem545w.pdf.

MEJIAS, U. (2020). To fight data colonialism, we need a Non-aligned Tech Movement. Al Jazeera Opinion: Science and Technology. https://www.aljazeera.com/opinions/2020/9/8/to-fight-data-colonialism-we-need-a-non-aligned-tech-movement; Ortiz Freuler, J.

MENDES, Gilmar, FERNANDES, Victor Oliveira. “Constitucionalismo digital e jurisdição constitucional: uma agenda de pesquisa para o caso brasileiro”, https://seer.atitus.edu.br/index.php/revistadedireito/article/view/4103.

Mohamed et al. Decolonial AI: Decolonial Theory as Sociotechnical Foresight in Artificial Intelligence, (2020).

MORESCHI, Bruno. “Os reveladores erros das máquinas “inteligentes”, em “Inteligência artificial, avanços e tendências, org. Fabio G. Cozman, Guilherme Ary Plonski, Hugo Neri. São Paulo: Instituto de Estudos Avançados, 2021.

MORESCHI, B.; PEREIRA, G.; COZMAN, Fabio G. (2020). The brazilian workers in Amazon Mechanical Turk: Dreams and realities of ghost workers. Contracampo – Brazilian Journal of Communication, 39 (1), https://periodicos.uff.br/contracampo/article/view/38252.

OEA - Organização dos Estados Americanos. Relatório "Como promover o acesso universal à Internet durante a pandemia da COVID-19", https://www.oas.org/es/cidh/sacroi_covid19/documentos/03_guias_practicas_internet_ing.pdf.

OECD Working Papers on Public Governance No. 36: “Hello, World: Artificial intelligence and its use in the public sector”, Berryhill et al., 2019.

O’NEIL, Cathy. “Weapons of Math Destruction”, Crown Publishing Group, NY, 2016.

OPEN DEMOCRACY. “The case for a digital non-aligned movement. Open Democracy”. https://www.opendemocracy.net/ en/oureconomy/case-digital-non-aligned-movement/.

OSBORNE, M. A., FREY, C. B. The future of employment: how susceptible are jobs to computerization? Oxford: Oxford Martin, 2013. https://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf.

PARISIER, Eli, "O filtro invisível: o que a internet está escondendo de você”, Zahar, 2012;

PARLAMENTO EUROPEU. “Governing data and artificial intelligence for all - Models for sustainable and just data governance”, 2022, disponível em https://www.europarl.europa.eu/stoa/en/document/EPRS_STU(2022)729533.

PASQUALE, Frank. “The black box society: The secret algorithms that control money and information”, Harvard University Press, 2016.

PASQUINELLI, Matteo. “The Eye of the Master: Uma História Social da Inteligência Artificial”, Verso, 2023.

PIKETTY, Thomas. “O capital no século XXI”, Rio de Janeiro, Editora Intrínseca, 2014.

PROPUBLICA. New York: St. Martin's Press, 2018. Julia Angwin et al. “Machine Bias. Pro Publica”. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing.

RADFORD, A., KIM, J. W., XU, T., BROCKMAN, G., MCLEAVEY, C., & SUTSKEVER, I. Robust speech recognition via large-scale weak supervision. arXiv preprint arXiv:2212.04356, 2022.

ROBERTS, Jennafer Shae; MONTOYA, Laura N. Decolonisation, Global Data Law, and Indigenous Data Sovereignty. arXiv preprint arXiv:2208.04700, 2022.

The Royal Society (2020) and Computing research for the climate crisis, Bliss et al. Computational Sustainability: Computing for a better world and a sustainable future, Gomes et al. (2019).

Digital technology and the planet, 2021).

SCHUMPETER, Joseph A. “Capitalismo, socialismo e democracia, Editora Fundo de Cultura As, 1961.

SIBILIA, Paula. “Show do eu, a intimidade como espetáculo”, Contraponto, 2016;

SILVA, T. Teoria racial crítica e comunicação digital: Conexões contra a dupla opacidade. In: CONGRESSO BRASILEIRO DE CIÊNCIAS DA COMUNICAÇÃO, 42, 2019. Belém. Anais..., Belém, 2019.

STANFORD INSTITUTE FOR HUMAN-CENTERED AI. Relatório Artificial Intelligence Index 2023, Universidade de Stanford. https://aiindex.stanford.edu/report/#individual- chapters). Stack Overflow.

SOUSA SANTOS. “Epistemologias do Sul”. Coimbra: Edições Almedina, 2009;

TE MANA RARAUNGA. https://www.temanararaunga.maori.nz/.

ZUBOFF, Shoshana. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, PublicAffairs, 2020.

SRNICEK, Nick. Platform capitalism. Cambridge, UK; Malden, MA: Polity Press, 2016.

WHOSE KNOWLEDGE. “Decolonising the Internet", 2018, https://whoseknowledge.org/wp-content/uploads/2018/11/DTI-2018-Summary-Report.pdf.




DOI: http://dx.doi.org/10.26668/revistajur.2316-753X.v1i77.6768

Apontamentos

  • Não há apontamentos.




Revista Jurídica e-ISSN: 2316-753X

Rua Chile, 1678, Rebouças, Curitiba/PR (Brasil). CEP 80.220-181

Licença Creative Commons

Este obra está licenciado com uma Licença Creative Commons Atribuição-NãoComercial 4.0 Internacional.