NOVAS FORMAS DE RESISTÊNCIA DECOLONIAL - CASO DO “GHOST WORK” E O “BIG DATA”

Paola CANTARINI

Abstract


RESUMO: O artigo busca refletir de forma crítica e interdisciplinar acerca dos impactos da IA nunca antes visto na história humana com relação ao futuro do trabalho, trazendo um alto potencial de substituição do trabalho humano não apenas em tarefas simples e rotineiras como no caso da automação, mas de um espectro muito mais amplo e sem precedentes, bem como acerca de fenômenos correlatos como uma maior concentração de renda na nova fase da IA, e o surgimento, outrossim, de um novo subprecariado, como nos casos das denominadas “Plafaformas austeras ou de trabalho” (Uber, Airbnb, TaskRabbit e Mechanical Turk), em uma nova classe de pessoas inúteis. Ainda busca trazer reflexões e contribuir para o debate acadêmico acerca do exemplo paradigmático da crescente precariedade do trabalho como no caso dos denominados “trabalhadores fantasmas” ou “zeladores de dados”, essenciais para a área de inteligência artificial, mas invisibilizados e sem qualquer proteção trabalhista, também denominados pela literatura de “cibertariado”.

Objetivos: Os problemas afetos à IA, em nossa sociedade datificada e hipercomplexa, na atual economia de dados (“data-driven economy”), são inéditos, demandando uma abordagem e solução contextualizadas, levando em consideração o aspecto sócio-cultural específico. O artigo visa, pois, contribuir sobretudo para o “gap” de produção científica e interdisciplinar do Sul Global acerca de tais temáticas, em uma verdadeira sub-representação, fugindo-se de abordagens utópicas ou distópicas, e contribuindo para uma abordagem na linha das teorias críticas, falando-se, no lugar de cidadania e democracia digitais, em novas formas de apartheid social (Paula Sibilia), e da “refeudalização”, sendo o caso trabalhadores fantasmas, do Sul Global paradigmático neste sentido. Por fim, visa-se abordar as novas formas de resistência às novas formas de colonialismo, vigilância e exploração.

Metodologia: A metodologia e as técnicas de investigação combinarão a investigação teórica, relacionando-se com a metodologia de Michel Foucault denominada de “teatro filosófico”, buscando-se uma visão interdisciplinar e holística, e uma epistemologia multifacetada.

Resultados: Buscou-se traçar as bases epistemológicas, hermenêuticas e metodológicas para a construção de uma inteligência artificial antropófaga, ou tropicalista, no sentido do desenvolvimento de uma IA inclusiva, democrática, multicultural, multidimensional e com foco nas Epistemologias do Sul, pós-eurocêntrica, apta a enfrentar os desafios colocados pelas teorias críticas destacadas. Da mesma forma enfrentando tais problemáticas por meio de estudo científico praticamente inexistente no país quanto à temática específica dos trabalhadores fantasmas, pretende-se dar maior visibilidade aos mesmos, e ao mesmo tempo contribuir para o debate acadêmico, já que há ausência de estudos científicos acerca de tal temática.

Contribuições: O artigo busca trazer contribuições para a construção de uma inteligência artificial antropófaga, ou tropicalista, no sentido do desenvolvimento de uma IA inclusiva, democrática, multicultural, multidimensional e com foco nas Epistemologias do Sul, pós-eurocêntrica, apta a enfrentar os desafios colocados pelas teorias críticas destacadas. Outrossim, visa-se dar voz aos trabalhadores fantasmas, enfatizando a problemática tratada, e sugerindo algumas alternativas de novas formas de resistência ao que vem sendo denominado de novo colonialismo, o colonialismo de dados.

Palavras-Chave: Inteligência artificial. Epistemologias do Sul. Trabalhadores fantasmas. Novo colonialismo. Colonialismo de dados

ABSTRACT: This article seeks to critically and interdisciplinarily reflect on the unprecedented impacts of AI in human history concerning the future of work, bringing a high potential for the substitution of human labor not only in simple and routine tasks, as in the case of automation, but across a much broader and unprecedented spectrum. It also explores related phenomena such as increased income concentration in the new phase of AI and the emergence of a new subprecariat, as seen in cases of so-called "austere or gig platforms" (Uber, Airbnb, TaskRabbit, and Mechanical Turk), creating a new class of marginalized individuals. The article further aims to contribute to academic debate regarding the paradigmatic example of the growing precariousness of work, such as the cases of "ghost workers" or "data janitors," essential to the field of artificial intelligence but invisible and lacking labor protections, also referred to in literature as "cyberproletariat."

Objectives: The issues related to AI in our datified and hypercomplex society, in the current data-driven economy, are unprecedented, demanding a contextualized approach and solution, taking into account the specific socio-cultural aspect. The article seeks to contribute primarily to the scientific and interdisciplinary gap in the Global South on such themes, avoiding utopian or dystopian approaches and leaning towards critical theories. Instead of discussing digital citizenship and democracy, the article introduces new forms of social apartheid (Paula Sibilia) and "refeudalization," with ghost workers in the Global South being paradigmatic in this regard. Finally, it aims to address new forms of resistance to new forms of colonialism, surveillance, and exploitation.

Methodology: The methodology and investigative techniques will combine theoretical research, relating to Michel Foucault's methodology called "philosophical theater," aiming for an interdisciplinary and holistic view and a multifaceted epistemology.

Results: The article sought to lay the epistemological, hermeneutic, and methodological foundations for the construction of a cannibalistic or tropicalist artificial intelligence, in the sense of developing an inclusive, democratic, multicultural, multidimensional AI with a focus on Southern Epistemologies, post-Eurocentric, capable of addressing the challenges posed by highlighted critical theories. Similarly, addressing these issues through virtually non-existent scientific studies in the country on the specific theme of ghost workers aims to give them greater visibility and contribute to academic debate, as there is a lack of scientific studies on this topic.

Contributions: The article seeks to contribute to the construction of a cannibalistic or tropicalist artificial intelligence, in the sense of developing an inclusive, democratic, multicultural, multidimensional AI with a focus on Southern Epistemologies, post-Eurocentric, capable of addressing the challenges posed by highlighted critical theories. Additionally, it aims to give a voice to ghost workers, emphasizing the addressed issue and suggesting alternative forms of resistance to what is being termed as a new colonialism, the colonialism of data.

Keywords: Artificial intelligence; Southern Epistemologies; Ghost workers; New colonialism; Data colonialism.


 

 

Keywords


Inteligência artificial; Epistemologias do Sul; Trabalhadores fantasmas; Novo colonialismo; Colonialismo de dados

References


ADLER-MILSTEIN, Sarah et al. Stable Scheduling increases productivity and sales. The Stable Scheduling Study. San Francisco: The Center for WorkLife Law, 2018, http://worklifelaw.org/projects/ stable-scheduling-study/report/;

AI NOW INSTITUTE, “Report 2018”, disponível em https://ainowinstitute.org/publication/ai-now-2018-report-2;

ALBUQUERQUE, P.H.M. et al.. “Na era das máquinas, o emprego é de quem? Estimação da probabilidade de automação de ocupações no Brasil.”, Rio de Janeiro: Ipea, 2019. < https://www.ipea.gov.br/portal/images/ stories/PDFs/TDs/190329_td_2457.pdf >;

ANDRADE, Oswald de. O manifesto antropófago. In: TELES, Gilberto Mendonça. Vanguarda europeia e modernismo brasileiro: apresentação e crítica dos principais manifestos vanguardistas. 3a ed. Petrópolis: Vozes; Brasília: INL, 1976;

ANGWIN, Julia et al. “Machine Bias. Pro Publica”. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing;

ANTUNES. Ricardo. “Trabalho digital, “indústria 4.0” e uberização do trabalho”, em “O futuro do trabalho - os efeitos da revolução digital na sociedade”, Org. Rodrigo de Lacerda Carelli, Tiago M. Cavalcanti, Vanessa P. da Fonseca, Brasília: Escola Superior do Ministério Público da União, 2020;

ARBIX, Glauco. “Algoritmos não são inteligentes nem têm ética, nós temos”: a transparência no centro da construção de uma IA ética”, em “Inteligência artificial, avanços e tendências, org. Fabio G. Cozman, Guilherme Ary Plonski, Hugo Neri. São Paulo: Instituto de Estudos Avançados, 2021;

ATLASSIAN. Relatório de 2018 (Atlassian (2018). State of Diversity and Inclusion in U.S Tech: Stats Summary. https://www.atlassian.com/dam/jcr:c009637c- 1335-429d-9181-6a66685b712e/Atlassian_StateofDiversityTech_2018_StatsSummary.pdf;

BENJAMIN, Ruha. “Race After Technology: Abolitionist Tools for the New Jim Code”, Polity Press; Illustrated edição, 2019;

BIONI, Bruno, LUCIANO, Maria.“O princípio da precaução na regulação de IA: seriam as leis de proteção de dados o seu portal de entrada?”), https://brunobioni.com.br/home/wp-content/uploads/2019/09/Bioni-Luciano_O-PRINCÍPIO-DA-PRECAUÇÃO-PARA-REGULAÇÃO-DE-INTELIGÊNCIA-ARTIFICIAL-1.pdf;

BRADLEY, Charles, WINGFIELD, Richard. “National Artificial Intelligence Strategies and human Rights: A Review”, 04.2020, Global Digital Policy Incubator at the Stanford Cyber Policy Center;

BRYNJOLFSSON, E., MCAFEE, A. Race Against the Machine: How the Digital Revolution is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy. Massachusetts: Digital Frontier Press, 2011;

BROOKFIELD Institute (2019). Who Are Canada’s Tech Workers? https://brookfieldinstitute.ca/wp-content/uploads/FINAL- Tech-Workers-ONLINE.pdf;

CAMPOS MELLO, Patrícia. “Sul Global precisa agir rápido para não perder a soberania sobre seus dados, diz enviado da ONU”, Folha de São Paulo, 2023; https://www1.folha.uol.com.br/autores/patricia-campos-mello.shtml;

CARE Principles of Indigenous Data Governance”, Global Indigenous Data Alliance”, https://www.gida- global.org;

CAVOUKIAN, Ann.“Privacy by Design - The 7 Foundational Principles Implementation and Mapping of Fair Information Practices”, disponível em https://iab.org/wp-content/IAB-uploads/2011/03/fred_carter.pdf;

COECKELBERGH, Mark. “The Political Philosophy of AI- An Introduction”, Polity; 2022;

CEPAL. Agenda Digital para América Latina y el Caribe (2021). Séptima Conferencia Ministerial sobre la Sociedad de la Información de América Latina y el Caribe. https://www.cepal.org/sites/default/files/publication/files/46766/S2000991_es.pdf ;

CHOCK, Costanza. “Design Justice, A.I., and Escape from the Matrix of Domination.” Journal of Design and Science (JoDS), 2018; http://dx.doi. org/10.21428/96c8d426;

COZMAN, Fabio, PLONSKI, Guilherme Ary, NERI, Hugo. “Inteligência artificial, avanços e tendências. São Paulo: Instituto de Estudos Avançados, 2021;

DAVIS, Angela, “Are Prisons Obsolete?”, Seven Stories Press”, 2011;

____. “Abolition Democracy. Beyond Empire, Prisons, and Torture”, Seven Stories Press,U.S., 2005;

DE STEFANO, Valerio. “Automação, inteligência artificial e proteção laboral: patrões algorítmicos e o que fazer com eles”, livro “O futuro do trabalho - os efeitos da revolução digital na sociedade”, org. Rodrigo de Lacerda Carelli, Tiago M. Cavalcanti, Vanessa P. da Fonseca, Brasília: Escola Superior do Ministério Público da União, 2020;

DEVELOPER SURVEY. Developer Profile. https://survey.stackoverflow.co/2023/#methodology- general;

EUBANKS, Virginia. “Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor”, Editora ‏ St. Martin's Press; 2018;

EUROPEAN UNION AGENCY FOR FUNDAMENTAL RIGHTS. “Getting the future right - Artificial intelligence and fundamental rights”, da lavra da https://fra.europa.eu/sites/default/files/fra_uploads/fra-2020-artificial-intelligence_en.pdf;

FINGER, Marcelo. “Quando se compra Inteligência Artificial, o que de fato se leva para casa? Além do “oba-oba””, livro “Inteligência artificial, avanços e tendências, org. Fabio G. Cozman, Guilherme Ary Plonski, Hugo Neri. São Paulo: Instituto de Estudos Avançados, 2021;

FLORIDI, Luciano. "The Logic of Information: A Theory of Philosophy Philosophy as Conceptual Design", Oxford: OUP, 2019;

____. “Onlife Manifesto - Being Human in a Hyperconnected Era”, Springer; 2015;

FREEDOM HOUSE. Relatório “Freedom in the world 2022 - The Global Expansion of Authoritarian Rule, 2021; https://freedomhouse.org;

FUSTER, A. &. “Predictably Unequal? The Effects of Machine Learning on Credit Markets” (77 (1) J Finance 4), New York: St. Martin's Press, 2018;

GLOBAL INDIGENOUS DATA ALLIANCE. “CARE Principles of Indigenous Data Governance”, reconhecendo a soberania de dados indígena, disponível emhttps://www.gida- global.org;

GRAY, Mary L., SURI, Siddharth. “Ghost Work”, Houghton Mifflin Harcourt, 2019;

HARARI, Yuval Noah. Homo Deus: uma breve história do amanhã. São Paulo: Companhia das Letras, 2016;

HILDEBRANDT, Mireille. “Smart Technologies and the End(s) of Law: Novel Entanglements of Law and Technology”, Edward Elgar Pub, 2015;

HOFFMANN-RIEM, Wolfgang. “Big data e inteligência artificial: desafios para o direito”, 6 Journal of institutional studies 2 (2020), Revista Estudos Institucionais, v. 6, n. 2, p. 431-506, maio/ago, 2020;

_______. “Teoria Geral do Direito Digital”, Editora Forense, 2021;

HUDSON, Maui et al. Indigenous Peoples’ Rights in Data: a contribution toward Indigenous Research Sovereignty. Frontiers in Research Metrics and Analytics, v. 8, p. 1173805, 2023;

HUI, Yuk. Cosmotécnica como cosmopolítica. Fragmentar el futuro. Ensayos sobre la tecnodiversidad, p. 41-64, 2020;

HUWS, Ursula. “Labor in the Global Digital Economy: The Cybertariat Comes of Age”, New York: Monthly Review Press, 2014;

INTERNETLAB. Notícia, disponível em: https://internetlab.org.br/pt/noticias/drag-queens-e-inteligencia-artificial-computadores-devem-decidir-o-que-e-toxico-na-internet/;

ISAAC, William S., MOHAMED, Shakir, PNG, Marie. “Algorithmic oppression is rooted in the colonial project”, https://www.bostonreview.net/forum_response/decolonizing-ai/;

KAUFMAN, Dora. “A inteligência artificial irá suplantar a inteligência humana?”, Estação das Letras e Cores Editora; 1ª edição, 2019, cit., p. 231-234,https://epocanegocios.globo.com/colunas/IAgora/noticia/2020/06/sistemas-de-vigilancia-com-reconhecimento-facial-escrutinio-e-reacao-das-gigantes-de-tecnologia.html;

LATIN AMERICA AND CARIBBEAN ECONOMIC SYSTEM (2020). COVID-19 and Digital Inclusion in Latin America and the Caribbean: A Connectivity and Access Problem. http://www.sela.org/en/press/articles/a/64488/covid-19-digital-inclusion-in-latin-america-and-the- caribbean;

LATOUR, Bruno. “Onde aterrar? Como se orientar politicamente no Antropoceno: Volume 1, Editora Bazar do Tempo; 1ª edição, 2020;

LE LUDEC, Clément; CORNET, Maxime; CASILLI, Antonio A. The problem with annotation. Human labour and outsourcing between France and Madagascar. Big Data & Society, v. 10, n. 2, p. 1-13, 2023;

LEWIS, Jason Edward, ed. 2020. “Indigenous Protocol and Artificial Intelligence Position Paper”. Project Report. Indigenous Protocol and Artificial Intelligence Working Group and the Canadian Institute for Advanced Research, Honolulu, HI, 2020;

LUCCIONI, A. S., AKIKI, C., MITCHELL, M., & JERNITE, Y. “Stable bias: Analyzing societal representations in diffusion models”, 2023, < https://arxiv.org/abs/2303.11408>;

MARDA, V. “Inteligencia artificial: Una perspectiva desde el sur. América Latina en Movimiento”, 2019, ;

MEJIAS, U. (2020). To fight data colonialism, we need a Non-aligned Tech Movement. Al Jazeera Opinion: Science and Technology. https://www.aljazeera.com/opinions/2020/9/8/to-fight-data-colonialism-we-need-a-non-aligned-tech-movement; Ortiz Freuler, J.;

MENDES, Gilmar, FERNANDES, Victor Oliveira. “Constitucionalismo digital e jurisdição constitucional: uma agenda de pesquisa para o caso brasileiro”, https://seer.atitus.edu.br/index.php/revistadedireito/article/view/4103;

MICHELLE, Alexander. “The new Jim Crow : mass incarceration in the age of colorblindness”, USA: The New Press, 2010;

MORESCHI, Bruno. “Os reveladores erros das máquinas “inteligentes”, em “Inteligência artificial, avanços e tendências, org. Fabio G. Cozman, Guilherme Ary Plonski, Hugo Neri. São Paulo: Instituto de Estudos Avançados, 2021;

MORESCHI, B.; PEREIRA, G.; COZMAN, Fabio G. (2020). The brazilian workers in Amazon Mechanical Turk: Dreams and realities of ghost workers. Contracampo – Brazilian Journal of Communication, 39 (1), https://periodicos.uff.br/contracampo/article/view/38252;

OAS. How to Promote Universal Internet Access during the COVID-19 Pandemic, http://www.oas.org/es/cidh/sacroi_covid19/documentos/03_guias_practicas_internet_ing.pdf;

OEA - Organização dos Estados Americanos. Relatório "Como promover o acesso universal à Internet durante a pandemia da COVID-19", https://www.oas.org/es/cidh/sacroi_covid19/documentos/03_guias_practicas_internet_ing.pdf;

O’NEIL, Cathy. “Weapons of Math Destruction”, Crown Publishing Group, NY, 2016;

OPEN DEMOCRACY. “The case for a digital non-aligned movement. Open Democracy”. https://www.opendemocracy.net/ en/oureconomy/case-digital-non-aligned-movement/;

OSBORNE, M. A., FREY, C. B. The future of employment: how susceptible are jobs to computerization? Oxford: Oxford Martin, 2013. https://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf;

PARISIER, Eli, "O filtro invisível: o que a internet está escondendo de você”, Zahar, 2012;

PARLAMENTO EUROPEU. “Governing data and artificial intelligence for all - Models for sustainable and just data governance”, 2022, disponível em https://www.europarl.europa.eu/stoa/en/document/EPRS_STU(2022)729533;

PASQUALE, Frank. “The black box society: The secret algorithms that control money and information”, Harvard University Press, 2016;

PASQUINELLI, Matteo. “The Eye of the Master: Uma História Social da Inteligência Artificial”, Verso, 2023;

PIKETTY, Thomas. “O capital no século XXI”, Rio de Janeiro, Editora Intrínseca, 2014;

PROPUBLICA. New York: St. Martin's Press, 2018. Julia Angwin et al. “Machine Bias. Pro Publica”. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing;

RADFORD, A., KIM, J. W., XU, T., BROCKMAN, G., MCLEAVEY, C., &

SUTSKEVER, I. Robust speech recognition via large-scale weak supervision. arXiv preprint arXiv:2212.04356, 2022;

ROBERTS, Jennafer Shae; MONTOYA, Laura N. Decolonisation, Global Data Law, and Indigenous Data Sovereignty. arXiv preprint arXiv:2208.04700, 2022;

SCHUMPETER, Joseph A. “Capitalismo, socialismo e democracia, Editora Fundo de Cultura As, 1961;

SIBILIA, Paula. “Show do eu, a intimidade como espetáculo”, Contraponto, 2016;

SILVA, T. Teoria racial crítica e comunicação digital: Conexões contra a dupla opacidade. In: CONGRESSO BRASILEIRO DE CIÊNCIAS DA COMUNICAÇÃO, 42, 2019. Belém. Anais..., Belém, 2019;

STANFORD INSTITUTE FOR HUMAN-CENTERED AI. Relatório Artificial Intelligence Index 2023, Universidade de Stanford. https://aiindex.stanford.edu/report/#individual- chapters). Stack Overflow;

SMITH, L. T. (1999). Decolonizing Methodologies: Research and Indigenous Peoples. ERIC: 1999;

SOUSA SANTOS, Boaventura de. “Reconhecer para libertar: os caminhos do cosmopolitismo multicultural”. Rio de Janeiro: Civilização Brasileira, 2009;

______. “Epistemologias do Sul”. Coimbra: Edições Almedina, 2009;

TAPLIN, Jonathan. “Move Fast and Break Things: How Google, Facebook and Amazon Cornered Culture and Undermined Democracy”, Boston: Little, Brown & Company, 2017;

TE MANA RARAUNGA. https://www.temanararaunga.maori.nz/;

ZUBOFF, Shoshana. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, PublicAffairs, 2020;

SRNICEK, Nick. Platform capitalism. Cambridge, UK; Malden, MA: Polity Press, 2016;

WIDDER, David Gray; NAFUS, Dawn. “Dislocated accountabilities”, em “AI supply chain”: Modularity and developers’ notions of responsibility. Big Data & Society, v. 10, n. 1, 2023;

WHOSE KNOWLEDGE. “Decolonising the Internet", 2018, https://whoseknowledge.org/wp-content/uploads/2018/11/DTI-2018-Summary-Report.pdf;




DOI: http://dx.doi.org/10.26668/revistajur.2316-753X.v4i89.8383

Refbacks

  • There are currently no refbacks.




Revista Jurídica e-ISSN: 2316-753X

Rua Chile, 1678, Rebouças, Curitiba/PR (Brasil). CEP 80.220-181

Licença Creative Commons

Este obra está licenciado com uma Licença Creative Commons Atribuição-NãoComercial 4.0 Internacional.