DESAFIOS AO ESTADO DEMOCRÁTICO DE DIREITO - INTELIGÊNCIA ARTIFICIAL, DIREITOS FUNDAMENTAIS E CONSTITUCIONALISMO DIGITAL

Résumé

O artigo tem como objetivo fornecer uma perspectiva crítica em uma análise interdisciplinar dos direitos fundamentais e do sistema de direitos humanos no campo da inteligência artificial (IA), evitando uma abordagem binária e adotando, em vez disso, uma perspectiva "múltipla" (inspirada no "Teatro Filosófico" de Michel Foucault). O objetivo é explorar novas formas de abordar e oferecer alternativas para questões não resolvidas, como os riscos emergentes da inteligência artificial. O artigo defende uma análise crítica que amplia o foco para incluir as suposições epistemológicas e filosóficas da produção de conhecimento, enfatizando as condições necessárias para qualquer discurso científico. Também busca contribuir para o debate acadêmico no Brasil, destacando a importância de estudar e aplicar corretamente a Teoria dos Direitos Fundamentais, bem como conceitos de proporcionalidade e equilíbrio, para garantir a proteção eficaz desses direitos no campo da proteção de dados e inteligência artificial. Dados os desafios sem precedentes apresentados pela IA em nossa sociedade orientada por dados e hipercomplexa, há uma necessidade de uma abordagem contextualizada que leve em conta aspectos sócio-culturais específicos, com foco em procedimentos. Com uma 

aplicação cuidadosa e responsável do princípio da proporcionalidade em "casos difíceis", um procedimento objetivo e racional reconhecido, isso contribuirá para reduzir a incerteza legal, arbitrariedade e proteger efetivamente os direitos fundamentais e sua essência central, ou seja, a dignidade humana. O artigo visa contribuir, especialmente abordando a lacuna científica e interdisciplinar no Sul Global sobre esses temas, evitando abordagens utópicas ou distópicas e promovendo teorias críticas.
Objetivos: O artigo visa contribuir, especialmente abordando a lacuna científica e interdisciplinar no Sul Global sobre as temáticas da IA com relação ao seu potencial de afronta a todos os direitos fundamentais, bem como trazendo as contribuições do constitucionalismo digital, evitando abordagens utópicas ou distópicas e promovendo teorias críticas, questionando qual seria o papel atual do Direito para a concretização do Estado Democrático de Direito diante dos desafios inéditos trazidos com a IA. Visa ainda questionar quais são os desafios do Estado de Direito diante da crescente compreensão do próprio direito como técnica ou mesmo como metatecnologia? Bem como se diante das possibilidades abertas pelas tecnologias, o papel do direito mudaria ou deveria permanecer indiferente, ou deveria se adaptar passivamente, e por fim quais as repercussões possíveis quando o Direito acaba se tornando superado tendo em vista a autorregulação pelo código, apontando para a problemática da possível corrupção sistêmica.
Metodologia: A metodologia e as técnicas de investigação combinarão a investigação teórica, relacionando-se com a metodologia de Michel Foucault denominada de “teatro filosófico”, buscando-se uma visão interdisciplinar e holística, e uma epistemologia multifacetada.
Resultados: O artigo traz contribuições acerca da exploração de novas formas de abordar e oferecer alternativas para questões não resolvidas, como os riscos emergentes da inteligência artificial. O artigo defende uma análise crítica que amplia o foco para incluir as suposições epistemológicas e filosóficas da produção de conhecimento, enfatizando as condições necessárias para qualquer discurso científico. Também buscou contribuir para o debate acadêmico no Brasil, destacando a importância de estudar e aplicar corretamente a Teoria dos Direitos Fundamentais, bem como conceitos de proporcionalidade e equilíbrio, para garantir a proteção eficaz desses direitos no campo da proteção de dados e inteligência artificial.
Contribuições: O artigo buscou trazer uma compreensão mais aprofundada e crítica acerca do papel indispensável do Direito o qual não poderá se resumir a ser entendido como mera tecnologia ou substituído pela regulação pelo código, no âmbito da temática da IA, questionando acerca do seu papel de realização da justiça e sua premissa maior em um Estado Democrático de Direito no sentido de seu comprometimento com a proteção adequada de direitos fundamentais, reconhecendo-se outrossim, o vínculo entre justiça epistêmica, ambiental, algorítmica e social.

Palavras-Chave: Estado democrático de Direito; Direitos Fundamentais; Inteligência artificial; justiça epistêmica; ambiental; algorítmica e social.
ABSTRACT
This article aims to provide a critical perspective in an interdisciplinary analysis of fundamental rights and the human rights system in the field of artificial intelligence (AI), avoiding a binary approach and instead adopting a "multiple" perspective (inspired by Michel Foucault's "Philosophical Theater"). The goal is to explore new ways of addressing and offering alternatives to unresolved issues, such as emerging risks from artificial intelligence. The article advocates for a critical analysis that expands the focus to include the epistemological and philosophical assumptions of knowledge production, emphasizing the necessary conditions for any scientific discourse. It also seeks to contribute to the academic debate in Brazil, highlighting the importance of studying and correctly applying the Theory of Fundamental Rights, as well as concepts of proportionality and balancing, to ensure effective protection of these rights in the field of data protection and artificial intelligence. Given the unprecedented challenges posed by AI in our data-driven and hyper-complex society, there is a need for a contextualized approach that takes into account specific socio-cultural aspects, with a focus on procedures. With a careful and responsible application of the proportionality principle in "hard cases," a recognized objective and rational procedure this will contribute to reducing legal uncertainty, arbitrariness, and effectively protecting fundamental rights and their core essence, namely human dignity. The article aims to contribute, especially addressing the scientific and interdisciplinary gap in the Global South on these topics, avoiding utopian or dystopian approaches and promoting critical theories.
Objectives: The article aims to contribute, especially addressing the scientific and interdisciplinary gap in the Global South on AI themes regarding its potential to challenge all fundamental rights. It also brings the contributions of digital constitutionalism, avoiding utopian or dystopian approaches and promoting critical theories. It questions the current role of Law in realizing the Rule of Law in the face of unprecedented challenges brought by AI. It also aims to question the challenges of the Rule of Law given the growing understanding of law itself as a technique or even as metatechnology. Furthermore, it questions whether Law's role would change or should remain indifferent or passively adapt in the face of possibilities opened up by technologies, and finally, what possible repercussions arise when Law becomes surpassed due to self-regulation by code, pointing to the issue of possible systemic corruption.
Methodology: The methodology and investigation techniques will combine theoretical research, relating to Michel Foucault's methodology called "philosophical theater," seeking an interdisciplinary and holistic view, and a multifaceted epistemology.

Results: The article brings contributions regarding the exploration of new ways to address and offer alternatives to unresolved issues, such as emerging risks from artificial intelligence. It advocates for a critical analysis that expands the focus to include epistemological and philosophical assumptions of knowledge production, emphasizing the necessary conditions for any scientific discourse. It also sought to contribute to the academic debate in Brazil, highlighting the importance of studying and correctly applying the Theory of Fundamental Rights, as well as concepts of proportionality and balance, to ensure effective protection of these rights in the field of data protection and artificial intelligence.
Contributions: The article sought to provide a deeper and critical understanding of the indispensable role of Law, which cannot be reduced to mere technology or replaced by regulation by code, in the context of AI themes. It questions its role in achieving justice and its major premise in a Democratic Rule of Law in terms of its commitment to the adequate protection of fundamental rights, recognizing the link between epistemic, environmental, algorithmic, and social justice.
Keywords: Democratic Rule of Law; Fundamental Rights; Artificial Intelligence; epistemic; environmental; algorithmic; and social justice.