DA ÉTICA DE FACHADA À CONFIANÇA VERIFICÁVEL – ASSEGURAÇÃO INDEPENDENTE DE TERCEIRA PARTE NA GOVERNANÇA DA INTELIGÊNCIA ARTIFICIAL
Resumo
RESUMO: O artigo examina de forma crítica e interdisciplinar a insuficiência estrutural do compliance cosmético e da ética de fachada na governança da inteligência artificial, sustentando que a autoatestação do desenvolvedor reproduz, no domínio algorítmico, o problema de agência que a governança corporativa diagnosticou há quase um século. Demonstra-se que a governança bem desenhada não se opõe à inovação, mas constitui a sua condição de sustentabilidade, e que a confiança, para ser racional, precisa ser verificável, a verificabilidade precisa ser independente, e a independência precisa ser produto de engenharia institucional e não de declaração. A partir da linhagem dos gatekeepers corporativos, propõe-se a asseguração independente de terceira parte como o auditor externo da era algorítmica, articulada a um fundo mútuo com alocação cega, rotação obrigatória e governança tripartite, e enfrentam-se as objeções da inovação sufocada, da concentração de mercado, da ritualização da auditoria e da captura do próprio assegurador, no contexto brasileiro e do Sul Global.
Objetivos: Demonstrar que a ineficácia do compliance declarado não é acidente de implementação, mas defeito estrutural de arquitetura institucional, e propor a asseguração independente como condição de possibilidade da confiança verificável. Busca-se ainda contribuir para o preenchimento de uma lacuna de produção científica do Sul Global sobre governança de inteligência artificial, e sustentar que a verificação, para não certificar a injustiça, depende de valores definidos de modo democrático, plural e situado.
Metodologia: Pesquisa teórica e análise documental normativa, articulando a crítica imanente dos instrumentos de governança existentes — capAI, FRIA, HUDERIA,
ISO/IEC 42001, NIST AI RMF e Recomendação da UNESCO — com a reconstrução conceitual a partir da teoria societária dos gatekeepers, da sociologia da confiança e das epistemologias do Sul.
Resultados: Identificou-se um limite comum aos principais instrumentos internacionais: todos traduzem o princípio em procedimento, e nenhum resolve o que vem depois — a captura, a independência de quem avalia, a governança do próprio avaliador e a contestação democrática do padrão. Demonstrou-se que o artigo 43 do Regulamento europeu remete a quase totalidade dos sistemas de alto risco do Anexo III à autoavaliação do fornecedor, de sorte que o marco mais avançado do mundo consagra no seu núcleo aquilo que aqui se questiona.
Contribuições: Formula-se o compliance cosmético como categoria jurídica, transpõe-se de modo fundamentado a engenharia da independência da tradição societária para a governança algorítmica, e desenha-se um fundo mútuo de asseguração administrado por autoridade independente, com alíquotas graduadas por risco e porte. Propõe-se ainda o direito à inferência confiável e a passagem de uma inteligência artificial centrada no humano para uma centrada na vida.
Palavras-Chave: Governança de inteligência artificial; Asseguração independente; Compliance cosmético; Direitos fundamentais by design; Epistemologias do Sul.
ABSTRACT: This article critically and interdisciplinarily examines the structural insufficiency of cosmetic compliance and façade ethics in artificial intelligence governance, arguing that developer self-attestation reproduces, in the algorithmic domain, the agency problem that corporate governance diagnosed almost a century ago. It demonstrates that well-designed governance does not oppose innovation but constitutes its condition of sustainability, and that trust, to be rational, must be verifiable; verifiability, to be credible, independent; and independence, to be real, the product of institutional engineering rather than of declaration. Drawing on the lineage of corporate gatekeepers, it proposes independent third-party assurance as the external auditor of the algorithmic era, articulated with a mutual fund featuring blind allocation, mandatory rotation and tripartite governance, and confronts the objections of stifled innovation, market concentration, ritualised audit and capture of the assurer itself, within the Brazilian and Global South context.
Objectives: To demonstrate that the ineffectiveness of declared compliance is not an implementation accident but a structural defect of institutional architecture, and to propose independent assurance as the condition of possibility of verifiable trust. It further seeks to help fill a gap in Global South scientific production on artificial intelligence governance, and to argue that verification, if it is not to certify injustice, depends on values defined democratically, plurally and situatedly.
Methodology: Theoretical research and normative documentary analysis, articulating an immanent critique of existing governance instruments — capAI, FRIA, HUDERIA, ISO/IEC 42001, the NIST AI RMF and the UNESCO Recommendation — with conceptual reconstruction drawing on corporate gatekeeper theory, the sociology of trust and Southern epistemologies.
Results: A common limit was identified across the principal international instruments: all translate principle into procedure, and none resolves what comes afterwards — capture, the independence of the assessor, the governance of the assessor itself, and the democratic contestation of the standard. It was demonstrated that Article 43 of the European Regulation refers almost all high-risk systems under Annex III to self-
assessment by the provider, so that the world's most advanced framework enshrines at its core precisely what is here questioned.
Contributions: The article formulates cosmetic compliance as a legal category, transposes with reasoned argument the engineering of independence from the corporate tradition to algorithmic governance, and designs a mutual assurance fund administered by an independent authority, with rates graduated by risk and size. It further proposes a right to reliable inference and the passage from human-centred to life-centred artificial intelligence.
Keywords: Artificial intelligence governance; Independent assurance; Cosmetic compliance; Fundamental rights by design; Southern epistemologies.
Palavras-chave
Texto completo:
PDFReferências
ACEMOGLU, D.; JOHNSON, S. Power and progress: our thousand-year struggle over technology and prosperity. Nova York: PublicAffairs, 2023.
AJDER, H.; PATRINI, G.; CAVALLI, F.; CULLEN, L. The state of deepfakes: landscape, threats, and impact. Amsterdã: Deeptrace, 2019 (96% dos vídeos deepfake online eram pornografia não consensual, com quase totalidade de mulheres entre as vítimas).
AKKIL, D.; KOKKU, R.; VIKRAM, K.; ABUELSAAD, T.; VEMPATY, A.; NITTA, S. (Emergence AI). Emergence World: a platform for evaluating long-horizon multi-agent autonomy. arXiv:2606.08367, 2026 (cinco mundos paralelos, quinze dias contínuos; prompts, registros e configurações públicos em github.com/EmergenceAI/Emergence-World). Trata-se de pré-print não revisado por pares, de autoria da equipe da empresa que construiu e mantém a plataforma avaliada, apresentado pelos próprios autores como ilustrativo; os resultados são preliminares e carecem de replicação independente. CHRISTIAN, B. The alignment problem. Nova York: W. W. Norton, 2020.
ANGWIN, J.; LARSON, J.; MATTU, S.; KIRCHNER, L. Machine bias. ProPublica, 23 maio 2016.
BELLO Y VILLARINO, J.-M.; VIJEYARASA, R. International human rights, artificial intelligence and the challenge for the pondering state: time to regulate? Nordic Journal of Human Rights, v. 40, n. 1, p. 194-215, 2022; GORDON LEGAL. Robodebt Class Action Appeal Settlement (homologação da liquidação adicional de A$ 548,5 milhões pela Federal Court, Beach J, em 23 jun. 2026; total devolvido e indenizado superior a A$ 2,4 bilhões). Melbourne, 2026.
BERLE, A. A.; MEANS, G. C. The modern corporation and private property. Nova York: Macmillan, 1932.
BIRHANE, A. Algorithmic colonization of Africa. SCRIPTed, v. 17, n. 2, p. 389-409, 2020.
BLACK, J. Decentring regulation: understanding the role of regulation and self-regulation in a ‘post-regulatory’ world. Current Legal Problems, v. 54, n. 1, p. 103-146, 2001.
BRADFORD, A. The Brussels effect: how the European Union rules the world. Oxford: Oxford University Press, 2020.
BRUNDAGE, M. et al. Toward trustworthy AI development: mechanisms for supporting verifiable claims. arXiv:2004.07213, 2020.
CANTARINI, P. A economia política da violência de gênero algorítmica por meio de uma lente decolonial. Le Monde Diplomatique Brasil, ed. 227, jun. 2026.
CANTARINI, P. O ponto G do compliance e o experimento Emergence World. Le Monde Diplomatique Brasil, ed. 227, jun. 2026.
CARNEIRO, S. Mulheres em movimento. Estudos Avançados, v. 17, n. 49, p. 117-132, 2003.
CAVOUKIAN, A. Privacy by design: the 7 foundational principles. Toronto: Information and Privacy Commissioner of Ontario, 2009.
CHAN, A. et al. Harms from increasingly agentic algorithmic systems. In: Proceedings of FAccT ’23. ACM, 2023. p. 651-666.
CHOULDECHOVA, A. Fair prediction with disparate impact: a study of bias in recidivism prediction instruments. Big Data, v. 5, n. 2, p. 153-163, 2017. A controvérsia que ilustra o teorema está em ANGWIN, J.
CHOWDHURY, S. Technology is never neutral: Robodebt and a human rights analysis of automated decision-making on welfare recipients. Australian Journal of Human Rights, v. 30, n. 1, p. 20-40, 2024.
COFFEE JR., J. C. Gatekeepers: the professions and corporate governance. Oxford: Oxford University Press, 2006. O autor não reduz a captura a um único vetor: além da inversão de incentivo produzida pela receita de serviços não relacionados à auditoria prestados ao próprio auditado, atribui a queda da qualidade da auditoria à redução do risco de responsabilização do auditor, operada pelo Private Securities Litigation Reform Act de 1995, que substituiu a responsabilidade solidária pela proporcional.
CONSELHO DA EUROPA. Comitê de Inteligência Artificial (CAI). HUDERIA: methodology for the risk and impact assessment of artificial intelligence systems from the point of view of human rights, democracy and the rule of law. Estrasburgo, adotada em 28 nov. 2024 (desenvolvida com o Alan Turing Institute, sob direção de David Leslie; pilotagem com Estados-membros em 2025-2026).
CONSELHO DA UE, adoção formal em 29 jun. 2026; acordo político provisório entre Conselho e Parlamento em 7 maio 2026; e REGULAMENTO (UE) 2026/1744 do Parlamento Europeu e do Conselho, de 8 de julho de 2026, que altera os Regulamentos (UE) 2024/1689, (UE) 2018/1139 e (UE) 2023/1230, Jornal Oficial da União Europeia, série L, 24 jul. 2026 (ELI: data.europa.eu/eli/reg/2026/1744/oj), em vigor desde 27 jul. 2026. As novas datas de aplicação constam do art. 113, terceiro parágrafo, do Regulamento (UE) 2024/1689, na redação dada pelo art. 1.º, ponto 40, do ato de 2026; as obrigações de transparência do art. 50 não foram adiadas.
COSTANZA-CHOCK, S. Design justice: community-led practices to build the worlds we need. Cambridge: MIT Press, 2020.
COULDRY, N.; MEJIAS, U. A. The costs of connection. Stanford: Stanford University Press, 2019.
COWEN, T. Stubborn attachments: a vision for a society of free, prosperous, and responsible individuals. San Francisco: Stripe Press, 2018.
CRAWFORD, K. Atlas of AI. New Haven: Yale University Press, 2021.
DIETERICH, W.; MENDOZA, C.; BRENNAN, T. COMPAS risk scales: demonstrating accuracy equity and predictive parity. Northpointe Inc., jul. 2016.
DIGNUM, V. Responsible artificial intelligence: how to develop and use AI in a responsible way. Cham: Springer, 2019.
DRAGHI, M. The future of European competitiveness. Bruxelas: Comissão Europeia, 2024.
EUBANKS, V. Automating inequality. Nova York: St. Martin’s Press, 2018.
FERREIRA DA SILVA, D. Toward a global idea of race. Minneapolis: University of Minnesota Press, 2007.
FISHKIN, J. S. When the people speak: deliberative democracy and public consultation. Oxford: Oxford University Press, 2009.
FLORIDI, L.; HOLWEG, M.; TADDEO, M. et al. capAI: a procedure for conducting conformity assessment of AI systems in line with the EU Artificial Intelligence Act. SSRN 4064091, 2022.
FLORIDI, L. The ethics of artificial intelligence: principles, challenges, and opportunities. Oxford: Oxford University Press, 2023 (meta-inovação).Revista Jurídica Unicuritiba.
Vol.3, n.88 | p.201 – 235 | julho – setembro 2026.
Esta obra está licenciada com uma Licença Creative Commons Atribuição-NãoComercial 4.0 Internacional.
FLORIDI, L. Translating principles into practices of digital ethics: five risks of being unethical. Philosophy & Technology, v. 32, p. 185-193, 2019.
FOUCAULT, M. Segurança, território, população: curso no Collège de France (1977-1978). São Paulo: Martins Fontes, 2008; sobre a governamentalidade específica dos instrumentos de auditoria, de certificação e de relato, MILLER, P.
GEBRU, T. et al. Datasheets for datasets. Communications of the ACM, v. 64, n. 12, p. 86-92, 2021.
GIDDENS, A. The consequences of modernity. Stanford: Stanford University Press, 1990.
GONZALEZ, L. Racismo e sexismo na cultura brasileira. Revista Ciências Sociais Hoje, ANPOCS, p. 223-244, 1984.
GREEN, B. The smart enough city. Cambridge: MIT Press, 2019.
HABERMAS, J. Between facts and norms. Cambridge: MIT Press, 1996 [ed. bras.: Direito e democracia: entre facticidade e validade. Rio de Janeiro: Tempo Brasileiro, 1997].
HAGENDORFF, T. The ethics of AI ethics: an evaluation of guidelines. Minds and Machines, v. 30, p. 99-120, 2020.
HUI, Y. Art and cosmotechnics. Minneapolis: University of Minnesota Press, 2021.
HUI, Y. The question concerning technology in China: an essay in cosmotechnics. Falmouth: Urbanomic, 2016; e, para a tecnodiversidade, HUI, Y. For a planetary thinking. e-flux Journal, n. 114, dez. 2020.
JASANOFF, S. The ethics of invention. Nova York: W. W. Norton, 2016.
JOBIN, A.; IENCA, M.; VAYENA, E. The global landscape of AI ethics guidelines. Nature Machine Intelligence, v. 1, p. 389-399, 2019.
KHAN, L. M. Amazon’s antitrust paradox. Yale Law Journal, v. 126, p. 710-805, 2017; WU, T. The curse of bigness: antitrust in the new gilded age. Nova York: Columbia Global Reports, 2018.
KLEINBERG, J.; MULLAINATHAN, S.; RAGHAVAN, M. Inherent trade-offs in the fair determination of risk scores. In: Proceedings of ITCS 2017 (arXiv:1609.05807, 2016).
KOSMYNA, N. et al. Your brain on ChatGPT: accumulation of cognitive debt when using an AI assistant for essay writing task. arXiv:2506.08872, 2025 (MIT Media Lab; preprint, resultados preliminares e sob réplica).
LARCKER, D.; TAYAN, B. Corporate governance matters. 3. ed. Old Tappan: Pearson, 2020.
LETTA, E. Much more than a market. Bruxelas: Conselho Europeu, 2024.
LEVI-FAUR, D. The global diffusion of regulatory capitalism. The ANNALS of the American Academy of Political and Social Science, v. 598, p. 12-32, 2005.
LUHMANN, N. Trust and power. Chichester: John Wiley & Sons, 1979, volume que reúne, em inglês, Vertrauen, de 1968, e Macht, de 1975.MCGREGOR, S. Preventing repeated real world AI failures by cataloging incidents: the AI Incident Database. In: Proceedings of AAAI-21. AAAI, 2021 (arXiv:2011.08512).
MENDOZA, C.; BRENNAN, T. COMPAS risk scales: demonstrating accuracy equity and predictive parity. Northpointe Inc., jul. 2016, que sustentou a paridade preditiva do instrumento.
MILAN, S.; TRERÉ, E. Big data from the South(s). Television & New Media, v. 20, n. 4, p. 319-335, 2019.
MITCHELL, M. et al. Model cards for model reporting. In: Proceedings of FAT* ’19. ACM, 2019. p. 220-229.
MITTELSTADT, B. Principles alone cannot guarantee ethical AI. Nature Machine Intelligence, v. 1, p. 501-507, 2019.
MONKS, R. A. G.; MINOW, N. Corporate governance. 5. ed. Chichester: John Wiley & Sons, 2011.
MOROZOV, E. To save everything, click here. Nova York: PublicAffairs, 2013.
MULLER, J. Z. The tyranny of metrics. Princeton: Princeton University Press, 2018.
O’NEILL, O. A question of trust: the BBC Reith Lectures 2002. Cambridge: Cambridge University Press, 2002.
OSTROM, E. Governing the commons. Cambridge: Cambridge University Press, 1990; e, para a formulação do policentrismo, OSTROM, E. Beyond markets and states: polycentric governance of complex economic systems. American Economic Review, v. 100, n. 3, p. 641-672, 2010.
PASQUALE, F. The black box society. Cambridge: Harvard University Press, 2015.
PORTER, T. M. Trust in numbers. Princeton: Princeton University Press, 1995.
POWER, M. The audit society: rituals of verification. Oxford: Oxford University Press, 1997.
RAJI, I. D. et al. Closing the AI accountability gap: defining an end-to-end framework for internal algorithmic auditing. In: Proceedings of FAT* ’20. ACM, 2020 (arXiv:2001.00973).
RAJI, I. D.; XU, P.; HONIGSBERG, C.; HO, D. Outsider oversight: designing a third party audit ecosystem for AI governance. In: Proceedings of AIES ’22. ACM, 2022 (arXiv:2206.04737).
REISMAN, D.; SCHULTZ, J.; CRAWFORD, K.; WHITTAKER, M. Algorithmic impact assessments: a practical framework for public agency accountability. Nova York: AI Now Institute, 2018.
ROSENBERG, Shoshana. Practical AI governance: building a program for oversight and strategy. Pref. de Jules Polonetsky. Londres: Kogan Page, 2026.
ROSE, N. Governing the present: administering economic, social and personal life. Cambridge: Polity Press, 2008; e POWER, M., cf. nota.
ROUVROY, A.; BERNS, T. Gouvernementalité algorithmique et perspectives d’émancipation. Réseaux, n. 177, p. 163-196, 2013.
SANTOS, B. de S. Epistemologies of the South: justice against epistemicide. Londres: Routledge, 2014.
SANTOS, B. de S.; MENESES, M. P. (org.). Epistemologias do Sul. São Paulo: Cortez, 2010.
SELBST, A. D. et al. Fairness and abstraction in sociotechnical systems. In: Proceedings of FAT* ’19. ACM, 2019. p. 59-68.
SLATTERY, P. et al. The AI Risk Repository: a comprehensive meta-review, database, and taxonomy of risks from artificial intelligence. arXiv:2408.12622, 2024 (MIT FutureTech), com versão revisada por pares em Patterns, 2026, DOI 10.1016/j.patter.2026.101517.
THIERER, A. Permissionless innovation: the continuing case for comprehensive technological freedom. 2. ed. Arlington: Mercatus Center, 2016.
VEALE, M.; ZUIDERVEEN BORGESIUS, F. Demystifying the draft EU Artificial Intelligence Act. Computer Law Review International, v. 22, n. 4, p. 97-112, 2021 (análise do projeto de 2021, anterior às alterações do texto final de 2024, sobretudo no art. 6 e no regime dos modelos de finalidade geral).
WACHTER, S.; MITTELSTADT, B. A right to reasonable inferences: re-thinking data protection law in the age of big data and AI. Columbia Business Law Review, v. 2019, n. 2, p. 494-620, 2019.
WEIDINGER, L. et al. Taxonomy of risks posed by language models. In: Proceedings of FAccT ’22. ACM, 2022. p. 214-229.
WINNER, L. The whale and the reactor. Chicago: University of Chicago Press, 1986.
DOI: http://dx.doi.org/10.26668/revistajur.2316-753X.v3i88.8382
Apontamentos
- Não há apontamentos.
Revista Jurídica e-ISSN: 2316-753X
Rua Chile, 1678, Rebouças, Curitiba/PR (Brasil). CEP 80.220-181


