COLONIALIDADE DO RISCO, COLONIALIDADE DO REGISTRO, INCIDENTE DE SEGUNDA ORDEM, E ZONA DE DEFORMAÇÃO MORAL

Resumo

RESUMO: Este artigo reconstrói criticamente os dois encontros que a Cátedra IA Responsável, parceria entre a Universidade de São Paulo e o Google, dedicou em 2026 aos incidentes de inteligência artificial. Ambos, embora tenham circundado o mesmo impasse, não chegaram a nomeá-lo: definir incidente não é operação descritiva, mas decisão política sobre o que ingressa no registro e, portanto, sobre o que pode ser oposto a alguém, de modo que toda taxonomia é, antes de tudo, uma arquitetura de imputação. A partir de um acórdão paulista que tomou a infalibilidade da inteligência artificial como premissa para inverter o ônus da prova, em prejuízo da parte vulnerável, proponho a categoria de incidente de segunda ordem, articulando-a à noção de zona de deformação moral de Madeleine Clare Elish e à lei epistêmica do sopesamento de Robert Alexy. Sustento que o objeto próprio de um observatório de incidentes de inteligência artificial não reside no mecanismo técnico que produz o dano, e sim na autoridade que se atribui ao sistema. As definições de incidente em disputa devem ser mantidas como séries distintas, e a verificação das classificações deve caber a terceiros cuja independência resulte de desenho institucional. O texto articula essas proposições a duas noções, a de colonialidade do registro, isto é, a assimetria na autoria das categorias que decidem o que ingressa no registro, e a de colonialidade do risco, isto é, a dependência do poder público em relação às empresas para conhecer os riscos e a distribuição desigual, segundo a lógica do mercado, da proteção contra eles.
Objetivos: Demonstrar que definir incidente de inteligência artificial é decidir o que ingressa no registro e, portanto, quem responde, e propor a categoria de incidente de segunda ordem e as noções de colonialidade do registro e colonialidade do risco.

Metodologia: Pesquisa qualitativa, teórica e documental, a partir das transcrições integrais do workshop de 11 de maio e do seminário de 14 de setembro de 2026, lidas em diálogo com a sociologia do risco, a epistemologia social, a teoria dos direitos fundamentais e a crítica decolonial.
Resultados: Os encontros exibiram cinco conceitos de incidente, cada um vinculado a um regime institucional, e nenhuma das taxonomias em uso isola o dano produzido pela premissa de infalibilidade que um decisor institucional atribui ao sistema, dano que um observatório alimentado por decisões judiciais tem condições de registrar.
Contribuições: Uma categoria nova, o incidente de segunda ordem; uma regra para a prova algorítmica, segundo a qual a opacidade do sistema deve operar contra quem o controla; e critérios para que o Sul Global participe do registro de incidentes como coautor das categorias.
Palavras-Chave: Incidentes de inteligência artificial. Taxonomia. Ônus da prova. Zona de deformação moral. Colonialidade.
ABSTRACT: This article critically reconstructs the two meetings that the Responsible AI Chair, a partnership between the University of São Paulo and Google, devoted in 2026 to artificial intelligence incidents. Although both meetings circled the same impasse, they did not name it: defining an incident is not a descriptive operation but a political decision about what enters the record and, therefore, about what can be held against someone, so that every taxonomy is, above all, an architecture of imputation. Drawing on a São Paulo appellate ruling that took the infallibility of artificial intelligence as a premise for reversing the burden of proof to the detriment of the vulnerable party, I propose the category of second-order incident, linking it to Madeleine Clare Elish's notion of the moral crumple zone and to Robert Alexy's epistemic law of balancing. I argue that the proper object of an artificial intelligence incidents observatory lies not in the technical mechanism that produces the harm but, in the authority, attributed to the system. The competing definitions of incident should be kept as distinct series, and the verification of classifications should fall to third parties whose independence results from institutional design. The text links these propositions to two notions: the coloniality of the record, that is, the asymmetry in the authorship of the categories that decide what enters the record; and the coloniality of risk, that is, the dependence of public authorities on companies to learn what the risks are, together with the unequal distribution, according to market logic, of protection against them.

Objectives: To show that defining an artificial intelligence incident is deciding what enters the record and, therefore, who answers, and to propose the category of second-order incident and the notions of the coloniality of the record and the coloniality of risk.
Methodology: Qualitative, theoretical and documentary research based on the full transcripts of the workshop of 11 May and the seminar of 14 September 2026, read in dialogue with the sociology of risk, social epistemology, the theory of fundamental rights and decolonial critique.
Results: The meetings displayed five concepts of incident, each tied to an institutional regime, and none of the taxonomies in use isolates the harm produced by the premise 

of infallibility that an institutional decision-maker attributes to a system, a harm that an observatory fed by court decisions is in a position to record.
Contributions: A new category, the second-order incident; a rule for algorithmic evidence, under which the opacity of a system should count against whoever controls it; and criteria for the Global South to take part in incident recording as co-author of the categories.
Keywords: Artificial intelligence incidents. Taxonomy. Burden of proof. Moral crumple zone. Coloniality.