DECISÕES AUTOMATIZADAS RACISTAS E DISCRIMINATÓRIAS: UMA ANÁLISE A PARTIR DA ÉTICA EMPRESARIAL E DA “COMPLIANCE”

Resumen

RESUMO

A inteligência artificial vem sendo utilizada cada vez mais na solução de casos jurídicos. Mas, quem vigia, controla e se responsabiliza pelos algoritmos no caso de respostas racistas, sexistas ou discriminatórias? Sabe-se que a discriminação socioeconômica, racial ou de gênero vem ocorrendo de forma muito frequente quando da produção de decisões automatizadas. Trata-se, pois, em um primeiro momento, de investigar a dimensão ética e moral na produção de decisões automatizadas, envolvendo a incorporação aos sistemas inteligentes de valores humanos (“machine ethics”). Seria possível a produção de decisões judiciais automatizadas, sem controle e revisão humana, e totalmente desvinculada de uma fundamentação superior, ética e moral do Direito? O Direito sendo a expressão da “humanitas” pode ser aplicado de forma legítima por meio da inteligência artificial? [...]