Inteligência artificial e direito: o impacto dos vieses algoritmicos nas decisões judiciais automatizadas pela tecnologia de aprendizado de máquina denominada machine learning - Figueiredo, Guilherme Silva (2019)
Este artigo analisa os impactos dos vieses algorítmicos utilizados nas ferramentas de Inteligência Artificial (IA) no âmbito do Poder Judiciário, as quais, em geral, procuram identificar padrões a partir da análise de dados por meio de lógica matemática (algoritmo) e aprendizado de máquina – a machine learning. O presente trabalho definiu algoritmos, e seu contexto nas ferramentas de Inteligência Artificial. O objeto principal da análise foi a vulnerabilidade proporcionada pelos vieses (discriminatórios, preconceituosos, tendenciosos...) oriundos dos dados usados como parâmetro de treinamento dos sistemas de IA, que realizarão a análise das demandas judiciais. Com objetivo de enriquecer a pesquisa, relatamos a experiência dos Estados Unidos no uso de IA na Justiça Criminal, através do sistema COMPAS. A pesquisa bibliográfica concluiu, fundamentada na experiência do modelo americano, que os vieses algoritmos proporcionará grande desafio em pesquisas, estudos e regulamentação, no sentido de mitigarmos ao máximo, resultados enviesados de injustiças e preconceitos no âmbito do Direito tecnológico.