Auditorias antidiscriminatórias: diretrizes para auditorias administrativas para o combate à discriminação algorítmica em decisões automatizadas (art. 20, §2º, da Lei Geral de Proteção de Dados - LGPD)

• Ano de defesa: 2023
• Autor(a) principal: Lacerda, Maria Eugênia Geve de Moraes
• Tipo de documento: Dissertação
• Tipo de acesso: Acesso aberto
• Idioma: por
• Instituição de defesa: Biblioteca Digitais de Teses e Dissertações da USP
• Palavras-chave em Português: ANPD; Antidiscriminação; Antidiscrimination; Artificial intelligence; Audit; Auditoria; Data protection; Inteligência artificial; Proteção de dados
• Link de acesso: https://www.teses.usp.br/teses/disponiveis/2/2139/tde-08042024-120030/

Essa dissertação tem como objetivo apresentar os parâmetros por meio dos quais a Autoridade Nacional de Proteção de Dados deve conduzir auditorias de sistemas automatizados para verificar a existência de efeitos discriminatórios em seu funcionamento. A partir de revisão bibliográfica e estudo de casos práticos, o trabalho aborda auditorias como ferramenta de regulação da inteligência artificial (IA), analisa de que maneira algoritmos podem discriminar e, então, parte para a análise de como as auditorias devem ser conduzidas e como interpretar as regras dispostas no artigo 20 da Lei Geral de Proteção de Dados (LGPD). É feita ponderação entre auditorias realizadas por pessoas naturais ou sistemas automatizados, bem como o que seriam informações claras e adequadas ou os limites dos segredos industrial e comercial, como disposto na LGPD. Dentre as conclusões extraídas da pesquisa é possível indicar que as auditorias devem ser realizadas por pessoas naturais supervisionando sistemas automatizados, e dividida em três partes (governança, modelo e aplicação), cada uma com foco específico em determinado aspecto da tecnologia e da entidade desenvolvedora. As informações claras e adequadas disponibilizadas para o titular devem ser verdadeiras, inteligíveis e pertinentes, e os segredos comercial e industrial podem ter limites diferentes a depender do interlocutor, mas a atuação proativa de fornecedores de IA beneficia o ecossistema de regulação de IA e protege as tecnologias desenvolvidas.