“Trustworthy ai” : contestando decisões tomadas por inteligência artificial à luz da proteção de dados pessoais - Seixas, Maria Clara de Souza (2024)
Na atualidade, os sistemas de Inteligência Artificial (IA) e seus algoritmos complexos estão remodelando profundamente o tecido social e econômico global. Estes sistemas, capazes de processar volumes massivos de dados e tomar decisões automatizadas, estão se infiltrando em praticamente todos os aspectos da vida cotidiana, desde a escolha de rotas de tráfego até decisões que impactam profundamente direitos fundamentais como os direitos à liberdade, à vida e à privacidade. A evolução do machine learning e do deep learning ampliou exponencialmente o alcance e a sofisticação desses sistemas, levantando questões cruciais sobre transparência, equidade e accountability. Diante desse panorama de rápida transformação tecnológica, emergem desafios inéditos para o campo jurídico e ético. A capacidade desses sistemas de IA de influenciar e até mesmo determinar aspectos críticos da vida humana suscita debates urgentes sobre a necessidade de novos marcos regulatórios e princípios éticos. O conceito de "Trustworthy AI" ganha destaque, propondo uma abordagem centrada no ser humano, que prioriza o respeito aos direitos fundamentais e a promoção do bem-estar social. Paralelamente, cresce a demanda por mecanismos efetivos de contestação das decisões tomadas por esses sistemas automatizados, essenciais para salvaguardar a autonomia e os direitos individuais. Esta monografia se propõe a explorar criticamente o poder crescente dos sistemas de IA como "tomadores de decisão" na sociedade contemporânea. O trabalho analisa os impactos multifacetados dessa tecnologia, com ênfase na questão crucial do direito de contestação das decisões automatizadas. Investigam-se as complexidades inerentes à implementação de uma IA confiável e ética, bem como os desafios para estabelecer estruturas legais e regulatórias que garantam a proteção dos direitos fundamentais frente a potenciais vieses e “injustiças” algorítmicas. Por fim, o estudo se debruça sobre a concepção de um framework robusto para o direito de contestação, articulando princípios como a autodeterminação informativa e o devido processo legal no contexto digital, visando equilibrar a inovação tecnológica com a preservação dos valores democráticos e dos direitos humanos.