Colonialismo digital e ditadura de dados: o papel da accountability algorítmica sobre agentes inteligentes na democracia moderna - Assis, Jessicka Oliveira de (2024)
O presente estudo busca argumentar acerca do surgimento de um sistema econômico baseado na financeirização da tecnologia, que, a partir da manipulação e processamento dos dados, escalou a evolução do algoritmo. Se, de um lado, o bem mais valioso da atualidade (o dado) compõe uma forma de dominação pautada na opacidade, aqui entendida como a ausência de autodeterminação informativa do titular sobre seus dados; de outro, a forma de produção deste valor (o algoritmo), maximizada pelo poder computacional mais tecnológico do cenário mundial (a inteligência artificial), se assenta sobre bases de inescrutabilidade e incompreensibilidade. Com seu poder digital, a má utilização de tais elementos passam a se agigantar como potenciais ameaças à democracia como a conhecemos. O objetivo principal deste estudo é o de compreender se, e, se sim, de que forma o Direito vem compatibilizando os novos fatores de produção aos pilares democráticos. A pesquisa se justifica pela utilização contínua e constante de tais tecnologias, a despeito das potenciais consequências dessa utilização. Os objetivos específicos estão diretamente relacionados ao objeto delimitado como tema, sendo eles: (i) arguir sobre a importância dos dados como os maiores ativos financeiros da atualidade, apresentando elementos que evidenciem a cleptocracia de dados; (ii) apresentar a ausência de autodeterminação informativa do titular dos dados e sua relação com a dominação advinda do poder sobre dados; (iii) conceituar algoritmo e analisar seu papel no extrativismo e monetização de dados no capitalismo de vigilância; (iv) conceituar a inteligência artificial como forma mais avançada da utilização do algoritmo e evidenciar, a partir de casos concretos e dados estatísticos, se os cenários já apresentados por especialistas da área tendem a se concretizar ou não na atualidade; (v) apresentar a inescrutabilidade e opacidade dos sistemas de IA como óbices à accountability e, em última instância, como ameaças à democracia diante da modernização dos fatores de produção; (vi) analisar fontes jurisprudenciais e legislativas do Direito a fim de compreender se há dificuldades hermenêuticas de se compatibilizar as bases principiológicas da IA e do uso de dados aos pilares democráticos. Parte-se da hipótese de que se não houvesse compatibilização hermenêutica entre os princípios basilares do Estado Democrático de Direito e a financeirização-dataficação algorítmica este último seria proibido. Havendo compatibilização, para que os incidentes continuassem a se perpetuar da forma que se vê na atualidade, parte-se da premissa de que, para além das dificuldades de aplicação prática, podem existir desajustes interpretativos das fontes do Direito. Utiliza-se uma metodologia qualitativa, valendo-se das pesquisas bibliográfica e documental, realiza-se uma revisão bibliográfica pautada numa análise de corpus.