Selo #Algolatr.IA Recomenda: Livro “Algoritmos de Destruição em Massa”, da Cathy O'Neil – Editora Rua do Sabão

A obra, intitulada originalmente “Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy” e publicada pela primeira vez em 2016 foi considerada um best-seller pelo New York Times. Em terras brasileiras, sua publicação ocorreu em 2020.

Cathy O'Neil, desenvolvedora de Big Data, Cientista de Dados e PHD em matemática pela universidade de Harvard,  apresenta  aos leitores os problemas e desafios de se confiar cada vez mais em sistemas de inteligência, que por muitas vezes não contemplam toda realidade.

A autora parte do princípio de que os algoritmos estão cada vez mais presentes nos assuntos humanos, e que estamos transferindo nossa confiança da matemática para certos modelos que não entendemos como funcionam. Dessa maneira, os algoritmos geram injustiças porque se baseiam em modelos matemáticos concebidos para reproduzir preconceitos, equívocos e vieses humanos.

Em um dos inúmeros exemplos, menciona o distrito escolar de Washington, que se utilizando de um sistema de pontuação por algoritmos, identificou os professores menos produtivos. Na ocasião, foram demitidos 205 docentes, pois esse modelo os considerou maus professores.

A autora também alerta para a automatização dos processos de seleção, que vem crescendo entre 10% a 15% ao ano. Nos EUA, cerca de 72% dos currículos recebidos pelas empresas de RH não são analisados por pessoas e sim por máquinas, o que gera uma grande desigualdade.

A abordagem é muito clara e a linguagem utilizada é bastante simples, fazendo com que a obra seja acessível a todo tipo de público, independente do grau de conhecimento sobre matemática, estatística, ciências de dados ou outras áreas do conhecimento.

Uma obra necessária, que nos leva a refletir sobre os rumos que a tecnologia vem alcançando e sobre a necessidade de proposição de um modelo mais ético, mais justo e menos discriminatório para a utilização dos dados em nosso cotidiano.