Armas de destrucción matemática

Cathy O’Neil tiene un doctorado en matemáticas de Harvard y trabajó como quant en Wall Street antes de convertirse en una de las voces más críticas sobre el poder que le dimos a los algoritmos. Armas de destrucción matemática es el resultado de ese cambio de bando.

Por qué lo recomienda Yuval Noah Harari

Harari incluyó este libro en su colección de lecturas esenciales para entender el presente, describiéndolo así: “en este libro fascinante y profundamente perturbador, O’Neil explica cómo la autoridad se está trasladando de los humanos a los algoritmos de Big Data, que deciden si te dan un préstamo, te ofrecen un trabajo, o hasta te encierran en la cárcel”. Para Harari, que en su propia obra viene advirtiendo sobre el traspaso de autoridad de los humanos a los datos, este libro funciona como el estudio de caso concreto de esa tesis.

De qué trata

O’Neil recorre distintos ámbitos —créditos bancarios, seguros, contratación laboral, sentencias judiciales, publicidad electoral— donde modelos matemáticos automatizados toman decisiones que afectan vidas reales, muchas veces reproduciendo y amplificando discriminaciones existentes bajo una capa de aparente objetividad numérica. Llama a estos sistemas “armas de destrucción matemática”: modelos opacos, a gran escala y dañinos, que sus propios creadores rara vez auditan.

La falsa neutralidad de los números

La idea más incómoda del libro es que un algoritmo no es neutral solo por estar hecho de matemáticas: refleja los sesgos y las prioridades de quienes lo diseñaron, y su opacidad hace casi imposible cuestionarlo o apelarlo, a diferencia de una decisión humana que al menos puede explicarse y discutirse.

Para quién es

Para lectores interesados en tecnología, ética de datos y cómo la automatización está redefiniendo el poder en la sociedad contemporánea, sin necesidad de formación técnica previa.

Edición en español: Armas de destrucción matemática, Capitán Swing (traducción de Amelia Pérez de Villar).