Vivimos en la edad del algoritmo. Las decisiones que afectan a nuestras vidas no están hechas por humanos, sino por modelos matemáticos. En teoría, esto debería conducir a una mayor equidad: todos son juzgados de acuerdo con las mismas reglas, sin sesgo. Pero en realidad, ocurre exactamente lo contrario. Los modelos que se utilizan en la actualidad son opacos, no regulados e incontestables, incluso cuando están equivocados. Esto deriva en un refuerzo de la discriminación: si un estudiante pobre no puede obtener un préstamo porque un modelo de préstamo lo considera demasiado arriesgado (en virtud de su código postal), quedará excluido del tipo de educación que podría sacarlo de la pobreza, produciéndose una espiral viciosa. Los modelos apuntalan a los afortunados y castigan a los oprimidos: bienvenido al lado oscuro del big data.

O’Neil expone los modelos que dan forma a nuestro futuro, como individuos y como sociedad. Estas «armas de destrucción matemática» califican a maestros y estudiantes, ordenan currículos, conceden (o niegan) préstamos, evalúan a los trabajadores, se dirigen a los votantes, fijan la libertad condicional y monitorean nuestra salud.

Cathy O'Neil

Estados Unidos, 1972

Obtuvo un Ph.D. en Matemáticas de Harvard, fue postdoctorada en el departamento de Matemáticas del MIT y profesora en el Barnard College, donde publicó una serie de trabajos de investigación en geometría algebraica aritmética. Luego se cambió al sector privado, trabajando como experta en análisis y gestión de información cuantitativa para el fondo de cobertura D. E. Shaw en medio de la crisis crediticia, y luego para RiskMetrics, una compañía de software de riesgo que evalúa el riesgo para las tenencias de fondos de cobertura y bancos. Tras desencantarse del mundo de las finanzas, O’Neil se involucró con el movimiento Occupy Wall Street, participando en su Grupo de Banca Alternativa. Dejó las finanzas definitivamente en 2011 y comenzó a trabajar como científica de datos en el sector de start-ups de Nueva York, creando modelos que predecían las compras y los clics de las personas. Es una invitada semanal en el podcast Slate Money. Es coautora (con Rachel Schutt) de Doing Data Science: Straight Talk from the Frontline. También escribió el libro electrónico Being a Data Skeptic.

Su libro Armas de destrucción matemática fue publicado en Estados Unidos en 2016 y fue nominado para el National Book Award 2016 en la categoría de no ficción. Cathy mantiene el blog mathbabe.org, donde opina sobre todo lo cuantitativo. En él espera encontrar una respuesta mejor a la pregunta: «¿Qué puede hacer un matemático no académico para que el mundo sea un lugar mejor?».