Armas de destrucción matemática. Cómo el big data aumenta la desigualdad y amenaza la democracia. O’Neil, C. (2017). Madrid: Capitán Swing.
Portada del libro
El título nos permite inferir con cierta probabilidad de acertar la esencia del contenido de esta obra de divulgación. Traer a colación el big data es clara señal de que estamos al día de las más recientes aportaciones científicas y, en general, de las creencias de que sus derivados, para la mayoría de los ámbitos de nuestras vidas, casi siempre serán positivos o muy positivos.
El principal valor de su autora, académica y profesional, analista cuantitativa (científica de datos) que conoce bien la transformación de la abstracción matemática en modelos matemáticos eficientes, es mostrarnos los efectos colaterales del empleo masivo de los análisis (algoritmos) del big data, en modo alguno positivos: básicamente el aumento de la desigualdad y peligro de la democracia, para buena parte de los seres humanos (los más vulnerables, los más desfavorecidos socialmente hablando). De ahí que la expresión más repetida a lo largo del libro sea el acrónimo (ADM –armas de destrucción matemática-). El desarrollar y desvelar este lado oscuro del big data ha de entenderse como un aspecto esencial y complementario de sus indudables virtudes, quedando en todo momento muy claro que la bondad o maldad del big data recae no tanto en las matemáticas en sí, cuanto en los objetivos y los controles que establecemos los humanos.
El libro está plagado de ejemplos (sumamente ilustrativos), pues de empresas bien conocidas se escribe, que muestran la innegable eficiencia (dentro de la económica digital) de los modelos matemáticos utilizados en el big data, a la par que de otros efectos no tenidos en cuenta y que sin embargo son muy perjudiciales para ciertos tipos o clases de individuos, que previamente han sido eficientemente segmentados por los algoritmos: mujeres, pobres, emigrantes, de un tipo determinado de etnia, por citar algunos de los más conocidos. Estos ejemplos abarcan desde la vida académica (profesores y alumnos) hasta nuestra propia salud, pasando por procesos de selección de trabajadores, valoración de préstamos o las votaciones dentro de nuestras democracias.
La pregunta esencial que vertebra esta obra y a la que se trata de dar una respuesta clara en el apartado de la conclusión, es: ¿no sería posible una utilización de los modelos matemáticos en el big data que además de mostrar su eficiencia para unos pocos pudiera ser de utilidad para una gran mayoría, sobre todo para las personas más vulnerables desde un punto de vista personal y social? La respuesta es claramente afirmativa, si se tienen en cuenta al menos algunas de estas consideraciones: a) la transparencia de los algoritmos, que en ocasiones brilla por su ausencia, pues la mayoría de las veces son opacos y no regulados; b) la incorporación de bucles de retroalimentación positivos, gracias a los cuales sea posible la corrección de los modelos al detectar que o bien estaban equivocados en su propia concepción y desarrollo o que han fallado en su implementación; c) la consideración de valores y de códigos justos; d) la transformación de los círculos viciosos (efecto mateo: el rico se hace cada vez más rico y el pobre cada vez más pobre, y no sólo en un sentido literal de riqueza material) en virtuosos (que la eficiencia se distribuya al menos por igual para todos los afectados).
La tesis que se defiende y se fundamenta, pues, es que todo lo relacionado con el big data (estamos hablando entre otras cosas de ganancias de billones de dólares en relativamente periodos cortos de tiempo) está tan cargado de importantes implicaciones para cada uno de nosotros que no puede ser dejado en manos únicamente de los especialistas. Es preciso tomar el control de la situación, mediante las correspondientes leyes y su obligado cumplimiento. Asunto éste urgente donde los haya, si no queremos convertirnos en esclavos de los algoritmos que están llamados a favorecer a una minoría a cuenta de las mayorías.
No es posible que desde la Psicología y la Educación pasemos por alto lo que significará en el futuro inmediato la utilización opaca y descontrolada de los algoritmos diseñados para el big data. Sin una reflexión bien fundamentada estamos peligrosamente expuestos a sufrir los daños de estas armas de destrucción matemática (ADM). En nuestras manos está el poderlas convertir en tecnología avanzada y eficiente de inmensa utilidad para las distintas facetas de nuestras vidas. Por ello y para ello, recomiendo su lectura.