Weapons of Math Destruction

Así se titula un libro que no he leído y que, pese a lo cual, como los malos críticos, voy a comentar. Los libros suelen estar plagados de hojarasca, tal vez porque de otra manera no se puede hacer crecer un par de ideas más o menos originales a las cientoypico páginas como mínimo que uno espera encontrar entre dos tapas. El relato corto no da caché. Y yo ando corto de tiempo.

Así que haré caso a los comentaristas del libro, que me informan de que revisa desde una perspectiva moral el efecto de los modelos estadísticos y su aplicación a diversos ámbitos que afectan a personas: admisiones, concesiones de créditos, fijaciones de precios y otros. Y que es, además, fiel a su título (concedo que muy ingenioso): los tacha de armas de destrucción masiva por tres de sus presuntas propiedades: son opacos, son ubicuos y causan daño.

¿Opacidad? Es tarde para preocuparse ya de eso. En tiempos, las cosas no eran opacas: el botijo era uno de los instrumentos más sofisticados que mucha gente utilizaba. Pero hoy en día, ¿qué hay que no sea opaco? Usamos ordenadores, programas, etc. y nos fiamos de ellos. Como de los coches o de esos móviles que tienen las piezas pegadas a la caja. Hacemos caso del médico del seguro, que escribe nuestro diagnóstico en un informe en un idioma que parece otro y tomamos medicinas cuya composición se nos escapa. Pagamos impuestos siguiendo reglas que, pensamos, son las correctas (¿quién ha leído y comprendido la ley que rige el IRPF o el IVA?) y casi seguro cualquiera de nosotros está incumpliendo alguna ley oscura. Nadie entiende ni ha entendido jamás una nómina (española). ¿Y de repente queremos que a cualquier gañán del Cercanías que pasa por Coslada entienda una regresión logística? Lo siento, pero la transparencia no es una propiedad, ni siquiera una propiedad deseable, de los cachivaches propios de una sociedad avanzada. Las cosas solo son claras para nuestros intermediarios, llámense médicos, abogados, informáticos o contables.

El daño que se ve que causan, por lo que dicen los comentaristas, parece reducirse a la tendencia a perpetuar ciertos prejuicios. Creemos que la subpoblación X es menos digna de recibir un préstamo y ese sesgo viaja a nuestros modelos; entonces, la subpoblación X seguirá siendo perjudicada por el sistema bancario. Daño.

Ya se ha hablado previamente en estas páginas del papel de los prejuicios, su inmerecida mala prensa y su relación con la modelización estadística. Los prejuicios debidamente modelados son prioris: lo que se sabe antes de ver datos. ¿Qué podemos saber de alguien antes de ver su comportamiento? Su sexo, su raza, su dirección, su nivel de estudios, cómo viste, etc., la primera impresión. De que un modelo construido con primeras impresiones reproduzca nuestros prejuicios, pueden hacerse dos lecturas. La primera, la del libro: que, de algún modo, se nos han colado ahí (¿y que eso es indeseable?).

La segunda, más optimista, es que nuestros prejuicios, o muchos de ellos, en el fondo, están justificados, refrendados por modelos objetivos construidos con datos. Igual a alguien no le guste leer eso y, bien, le daré la bienvenida al club de aquellos a los que no nos gusta leer determinadas cosas. ¡Qué se le va a hacer!

El problema es que, da la impresión, los modelos que discute la autora son de inspiración frecuentista. Seguramente no son adaptativos, no van actualizándose con el comportamiento observado de los sujetos a los que se aplica. Que debería ser una propiedad fundamental de cualquier tipo de modelo de los que discute la autora.

Algunos nacimos y crecimos y aborrecimos barrios que se llamaban Arrabal, San José o Las Fuentes. Teníamos la suerte del esperma en contra (relativamente: no hablamos de Gabón). Pero salimos de ahí sin lloriquear. Los que se quedaron podrán siempre echarle la culpa a algún tipo de weapon of math destruction.

5 comentarios sobre “Weapons of Math Destruction

  1. Ignacio 16 enero, 2017 19:04

    Desde la corrección política se podría hacer una tercera lectura, aun más positiva. Que nuestros modelos apliquen estrategias para evitar sesgos indeseados, propagados por unos datos a priori demasiado influenciados por los prejuicios.

  2. Carlos J. Gil Bellosta 17 enero, 2017 15:59

    El problema es que la moral es como el culo, que cada cual tiene el suyo. La ley te puede prohibir utilizar la raza, por ejemplo, pero como se discute tanto por ahí, en EE.UU. metes el código postal y ahí tienes un proxy suyo suficientemente bueno. ¿Que la práctica deja en papel mojado la ley? ¿Y?

    Antaño, los libros traían un nihil obstat, un sello indicativo de que habían recibido el visto bueno de un censor (eclesiástico). Supongo que eso respondía al contrato social (si es que el concepto puede definirse objetivamente, que es otra cuestión) de la época. Si repasas épocas y sus correspondientes

  3. contratos sociales
  4. verás cosas la mar de chirriantes. ¿Por qué el de ahora, si alguno, debería ser mejor a los ojos de los que nos sucederán?

    Más aún, ¿quién será designado para estampar nihil obstats contemporáneos? Se me ocurre una serie de candidatos la mar de graciosos.

    De todos modos, lo que venía a contar yo en la entrada es que si los modelos reflejan prejuicios, una de las posibles interpretaciones es la de que los prejuicios, cuestionables o no desde un punto de vista moral, podrían estar justificados (al menos, por los datos). Uno es libre de descartar información por el motivo que quiera. Allá cada cual.

  5. José manuel 22 enero, 2017 16:07

    Creo que es el mejor comentario sobre un libro no-leido que he visto nunca.
    El libro está en mi pila de lectura. Será interesante confirmar o descartar los prejuicios que he visto hasta ahora sobre el mismo.
    Muy de acuerdo en lo de la opacidad. Cualquier tecnología suficientemente avanzada es indistinguible de la magia.
    Lo de los sesgos en cambio, si considero que al menos debemos pelear por ser conscientes de ellos, más allá de la discriminación que producen, por el simple motivo de que llevan a conclusiones erróneas. Conclusiones del tipo: los pobres son pobres porque son vagos, ergo inferiores; y similar.

Los comentarios están desabilitados.