Más ideas alrededor de la sentencia de lo del bono social de la luz

[En esta entrada abundo en lo escrito la semana pasada sobre el mismo asunto centrándome esta vez en la extraña interpretación que hace el derecho de la automatización, los algoritmos, la IA y todas esas cosas.]

I.

Comienzo con un par de historias que al principio podría parecer que no vienen al caso.

Realicé mi primera declaración de la renta allá por el 93. En esa época, uno iba a un estanco y por 45 pesetas adquiría un sobre grande en el que venían:

• Dos juegos de impresos para la presentación del IRPF, en triple papel de copia (blanco, azul y amarillo).
• Un libro de 200 o 300 páginas de instrucciones. Allí venía descrito el algoritmo.

Uno rellenaba las casillas con lapicero, operaba con la Casio según las instrucciones del tomito y cuando finalmente quedaba medianamente convencido de que todo cuadraba, lo pasaba todo a limpio en boli, firmaba los impresos a mano, se quedaba uno una de las copias para el archivo —aún guardo las mías de aquella época— y hacía llegar las otras dos a la administración.

Realizo declaraciones trimestrales del IVA desde el 2005. Las primeras se presentaban con una tecnología no muy distinta de la que describo en los párrafos anteriores. Cuando pasaba temporadas largas trabajando en el extranjero, tenía que organizar unos tejemanejes de padre y muy señor mío para poder firmar —de nuevo, a mano— los impresos físicos que luego presentaba en Hacienda.

Llegó un momento en el que todos comenzamos a protestar mucho y a preguntarnos por qué no existía un programa —entonces aún no se decía algoritmo ni IA— como tantos otros que existían en el sector privado o en otros países —según nos contaban— para liquidar nuestros impuestos. Programa que, finalmente, llegó —¿recordáis cómo no se podían apreciar bien los colores después de haber pasado unas horas trabajando sobre el tono amarillo chillón de la interfaz del programa PADRE?— y nos hizo a todos muy felices.

Curiosamente, a nadie se le ocurrió decir que era una máquina y no una persona la que decide de manera totalmente automática a cuánto asciende nuestra liquidación trimestral del IVA. Los datos de todos los autónomos se procesan automáticamente y un dinero desaparece de su cuenta el día 20 del mes posterior al cierre del trimestre sin que aquello pase por las manos físicas de funcionario alguno.

II.

La administración responsable del programa BOSCO pecó de ingenua. De haber sido yo el responsable de la cosa, habría procedido de la siguiente manera: en primer lugar, aquellos interesados en solicitar el bono social, tendrían que redactar una instancia a la vieja usanza, con buena letra y sin faltas de ortografía, ajuntando copias debidamente compulsadas de la documentación necesaria. Este ejercicio, además de propiciar la alfabetización de las clases menesterosas, retrasar la aparición de los síntomas del Alzheimer y reducir el consumo de telebasura, también movería a multitud de ONGs a implorar de la administración un programa que agilizase el proceso. Entonces les daría el programa BOSCO como quien echa pienso a los pollos. Seguro que así nadie le habría encontrado ninguna pega.

III.

Pero la sección II es un contrafactual. Como lo primero que se hizo fue BOSCO, alguien dijo ñiñiñí. Y para que les hicieran más casito, armó un relato en el que mezcló y confundió todo lo que pudo, citó a la reina de pelo azul de los ñiñiñís y vino a decirnos que tres en cadena if-elses+ son IA, que esta tiene que estar bien amarrada, etc.

Y no, no es IA. Si BOSCO fuese IA, sus autores habrían escrito en su CV: “yo trabajé en BOSCO”, con eso habrían ido a Silicon Valley, habrían conseguido trabajo en Anthropic u OpenAI, estarían ganando un chorro de dinero y viendo este debate tan tonto por televisión. Pero BOSCO, señores, tiene la complejidad algorítmica de un ascensor.

IV.

Llegado aquí, debería decir algo sobre esos otros modelos que tienen un núcleo estadístico.

• En general, en el debate entre las decisiones humanas y las automatizadas, tiendo a inclinarme por la postura de Meehl: sistemáticamente, las segundas son superiores a las primeras.
• Precisamente, estaba hoy leyendo un pasaje de The Laws of Trading donde el autor explicaba cómo gran parte de la infraestructura informática que opera en los hedge funds está pensada y diseñada para corregir los sesgos humanos en la toma de decisiones (de inversión). En esos entornos tan competitivos, no es, como dicen algunos, que un humano haya de supervisar a la máquina, sino que, más bien, las máquinas supervisan a los humanos.
• Un hedge fund no competitivo desaparece. Un estado ineficiente puede seguir operando prácticamente sine die y puede adoptar medidas cacotáxicas por motivos filosóficos o estéticos sin graves perjuicios para sí en el corto y medio plazo.
• Aunque cuando uno se zambulle en la factoría de los modelos, se observan demasiadas prácticas… manifiestamente perfectibles. Lo cual introduce un elemento de sospecha en la primera de las ideas aquí enumeradas.
• Además, aunque nadie hable explícitamente de ella —o tache sus preceptos de simples errores—, existe una rama esotérica de la estadística —que no tiene nombre oficial pero a la que suelo referirme como sofística estadística— que consiste en la construcción de modelos y argumentos estadísticos acordes a los intereses de quienes los financian. La existencia de tal disciplina introduce un elemento adicional de sospecha.
• Finalmente, el argumento más manido en contra de las decisiones automatizadas es precisamente el más débil. Se trata de ese según el cual individuos con unas prioris muy acentuadas denuncian que el proceso de entrenamiento de un determinado modelo lo ha hecho separarse de aquellas. Que los datos no refrenden sus ideas preconcebidas es un incordio. Entonces lo llaman sesgado, etc. Desafortunadamente, aun siendo débil, opera porque hemos decidido hacerles casito.

Es obvio que la discusión podría y debería extenderse, pero, ¿para qué? El colapso no ocurrirá ni cinco minutos después porque lo haya intentado.