Abre una aplicación de música y verás que no te pregunta qué quieres escuchar: observa cuánto tiempo te quedas en cada canción y arma sola la siguiente lista. Nadie te impone nada y, sin embargo, escuchas lo que un sistema calculó por ti. Antoinette Rouvroy y Thomas Berns llaman gubernamentalidad algorítmica a esa forma de gobernar con datos y perfiles.
Cada vez más decisiones sobre quién recibe un crédito, un beneficio o una vigilancia especial pasan por sistemas que procesan datos. Rouvroy y Berns, y también Louise Amoore, se preguntan qué le ocurre a la política en ese cambio.
Rouvroy y Berns (2018) llaman gubernamentalidad algorítmica a una racionalidad que no se apoya en normas generales previas, sino en la modelización y la anticipación de comportamientos a partir del procesamiento masivo de datos. La describen en tres momentos. En la recolección masiva de datos se capturan huellas digitales de forma automática, sin que las personas las entreguen con intención. En la minería de datos se producen perfiles y correlaciones probabilísticas que no remiten a una norma o a un promedio general. En la anticipación se actúa sobre el entorno para orientar los comportamientos posibles, sin coerción directa. Los autores sostienen que ese modo de gobernar funciona sin pasar por el sujeto reflexivo, y hablan de un «gobierno sin sujeto». Apoyándose en Simondon, advierten que reduce la disparidad, es decir, el encuentro de realidades diferentes que hace posible el disenso.
Amoore (2023) sostiene que el aprendizaje automático no es un simple cambio técnico en la administración estatal, sino una reordenación de lo político. Distingue los algoritmos de reglas secuenciales («si, entonces») de los modelos de aprendizaje profundo, que generan sus propias reglas a partir de los datos. Describe, además, un diseño retroactivo: se fija un objetivo de salida y se ajusta el modelo hacia atrás, de modo que el problema político termina definido por lo que el modelo puede resolver.
Rouvroy y Berns describen un modo de gobernar; Amoore, la manera en que los modelos reordenan el problema político. Leídas juntas, muestran que discutir solo la privacidad individual no alcanza: falta preguntar qué se decide, con qué criterios y si es posible impugnarlo. Y como la política es, entre otras cosas, la manera de procesar en común desacuerdos que no desaparecen, un gobierno que anticipa conductas y ajusta el entorno cambia dónde y cómo aparece ese desacuerdo. No todos lo ven así: hay quienes encuentran en estos sistemas una mejora de la administración pública y discuten el diagnóstico de ambas lecturas.
Las dos son diagnósticos con fuerte carga teórica y no analizan sistemas concretos de México o América Latina. Lo del gobierno sin sujeto es una tesis de los autores, no algo que pueda comprobarse en cada sistema; antes de aplicarla a un caso hay que conocer sus datos, su criterio de decisión y los medios para impugnarlo.
El texto de Rouvroy y Berns está en español, pero su prosa es densa: ayuda tener a la vista los tres momentos que describen. El de Amoore, en inglés, pide ir despacio con la diferencia entre algoritmos de reglas y modelos que generan las suyas.
Elige un sistema que uses a diario y que clasifique o recomiende algo: una plataforma de música, un buscador de empleo, la aplicación de tu banco. ¿Qué datos usa, con qué criterio decide y cómo podrías impugnar lo que decide sobre ti? Un cuadro con datos, criterio, decisión, persona afectada y posibilidad de impugnar te ayudará a ordenar la respuesta.
Referencias bibliográficas
Amoore, L. (2023). Machine learning political orders. Review of International Studies, 49(1), 20–36. https://doi.org/10.1017/S0260210522000031 Acceso abierto: https://durham-repository.worktribe.com/OutputFile/1204503
Rouvroy, A., y Berns, T. (2018). Gobernabilidad algorítmica y perspectivas de emancipación: ¿Lo dispar como condición de individuación mediante la relación? (M. Lourties, Trad.). Ecuador Debate, (104), 123–147. (Obra original publicada en 2013). Acceso abierto: https://repositorio.flacsoandes.edu.ec/bitstream/10469/15424/1/REXTN-ED104-10-Rouvroy.pdf Hay otra traducción al español en Adenda Filosófica, 1 (2016).
Deja una respuesta