«El futuro está en los datos».
«El big data es el presente y el futuro de las empresas». «El big data es una
de las profesiones con más demanda». Etc, etc, etc. Eslóganes y titulares de
miles de artículos hablando de la TENDENCIA en mayúsculas que ya mueve el
mundo… y que nadie controla. Porque vivimos en la «era del algoritmo»,
aparentemente imparable, y bendecida como más eficiente y equitativa pero,
¿conocemos realmente cómo funciona? ¿qué hay detrás? ¿cómo nos afecta —y
afectará—? Eso es lo que descubre Armas de destrucción matemática,
a cargo de la profesora y científica de datos Cathy O’Neil,
que Capitán Swing acaba de publicar.
Aviso a navegantes: sus conclusiones indignan y aterran a partes iguales.
Ph.D. en Matemáticas por Harvard,
postdoctorada en el departamento de Matemáticas del MIT y profesora en el
Barnard College, la propia trayectoria laboral de O’Neil habla
por sí sola de su evolución personal —su viaje hacia el desencanto— tras
comprobar cuál era el uso de los modelos matemáticos, teóricamente «objetivos»
y «neutrales», en el terreno corporativo-bancario-bursátil, así como sus
terribles consecuencias en nuestras vidas cotidianas. Del sector privado —entre
otras posiciones, analista de información cuantitativa para un fondo de
cobertura justo cuando la crisis-estafa estallaba— a Occupy Wall Street,
bloguera en mathbabe.org,
invitada semanal en el podcast Slate Money y autora de libros como Doing
Data Science —junto a Rachel Schutt— o Being a
Data Skeptic, antes de que Armas de destrucción matemática,
publicado en Estados Unidos en 2016, fuera nominado para el National Book Award
en la categoría de no ficción. La conversión de una brillante matemática en una
activista social mediante la exposición, o mejor dicho, revelación, de la
oscura «trastienda» de la inteligencia artificial.
Porque como afirma el demoledor
subtitulo del libro, Cómo el Big Data aumenta la desigualdad y amenaza
la democracia, la tesis O’Neil es clara y contundente.
Actualmente, las tecnologías basadas en algoritmos están reproduciendo, cuando
no exacerbando, los errores humanos, prejuicios y generalizaciones aberrantes
incluidas, de modelos estadísticos pretéritos. En estas páginas se desmonta por
completo la idea, mejor dicho, el mantra repetido «hasta el infinito», de que
la tecnología es imparcial, el paradigma de la democracia. En cambio, por aquí
desfilan sexismo, racismo, clasismo y máxima opacidad junto a
una, en cambio, «prensa» inmejorable —en un mundo de zombis, Apple, Google,
Facebook y compañía son «los reyes»—…. Vamos, que el big data es la
herramienta perfecta del capitalismo salvaje.
Lo que convierte a este ensayo en
una obra muy valiosa es que O’Neil no pretende iluminarnos con
el desglose pormenorizado de la analítica tras los algoritmos —aunque el libro
es lógicamente denso, no se puede negar—. Sino que nos muestra mediante
ejemplos perfectamente entendibles, cercanos y especialmente relevantes para
nuestras vidas, cuáles son las consecuencias de un sistema estadístico sesgado,
equivocado o… directamente manipulado. Una hipoteca, la concesión de un
préstamo, el seguro del coche, el proceso de selección tras una oferta de
trabajo, la elección de la universidad —y sus costes—, hasta la posibilidad de
acabar en prisión —afortunadamente esto todavía parece muy americano, pero como
la «ley mordaza» siga arrasando con todas nuestras libertades no sé yo…— tienen
detrás . Y, ¡oh sorpresa! Mientras menos pudiente, menos blanco y menos hombre
seas… más difícil lo tienes.
Armas de destrucción
matemática contiene
capítulos verdaderamente espeluznantes. La destrucción de las carreras de
brillantes y queridos profesores debido a sus resultados en un test de
evaluación que no tiene en cuenta —ni puede ni quiere— el factor humano y se
basa en categorías de computación arbitrarias o modificables torticeramente. El
doble rasero con el que una persona de color que haya tenido alguna disputa
judicial es etiquetada como «probable reincidente» mientras un acusado blanco,
en igual o peor situación, es considerado de «bajo riesgo» por el
sistema, ya que el segundo posee mayores ingresos económicos, estudios más
avanzados, vive en una zona mejor, etc. Es un ataque continuo a la pobreza, una
criminalización perversa, porque se retroalimenta —la policía focaliza su labor
en las zonas donde el modelo les informa de una mayor probabilidad delictiva,
deteniendo a más gente en ese área y encareciendo de ese modo los seguros para
la población con menos recursos—. Y lo peor es que perpetúan una espiral con
nuestra connivencia. Nos ponemos a ver Black Mirror, sin embargo no podríamos
vivir sin nuestro smartphone. Decimos estar preocupados por la
deshumanización de la sociedad. Pero encontramos de lo más curioso e
interesante que Amazon abra una tienda sin trabajador
alguno, o que una cadena comercial china lo sepa todo de
ti —incluida tu cuenta corriente, claro— una vez pones un pie en la
puerta. Infinitos moneyballs…
Y es que la lectura más poderosa,
en mi opinión, que puede extraerse de Armas de destrucción matemática,
es nuestra irresponsabilidad como ciudadanos y consumidores, nuestra falta de
respuesta, adoctrinados —pero de verdad— bobaliconamente ante el big data, algo
que no entendemos ni remotamente, pero que «abrazamos» cual nueva religión, y
que oculta la invasión en toda regla y sin cuartel, de un modelo económico que
ha encontrado un aliado aparentemente indestructible en el algoritmo. Porque es
tremendamente opaco, secreto —¿hay alguien capaz de meterse con Google, por
ejemplo, a estas alturas?—. Porque cuando la duda se manifiesta o se expone,
resulta demasiado complejo de explicar, por tanto ni medios ni ciudadanos
reaccionan ante su arbitrariedad. Porque genera ingresos crecientes, reforzando
por tanto al sistema —¿hay algo más capitalista que la frase «si da dinero es
bueno»?—, «demostrando», por tanto, que el software es
eficiente y productivo. O’Neil también plantea la evidente
solución. Debemos exigir transparencia, reversibilidad y regulación pública.
Pero para ello, primero debemos reconocer que existe un problema y conocer su
dimensión. Los datos, la información, nunca han sido inocentes ni imparciales.
¿Que nos hacía pensar que por añadirle el adjetivo big la cosa
iba a ser distinta? No es la lectura más sencilla. Tampoco los tiempos lo son.
Pero es más que necesaria. Aún podemos hacer algo…
No hay comentarios.:
Publicar un comentario