#Columna: La Tiranía de los Algoritmos

#Columna: La Tiranía de los Algoritmos

La Tiranía de los Algoritmos

En “Gattaca (1997)” unos jovencísimos Jude Law, Uma Thurman e Ethan Hawke nos mostraban los riesgos de una sociedad donde el ADN de los ciudadanos determinaba el rol que ocuparían en la sociedad. En teoría esa práctica tenía sentido: si concentramos nuestros recursos en hacer que estudien quienes tienen una predisposición genética para ser más inteligentes, que entrenen los que según sus genes serán más fuertes o que practican un arte quienes según su ADN sean más sensibles, pues los recursos se usarán más eficientemente. Por ejemplo, no desperdiciaban clases de matemáticas en quien no tiene con qué hacer algo valioso con eso y que le puede estar quitando el cupo a un genio en potencia que está lavando parabrisas en un semáforo. En otras palabras, no gastar pólvora en gallinazos, lo que tiene sentido, ¿verdad?

Separando lo deseable de lo indeseable

Pues a riesgo que me acusen de tirar ‘spoilers’ a pesar de que tuvieron más de 20 años para verse la película, resulta que en la práctica seleccionar el oficio según los genes no era infalible. Una razón es que los genes son sólo una parte de la ecuación, habiendo en juego otros factores estudiados por la epigenética. Usando la analogía de un piano, los genes son las teclas con las que nacimos, pero la partitura que define cuáles teclas tocar y cuáles no, se escribe durante nuestra vida. Esto da espacio para que la alimentación, la educación y la propia voluntad del individuo lleven a evitar las teclas que suenan feo y aprovechar al máximo las chéveres.

Otra razón por la que la sociedad de Gattaca le fallaba a sus ciudadanos es que fueron seres humanos quienes decidieron cuáles genes eran “positivos” o “negativos”, o según nuestra analogía, cuáles teclas son las que suenan bien y cuáles suenan mal. Y los seres humanos, ya se trate de genetistas, economistas, científicos de datos o programadores, tenemos nuestros propios sesgos personales y culturales acerca de lo que es “bueno” o “malo”, “deseable” o “indeseable”.

El señor de los algoritmos

Aunque la película estaba ambientada en un futuro cercano, creo que ya vivimos en una sociedad con problemas similares. En la medida en que dependemos más de las redes sociales digitales como Twitter, Instagram y Facebook para relacionarnos con nuestro entorno, tienen más poder sobre cómo percibimos el mundo, es decir aquellos que diseñan los algoritmos que deciden qué vemos en esas plataformas. En palabras de Cathy o’Neil “un algoritmo necesita dos cosas: datos ocurridos en el pasado y una definición del éxito; esto es, lo que uno quiere y lo que desea”.

Esta definición de éxito puede cambiar, como lo ilustra muy bien una infografía sobre los cambios que Mark Zuckerberg ha hecho desde 2009 sobre el algoritmo que selecciona lo que vemos en nuestra línea de tiempo en Facebook. De ahí se desprende que el criterio con el que se programan los algoritmos que filtran y priorizan todo en el entorno digital es crítico y no es lo mismo el criterio de un terrateniente ganadero que el de un indígena, de un banquero o de una madre soltera adolescente.

Y esto se extiende también fuera del entorno digital, donde es un algoritmo en un banco el que decide si me ofrecen un crédito para montar un negocio o si me consideran demasiado riesgoso como para siquiera considerar mi solicitud. También es un algoritmo en el área de selección de personal de una empresa el que decide si un seleccionador al menos lee mi hoja de vida para llamarme a una entrevista o no.

Por eso no podemos pensar que porque es una máquina la que decide, esa decisión va a ser objetiva. Como en Gattaca, esas decisiones estarán parcializadas por el criterio subjetivo de quien diseñó los algoritmos que gobiernan a la máquina, además de que los solos datos (por completos que sean) no muestran la imagen completa. Y ya es hora de que tengamos al menos visibilidad sobre esos criterios definidos por tipos como Zuckerberg (a quienes no elegimos), y que tienen cada vez más impacto sobre nuestras vidas.

Escrito por:

Andrés Meza Escallón

@ApoloDuvalis

https://elclavo.com/columnas-en-el-clavo/columnistas/andres-meza/

https://elclavo.com/author/ameza/

Comentarios

comentarios

Leave a Reply