#Columna: Valores compartidos

#Columna: Valores compartidos

Valores compartidos

Cuando no entiendo las decisiones de otros, o más bien cuando encuentro que esas decisiones van en contra de la lógica, tengo que hacer un gran esfuerzo para morderme la lengua y no irme por el camino fácil de pensar que hay gente bien pendeja. Más bien escojo pensar que tenemos escalas de valores diferentes.

Por ejemplo, aunque todos nos beneficiamos de una buena apariencia, para un actor de cine o una modelo de pasarela tiene todavía más importancia verse bien porque su trabajo se ve directamente perjudicado si su apariencia decae. Por eso para ellos tiene sentido hacerse cirugías estéticas o pasar cuatro horas al día en un gimnasio, mientras que para un jugador de ajedrez esas mismas decisiones serían ilógicas.

Por eso es tan importante que cuando definimos los objetivos y el sistema de valores de un sistema (ya sea una empresa, un hijo o una inteligencia artificial) tengamos cuidado de que un objetivo secundario no esté por encima del bienestar común. Específicamente Elon Musk expuso en la Cumbre de Vanity Fair de 2017 que “si hay una súper inteligencia digital, especialmente si está comprometida con auto mejoramiento, cuya optimización o meta de funcionamiento vaya en detrimento de la humanidad, va a tener un muy mal efecto. Podría ser algo como deshacerse del correo basura, que la llevaría a la conclusión de que el mejor camino para librarse del spam es deshacerse de los humanos, que son la fuente de todo el correo basura”. Aquí el objetivo secundario (no más spam) se definió para aportar a lograr un objetivo principal (aumentar el bienestar de la humanidad), pero como este último no se hizo explícito en la escala de valores del sistema, el cumplimiento del objetivo secundario se podría volver perjudicial.

Y aunque muchos tildan a Elon de exagerado, yo creo que tiene razón porque ya hemos visto escenarios así antes. Un caso típico es el de las corporaciones, diseñadas para resolver problemas sociales o suplir una necesidad, que en el transcurso del siglo pasado se volvieron aplanadoras que solo viven para maximizar la rentabilidad de sus accionistas. Así, vemos a gigantes como Apple que dejan de invertir sus utilidades en investigación y desarrollo, o en pagarles más a sus empleados, para recomprar sus propias acciones en Wall Street y así subir artificialmente el valor de cada acción. De esta forma, dejan de beneficiarse los clientes y empleados de la corporación para que los inversionistas se vuelvan todavía más ricos.

Otro caso más cercano para nosotros es el de los infames “falsos positivos” que creíamos habían quedado en un pasado vergonzoso cuando Uribe salió de la Casa de Nariño. Aparentemente han regresado según la denuncia del The New York Times en la que se les ordenó a las tropas “que dupliquen la cantidad de criminales y rebeldes que matan, capturan u obligan a rendirse en batalla; y posiblemente acepte un aumento de las bajas civiles en el proceso”. Aquí, un objetivo secundario (aumentar la efectividad en combate) estaría por encima del objetivo principal, que es proteger la paz y prosperidad de los ciudadanos.

Por eso es importante que nos pongamos de acuerdo sobre los valores principales que debemos compartir. En algo ha servido que las empresas empiecen a ver la Responsabilidad Social Empresarial como un área que va en beneficio de todos y ayuda a equilibrar la búsqueda ciega de rentabilidad para los accionistas sin importar los costos sociales. Y también que el Presidente busque supervisión independiente a las órdenes entregadas a los militares para garantizar que su uso de la fuerza esté al servicio de los más indefensos.

De la misma forma, también se puede buscar que en el desarrollo de inteligencias artificiales de una vez se les incorporen nuestros valores compartidos, no solamente algún valor secundario por ahí suelto que lleve a una eventual súper inteligencia artificial a vernos como un estorbo en el logro de su meta. No hay que dar taaaaanta papaya.

 

Escrita por:

 Andrés Meza Escallón

@ApoloDuvalis

https://elclavo.com/columnas-en-el-clavo/columnistas/andres-meza/

https://elclavo.com/author/ameza/

 

 

Comentarios

comentarios

Leave a Reply