Jorge González

La algoritmización progresiva de las actividades cotidianas otorga a un puñado de empresas un poder sin precedentes sobre (casi) todo lo que hacemos.

¿En qué circunstancias debemos permitir que un algoritmo decida por nosotros?

Algoritmizacion experiencia humana decisiones hombre con luces de neon

Piensa en lo último que has comprado, el anuncio más reciente que has visto, el restaurante donde cenaste el sábado, el libro que lees, los zapatos que calzas, incluso en el coche que conduces ¿qué hay detrás de todo ello?

Conforme los algoritmos que gestionan las aplicaciones que usamos a diario van conociéndonos mejor y vamos confiando más en ellos para tomar decisiones de todo tipo, entregamos parte del control de nuestras vidas a las empresas que los poseen y los instrumentan para mercantilizar la información que generamos a diario de la manera más lucrativa posible para las mismas.

Tras el orden de resultados en que nos aparecen las búsquedas que realizamos en Google, las amables respuestas que nos susurra Siri, los videos que ojeamos distraídamente en YouTube, las series que devoramos con fruición en Netflix, los titulares que repasamos encadenadamente en Facebook y en Twitter, las cosas que compramos por impulso a través de Amazon… e incluso tras las parejas que elegimos en Meetic, hay un conjunto de algoritmos específicamente construidos para orientar nuestras decisiones en una dirección determinada.

Nos encontramos ante la algoritmización de la experiencia humana, un fenómeno que empezó  de manera inopinada con los buscadores de internet y los muros de las redes sociales y se está propagando trepidantemente a un número cada vez mayor de sectores (alojamiento, transporte, salud, banca, seguros…), como consecuencia de las ventajas competitivas que los adelantos en Big Data, productos inteligentes conectados y desarrollo de refinadas técnicas de aprendizaje automatizado confieren a las empresas que crean los algoritmos que vertebran una serie plataformas que se aprovechan de la constante evolución de las tecnologías y protocolos de comunicación, el crecimiento de la nube y la ley de Moore.

No podemos afirmar categóricamente que este proceso sea bueno o malo, pues aún es demasiado pronto para conocer sus consecuencias a largo plazo. No obstante, lo que resulta evidente es que estamos inmersos en el mayor experimento social de la historia de la humanidad, granjeándonos el dudoso honor de ser nosotros mismos las ratas de laboratorio.

Hasta ahora, conocemos -en parte- los efectos que a nivel individual puede ejercer un algoritmo sobre el comportamiento de una persona. A nivel agregado, sin embargo, y a pesar de que algunos expertos consideran a plataformas como Facebook, clave en el éxito de desastres como la victoria del Brexit en el Reino Unido y la elección de Donald Trump como presidente de los Estados Unidos, la realidad es que estamos muy lejos de comprender las implicaciones que una algoritmización acelerada de la vida, va a suponer para la sociedad en su conjunto en el futuro.

De dónde venimos y adónde vamos

En el año 2003, Daniel Kahneman, padre de la economía conductual ,sintetizó siglo y medio de investigaciones sobre el funcionamiento del cerebro humano, descomponiéndolo en dos sistemas: El Sistema 1, que es rápido, involuntario, automático, precisa poco esfuerzo, es producto de milenios de evolución y se asocia con la intuición y la emoción. Y el Sistema 2, que es lento, consciente, requiere de mayor esfuerzo y se asocia con el raciocinio.

Ambos sistemas se sofistican con el tiempo. El Sistema 1, gracias a las experiencias que vivimos a diario, y el Sistema 2, mediante el esfuerzo dedicado a adquirir nuevos conocimientos y/o habilidades.

La operativa automática del Sistema 1, imposibilita desconectarlo ad libitum, motivo por el cual quedamos expuestos a cometer errores no siempre sencillos de prevenir. Su naturaleza ágil, le hace tomar atajos que, con frecuencia, están repletos de sesgos cognitivos, que, inconscientemente, se interponen en cómo procesamos la información, distorsionando nuestro juicio.

Una manera práctica de enfrentarnos a ellos es clasificarlos en función de los problemas que plantean, como propone el product manager de Patreon, Buster Benson:

  1. Estamos expuestos a tal avalancha de información, que nuestros sentidos son incapaces de procesarla, lo que nos fuerza a filtrarla agresivamente, desatendiendo así parte de la información verdaderamente relevante.
  2. Convertir la información en bruto en conocimiento con sentido, es un proceso complejo que requiere conectar gran variedad de datos dispersos para llegar a una conclusión razonable. El problema surge en el momento en que no sabemos cómo vincular algunas piezas y empezamos a cubrir los vacíos con asunciones personales, prejuicios, estereotipos, patrones, referencias pasadas, simplificaciones y sesgos, dando lugar a explicaciones erróneas (que pueden llegar a convertirse en sabiduría convencional).
  3. Nunca dispondremos del suficiente tiempo ni de los suficientes recursos para discernir entre todas las posibilidades que se nos plantean y poder tomar la mejor decisión, motivo por el que sacamos conclusiones apresuradas que pueden resultar contraproducentes.
  4. En el intento de llevar a cabo los anteriores procesos de manera eficiente, tratamos de recordar lo que nos parece más importante. Algunas de las cosas que recordamos añaden sesgos y perjudican aún más nuestro discurrir.

No siempre sabemos distinguir cuándo el Sistema 1 está en marcha y cuándo no. Nuestra intuición no es tan buena como creemos. De hecho, muchas de las conclusiones a las que llegamos, no son más que justificaciones que el Sistema 2 realiza a posteriori, influido inconvenientemente por el Sistema 1.

Ante este panorama, no es de extrañar que las empresas tecnológicas pongan todo su empeño en “ayudarnos” a evitar que nuestro descontrolado Sistema 1 descarrile a nuestro más comedido Sistema 2.

En el segundo capítulo de “Machine Platform Crowd”, los investigadores del MIT Andrew McAfee y Erik Brynjolfsson presentan una serie de ejemplos de casos recientes en los que aplicar algoritmos y establecer métodos para evitar decisiones arbitrarias, cosecha mejores resultados que la pericia y la intuición de personalidades tan diversas como banqueros e inversores, seleccionadores deportivos, jueces, economistas, profesores, médicos y responsables de recursos humanos, por lo que, intuitivamente, concluir que deberíamos confiar menos en los expertos y sus predicciones, y más en algoritmos diseñados para esquivar nuestros errores cognitivos se torna como algo racional y conveniente. Pero…

 ¿Son siempre mejores las decisiones de los algoritmos que las de las personas?

No necesariamente.

En palabras del profesor de la Facultad de Informática de la Universidad Complutense, Ricardo Peña Marín, “un algoritmo es un conjunto de reglas que, aplicadas sistemáticamente a unos datos de entrada apropiados, resuelven un problema en un numero finito de pasos elementales”. Por tanto, un algoritmo será tan bueno para tomar una decisión como los datos con que se alimente. Además, dependerá fuertemente de los sesgos de quien lo haya diseñado y del criterio de evaluación de los resultados que ofrezca. Actualmente el potencial de la inteligencia artificial para cambiar el mundo en que vivimos es tan alto como lo son sus limitaciones.

Albergar la esperanza de que la algoritmización de nuestra vida vaya a sosegase debido a sus limitaciones técnicas y prácticas, es una ingenuidad. Se avanza a pasos de gigante en la dirección opuesta. Todo sistema gobernado por algoritmos es susceptible de contener errores, prejuicios y sesgos, por lo que el criterio para evaluarlo no puede ser nunca su perfección, sino su superioridad para resolver problemas con mayor eficiencia y eficacia que las personas, y su capacidad para mejorar y corregir errores de manera iterativa de forma rápida y sencilla.

Allá donde se cruzan los caminos

En el gran éxito editorial “Homo Deus”, el mediático historiador israelí, Yuval Noah Harari, define la experiencia como un fenómeno subjetivo integrado por una tríada de componentes principales: sensaciones, emociones y pensamientos. La experiencia humana, continúa, es la suma de todo lo que percibimos (frío, dolor, mareo, concentración…), todo lo que sentimos (amor, odio, asco, miedo, felicidad, tristeza…) y todo lo que se nos pasa por la cabeza (fruto de lo que percibimos y sentimos).

En consecuencia, una persona sensible es aquella que presta atención a sus emociones, sensaciones y pensamientos; y se expone a que estas puedan modificar sus opiniones, su conducta y hasta su manera de ser.

La experiencia es inconcebible sin sensibilidad. Van de la mano, actúan recíprocamente. La sensibilidad es una facultad propia de los humanos que nace y evoluciona al compás de las cosas que nos suceden.

Detenernos por un momento a pensar qué papel queremos que la tecnología juegue en nuestras vidas y valernos de nuestra sensibilidad para tratar de observar lo que nos rodea a través de distintas lentes, constituye en mi parecer, la diferencia entre servirnos de los algoritmos para alcanzar nuestras metas, y que los algoritmos se sirvan de nosotros para alcanzar las de otros.

Imagen: Drew Graham

¿HABLAMOS?

Jorge González

Creador de THINK&SELL. Consultoría estratégica, creativa y de innovación orientada a la generación de oportunidades que multipliquen el valor de la marca y el ROI a través de una mejor Experiencia de Cliente.