La algoritmización progresiva de las actividades cotidianas otorga a un puñado de empresas un poder sin precedentes sobre (casi) todo lo que hacemos.

¿En qué circunstancias debemos permitir que un algoritmo decida por nosotros?

Piensa en lo último que has comprado, el anuncio más reciente que has visto, el restaurante donde cenaste el sábado, el libro que lees, los zapatos que calzas, incluso en el coche que conduces ¿qué hay detrás de todo ello?

Conforme los algoritmos que gestionan las aplicaciones que usamos a diario van conociéndonos mejor y vamos confiando más en ellos para tomar decisiones de todo tipo, entregamos parte del control de nuestras vidas a las empresas que los poseen y los instrumentan para mercantilizar la información que generamos a diario de la manera más lucrativa posible para las mismas.

Tras el orden de resultados en que nos aparecen las búsquedas que realizamos en Google, las amables respuestas que nos susurra Siri, los videos que ojeamos distraídamente en YouTube, las series que devoramos con fruición en Netflix, los titulares que repasamos encadenadamente en Facebook y en Twitter, las cosas que compramos por impulso a través de Amazon… e incluso tras las parejas que elegimos en Meetic, hay un conjunto de algoritmos específicamente construidos para orientar nuestras decisiones en una dirección determinada.

Nos encontramos ante la algoritmización de la experiencia humana, un fenómeno que empezó  de manera inopinada con los buscadores de internet y los muros de las redes sociales y se está propagando trepidantemente a un número cada vez mayor de sectores (alojamiento, transporte, salud, banca, seguros…), como consecuencia de las ventajas competitivas que los adelantos en Big Data, productos inteligentes conectados y desarrollo de refinadas técnicas de aprendizaje automatizado confieren a las empresas que crean los algoritmos que vertebran una serie plataformas que se aprovechan de la constante evolución de las tecnologías y protocolos de comunicación, el crecimiento de la nube y la ley de Moore.

No podemos afirmar categóricamente que este proceso sea bueno o malo, pues aún es demasiado pronto para conocer sus consecuencias a largo plazo. No obstante, lo que resulta evidente es que estamos inmersos en el mayor experimento social de la historia de la humanidad, granjeándonos el dudoso honor de ser nosotros mismos las ratas de laboratorio.

Hasta ahora, conocemos -en parte- los efectos que a nivel individual puede ejercer un algoritmo sobre el comportamiento de una persona. A nivel agregado, sin embargo, y a pesar de que algunos expertos consideran a plataformas como Facebook, clave en el éxito de desastres como la victoria del Brexit en el Reino Unido y la elección de Donald Trump como presidente de los Estados Unidos, la realidad es que estamos muy lejos de comprender las implicaciones que una algoritmización acelerada de la vida, va a suponer para la sociedad en su conjunto en el futuro.

De dónde venimos y adónde vamos

En el año 2003, Daniel Kahneman, padre de la economía conductual ,sintetizó siglo y medio de investigaciones sobre el funcionamiento del cerebro humano, descomponiéndolo en dos sistemas: El Sistema 1, que es rápido, involuntario, automático, precisa poco esfuerzo, es producto de milenios de evolución y se asocia con la intuición y la emoción. Y el Sistema 2, que es lento, consciente, requiere de mayor esfuerzo y se asocia con el raciocinio.

Ambos sistemas se sofistican con el tiempo. El Sistema 1, gracias a las experiencias que vivimos a diario, y el Sistema 2, mediante el esfuerzo dedicado a adquirir nuevos conocimientos y/o habilidades.

La operativa automática del Sistema 1, imposibilita desconectarlo ad libitum, motivo por el cual quedamos expuestos a cometer errores no siempre sencillos de prevenir. Su naturaleza ágil, le hace tomar atajos que, con frecuencia, están repletos de sesgos cognitivos, que, inconscientemente, se interponen en cómo procesamos la información, distorsionando nuestro juicio.

Una manera práctica de enfrentarnos a ellos es clasificarlos en función de los problemas que plantean, como propone el product manager de Patreon, Buster Benson:

1. Estamos expuestos a tal avalancha de información, que nuestros sentidos son incapaces de procesarla, lo que nos fuerza a filtrarla agresivamente, desatendiendo así parte de la información verdaderamente relevante.
2. Convertir la información en bruto en conocimiento con sentido, es un proceso complejo que requiere conectar gran variedad de datos dispersos para llegar a una conclusión razonable. El problema surge en el momento en que no sabemos cómo vincular algunas piezas y empezamos a cubrir los vacíos con asunciones personales, prejuicios, estereotipos, patrones, referencias pasadas, simplificaciones y sesgos, dando lugar a explicaciones erróneas (que pueden llegar a convertirse en sabiduría convencional).
3. Nunca dispondremos del suficiente tiempo ni de los suficientes recursos para discernir entre todas las posibilidades que se nos plantean y poder tomar la mejor decisión, motivo por el que sacamos conclusiones apresuradas que pueden resultar contraproducentes.
4. En el intento de llevar a cabo los anteriores procesos de manera eficiente, tratamos de recordar lo que nos parece más importante. Algunas de las cosas que recordamos añaden sesgos y perjudican aún más nuestro discurrir.

No siempre sabemos distinguir cuándo el Sistema 1 está en marcha y cuándo no. Nuestra intuición no es tan buena como creemos. De hecho, muchas de las conclusiones a las que llegamos, no son más que justificaciones que el Sistema 2 realiza a posteriori, influido inconvenientemente por el Sistema 1.

Ante este panorama, no es de extrañar que las empresas tecnológicas pongan todo su empeño en “ayudarnos” a evitar que nuestro descontrolado Sistema 1 descarrile a nuestro más comedido Sistema 2.

En el segundo capítulo de “Machine Platform Crowd”, los investigadores del MIT Andrew McAfee y Erik Brynjolfsson presentan una serie de ejemplos de casos recientes en los que aplicar algoritmos y establecer métodos para evitar decisiones arbitrarias, cosecha mejores resultados que la pericia y la intuición de personalidades tan diversas como banqueros e inversores, seleccionadores deportivos, jueces, economistas, profesores, médicos y responsables de recursos humanos, por lo que, intuitivamente, concluir que deberíamos confiar menos en los expertos y sus predicciones, y más en algoritmos diseñados para esquivar nuestros errores cognitivos se torna como algo racional y conveniente. Pero…

 ¿Son siempre mejores las decisiones de los algoritmos que las de las personas?

No necesariamente.

En palabras del profesor de la Facultad de Informática de la Universidad Complutense, Ricardo Peña Marín, “un algoritmo es un conjunto de reglas que, aplicadas sistemáticamente a unos datos de entrada apropiados, resuelven un problema en un numero finito de pasos elementales”. Por tanto, un algoritmo será tan bueno para tomar una decisión como los datos con que se alimente. Además, dependerá fuertemente de los sesgos de quien lo haya diseñado y del criterio de evaluación de los resultados que ofrezca. Actualmente el potencial de la inteligencia artificial para cambiar el mundo en que vivimos es tan alto como lo son sus limitaciones.

• Un algoritmo mal diseñado puede profundizar y perpetuar intencionada, o inintencionadamente algunos de los prejuicios más perniciosos de la sociedad como el racismo y el sexismo.
• Un sistema de reconocimiento de imágenes potenciado por aprendizaje automatizado que se aplique a la detección de alteraciones en tejidos examinados mediante resonancias magnéticas no podrá diagnosticar correctamente una patología, a menos que tenga suficientes ejemplos para hacerlo, y estos sean concluyentes.
• La fallida campaña a la presidencia de los estados Unidos de Hillary Clinton es uno de los mejores ejemplos de cómo hasta el más refinado sistema de captura, almacenamiento y análisis de datos puede fracasar, si la información no se selecciona meticulosamente para optimizar un objetivo correctamente definido.
• Los algoritmos que construyen entidades con ánimo de lucro son capaces de distorsionar nuestro sentido de la realidad y manipular nuestra conducta sin que seamos conscientes de ello. Sus repercusiones económicas podemos verlas cada uno de nosotros en nuestra cuenta corriente; las sociales, van dilucidándose poco a poco.
• Muchos algoritmos son cajas negras que ni sus propios creadores son capaces de esclarecer en el momento de explicar el motivo por el que han optado por tomar una u otra decisión.
• Los algoritmos son apropiados para resolver tareas específicas en ámbitos determinados. La simple idea de construir una inteligencia artificial general dotada de algo similar al sentido común humano, es -de momento- pura ciencia ficción.

Albergar la esperanza de que la algoritmización de nuestra vida vaya a sosegase debido a sus limitaciones técnicas y prácticas, es una ingenuidad. Se avanza a pasos de gigante en la dirección opuesta. Todo sistema gobernado por algoritmos es susceptible de contener errores, prejuicios y sesgos, por lo que el criterio para evaluarlo no puede ser nunca su perfección, sino su superioridad para resolver problemas con mayor eficiencia y eficacia que las personas, y su capacidad para mejorar y corregir errores de manera iterativa de forma rápida y sencilla.

Allá donde se cruzan los caminos

En el gran éxito editorial “Homo Deus”, el mediático historiador israelí, Yuval Noah Harari, define la experiencia como un fenómeno subjetivo integrado por una tríada de componentes principales: sensaciones, emociones y pensamientos. La experiencia humana, continúa, es la suma de todo lo que percibimos (frío, dolor, mareo, concentración…), todo lo que sentimos (amor, odio, asco, miedo, felicidad, tristeza…) y todo lo que se nos pasa por la cabeza (fruto de lo que percibimos y sentimos).

En consecuencia, una persona sensible es aquella que presta atención a sus emociones, sensaciones y pensamientos; y se expone a que estas puedan modificar sus opiniones, su conducta y hasta su manera de ser.

La experiencia es inconcebible sin sensibilidad. Van de la mano, actúan recíprocamente. La sensibilidad es una facultad propia de los humanos que nace y evoluciona al compás de las cosas que nos suceden.

Detenernos por un momento a pensar qué papel queremos que la tecnología juegue en nuestras vidas y valernos de nuestra sensibilidad para tratar de observar lo que nos rodea a través de distintas lentes, constituye en mi parecer, la diferencia entre servirnos de los algoritmos para alcanzar nuestras metas, y que los algoritmos se sirvan de nosotros para alcanzar las de otros.

–

Imagen: Drew Graham

¿HABLAMOS?