Apesar de la demostrada superioridad de los algoritmos en predicción, se ha visto que las personas los usan menos de lo que deberían. A este fenómeno se le conoce como “aversión a los algoritmos” y puede tener dos interpretaciones: la primera es la reticencia a preferir y utilizar los consejos de algoritmos cuando la gente experimenta errores de los mismos, y la segunda es una resistencia general a su uso.
Aunque los algoritmos tienden a mejorar la toma de decisiones producto de sus capacidades predictivas, la integración de herramientas algorítmicas en los entornos organizacionales no es trivial. Desde el punto de vista de la administración, los empleados pueden resistirse a la supervisión y el control algorítmicos e incluso desarrollar tácticas contra ellos, lo que Kellogg et al. (2020) han denominado algoactivismo. Por ello, gestionar el momento adecuado del lanzamiento de una nueva herramienta algorítmica, después de que haya sido suficientemente probada y evaluada, puede marcar una importante diferencia entre el éxito de la implementación o el fracaso.
Un buen ejemplo es la experiencia de la empresa de logística mundial UPS. En su proyecto ORION, mediante una aplicación de optimización de rutas se asesoraba a los conductores en los despachos diarios que debían hacer. ORION estuvo a punto de ser cancelado, ya que en sus inicios era impreciso. Sin embargo, gracias a la mejora del rendimiento y al uso generalizado del algoritmo, ORION mejoró y en 2016 llegó a ahorrar cerca de 500 millones de dólares anuales en costos de combustible y mano de obra a UPS (Davenport & Harris, 2017). Entonces, comprender cómo evoluciona el proceso de adopción de algoritmos se convierte en algo crucial si las organizaciones y personas queremos aprovechar los beneficios asociados a su correcta implementación.
La naturaleza dinámica del uso de los algoritmos
Aunque varios estudios han analizado el grado de uso de los algoritmos por parte de las personas, hay algunas consideraciones que han sido ignoradas. En particular, prácticamente no existían estudios que analizaran el uso de recomendaciones algorítmicas en el entorno habitual de los tomadores de decisión, durante varios días.
En una investigación realizada por los autores de este artículo y el profesor Edgar E. Kausel, analizamos la naturaleza dinámica del uso de los algoritmos. Así, vimos cómo las personas experimentan y adoptan recomendaciones algorítmicas en comparación con recomendaciones humanas. En dos estudios longitudinales, 401 participantes realizaron tareas predictivas financieras (predicción de tipo de cambio y de valor de acciones).
Nuestro principal hallazgo fue que la adopción de recomendaciones disminuyó con el tiempo para las recomendaciones algorítmicas imprecisas. Además, el cambio en la adopción de las recomendaciones imprecisas fue sustancial durante las primeras interacciones y posteriormente disminuyó (relación de forma logarítmica). Para el caso de las recomendaciones precisas no se vieron los mismos efectos.
La principal implicancia de estos resultados es que gerentes y responsables de implantación de nuevas herramientas algorítmicas deben estar conscientes de que el uso de algoritmos puede cambiar en el tiempo. En particular, se debe considerar la desconfianza que pueden generar en el tiempo entre los usuarios cuando los algoritmos son inexactos.
Nuestros resultados también destacan la importancia de las primeras impresiones y la formación de la reputación en el desarrollo de la confianza. Así, vemos que las personas son especialmente sensibles a los algoritmos que fallan y tienden a perder fácilmente su confianza en ellos.
Por lo tanto, se puede decir que el uso de algoritmos es más bien un cambio cultural al interior de las organizaciones, donde las personas deben aprender a trabajar en conjunto con ellos a través del tiempo. Solo de esa forma se podrá capturar lo mejor del talento humano y de la tecnología.
