En la mitología griega estaban los Argos Panoptes, gigantes con cien ojos que lo veían todo. Que cien vistas serían comparables hoy en día con el uso de inteligencia artificial, aprendizaje automático, algoritmos, redes neuronales o automatización en la gestión de las empresas. Es lo más parecido a un robot jefe. Pero la paradoja, o no, es que el uso de estas herramientas no garantiza un mejor líder. Hay miles de formas, por ejemplo, de que los algoritmos en manos de malos administradores pueden hacer más daño que bien. Solo tienes que recordar el mito de Argos. Los sensores de almacén se pueden usar para monitorear la tasa de trabajo y advertir a un trabajador que se tarda “demasiado” en apilar un estante. Imagine también un algoritmo que envía un mensaje a los colegas cuando alguien llega cinco minutos tarde. O, por ejemplo, alerta al futurólogo Mike Walsh, un mecanismo que ajusta constantemente la temperatura de color de la luz de la oficina para que los ritmos circadianos de los trabajadores piensen que es tarde en lugar de mañana. ¿Exagerado?
IBM recibe más de 8,000 hojas de vida al día. Ha desarrollado un sistema de inteligencia artificial que predice con un 95% de precisión a los empleados que abandonarán la empresa. El ex CEO de la compañía, Ginni Rometty, aseguró que suponía un ahorro de 300 millones de dólares. Esta secuencia de números controla la remuneración, la asignación de tareas, la tasa de trabajo, los resultados. Sobre todo, domina el tiempo.
“No hay pausa: todo es velocidad. La gestión se basa en la velocidad, la inmediatez, la ausencia de reflexión. Esto tiene que terminar ”, dice la filósofa María Ángeles Quesada, que trabaja con ING, Enagás y Solán de Cabras. “Son empresas que buscan una manera de detenerse y reflexionar sobre las implicaciones éticas de todo este cambio. Están comprometidos con la transformación digital. Pero también con un pensamiento crítico y con un modelo híbrido, lo que lleva al trabajador a no estar siempre en casa o en la oficina ”.
“Los trabajadores de Amazon saben lo imposible que es mantenerse al día con la inteligencia artificial. Un informe reveló que la mayoría tenía lesiones debido a la velocidad del trabajo. Los jefes digitales están haciendo que el empleo sea miserable. “
La rapidez del cambio está causando que los gerentes no puedan comprender las nuevas herramientas y su alcance. Doctora en Matemáticas de la Universidad de Havard Cathy O’Neil (Cambridge, 1972) escribió en su libro Armas de destrucción matemática (Armas de destrucción matemática.) cómo un algoritmo de control utilizado por el Departamento de Educación de Nueva York otorgó al mismo maestro una calificación de 6/100 un año y el siguiente grado 96/100, sin que nada justifique el cambio.
La preocupación es profunda. El trabajador siente la fragilidad del cristal de Murano en su piel y se ha vuelto transparente frente a los responsables de la empresa. “Con un jefe digital que lo monitorea cada pocos segundos, no hay lugar para el ser humano”, dice Gabrielle Rejouis, experta en el Centro de Tecnología y Privacidad de la Universidad de Derecho de Georgetown. Y él especifica: “Para cuando hayas completado una tarea, ya estás esperando la siguiente. Los trabajadores de Amazon saben perfectamente lo imposible que es mantenerse al día con la inteligencia artificial. Un informe de la organización National Employment Law Project reveló que la mayoría de sus empleados tenían lesiones similares debido a la velocidad del trabajo. Los jefes digitales están haciendo que el empleo sea miserable. “
Pocas compañías como la fundada por Jeff Bezos llevan esta tendencia al límite. Amazon utiliza algoritmos complejos para determinar la productividad de sus centros de procesamiento y puede generar automáticamente la documentación necesaria, como descubrió y recopiló The Verge en The New York Times, para despedir a los trabajadores que no cumplen sus objetivos, sin la intervención de ningún ser humano. La compañía respondió que había una persona al final del proceso. Pero la verdad es que la pistola con la que los operadores leen los códigos sirve a Bezos para controlar la productividad.
Esa es la certeza de un algoritmo que empuja al ser humano hacia el acantilado. “La gestión algorítmica, el jefe del robot, tiene muy pocos beneficios para los trabajadores. Puede hacer que las horas de trabajo sean más flexibles, pero permite a los gerentes y ejecutivos esconderse detrás de la tecnología y no asumir la responsabilidad de sus acciones “, dice Charles Luke, profesor asistente de la Universidad de Western Ontario (Canadá).
“Lo más preocupante de la gestión robótica es que no hay forma de discutir con un jefe de robots, incluso cuando está equivocado”.
Supervisión digital
Los cien ojos de Argos no descansan. Ellos miran por todas partes. Cogito (una startup de Boston centrada en la IA que se ha negado a hablar por este informe) tiene un sistema instalado en 200,000 clientes, incluida la compañía de seguros MetLife. Con él, advierte al trabajador, a través de un pequeño cuadro azul, en la esquina inferior derecha de la pantalla de la computadora, si, por ejemplo, está respondiendo al cliente demasiado rápido o demasiado lento.
– ¿Suenas dormido? – Tira la caja.
El software envía la imagen de una taza de café.
El objetivo, como explica Joshua Feast, CEO de Cogito, en The New York Times, es hacer que los trabajadores sean más efectivos y brindarles información en tiempo real. Los ejecutivos piensan (“creo” es, por cierto, el significado del término Cogito en latín) sobre errores de los trabajadores. ¿Pero qué pasa con las fallas de la máquina? “Lo más preocupante de la gestión robótica es que no hay forma de discutir con un jefe de robots, incluso cuando está equivocado”, dice Jules Kingaby, experto en consultoría Flux Trends Analysis.
El problema es que todo es tan nuevo que muchas cosas no tienen nombres y hay que señalarlos con el dedo. Y los resultados son, a veces, una injusticia. La firma de tecnología HireVue ha diseñado un sistema de reclutamiento de personal a través de una cámara o computadora móvil que analiza los movimientos faciales y el lenguaje corporal para aceptar o rechazar al candidato. “Es profundamente preocupante desarrollar una tecnología que diferencie entre un trabajador productivo y otro que no se base en las expresiones de sus caras”, critica Meredith Whittaker, cofundadora del centro AI Now Institute de Nueva York. “Es pseudociencia. Es una licencia para discriminar”.
Uber: una primera advertencia
Etnógrafo Alex Rosenblat (autor de Uberland: cómo los algoritmos están reescribiendo las reglas de trabajo) y Charles Luke fueron los primeros en demostrar en 2016 hasta qué punto un algoritmo es un jefe impresionante. Mostraron cómo las aplicaciones de Uber lanzaron un mensaje atractivo acompañado de un ícono de aumento de precios: “¿Estás seguro de que quieres desconectarte? La demanda es muy alta en su área. ¡Gana más dinero, no te detengas ahora! “. Algo así como … “¿Estás seguro de que quieres desconectarte? La demanda es muy alta en tu área. ¡Gana más dinero, no te detengas ahora!”
Es un juego, pero con seres humanos. “Los expertos lo llaman gamificación y es la técnica de recompensa-recompensa que los videojuegos usaban hace una década. Una forma de controlar a grandes grupos de trabajadores sin hacerlo parecer así ”, dice el director de una empresa tecnológica española que pide el anonimato. Un algoritmo de Uber puede distinguir si el conductor acelera demasiado o muy poco, analizar la satisfacción del cliente o si el profesional conduce con mayor o menor habilidad por ciertas calles. Esta información golpeada una y otra vez es oro para la empresa. “Los empleadores tienen un apetito insaciable por la información de sus trabajadores, ya sea relevante o no”, dijo Lewis Maltby, director del Instituto Nacional de Derechos del Trabajo, una organización estadounidense dedicada a mejorar la protección legal de los trabajadores.
Esta gestión basada en algoritmos no es un concepto nuevo. A principios del siglo XX, Frederick Winslow Taylor revolucionó el mundo de la producción (Los principios de la gestión científica, desde 1911) con su teoría de la gestión científica. El principio era exprimir las ineficiencias de las fábricas cronometrando y midiendo cada aspecto del trabajo. En estos días, Uber, Lyft y otras plataformas a pedido han hecho miles de millones al externalizar tareas básicas de recursos humanos a las computadoras: nómina, programación de trabajos, evaluación del desempeño y más.
Tiempos modernos
Tal vez no vivimos en un neo-taylorismo (o sí), pero lo que es innegable es que son días de Dickens. “Fue el mejor de los tiempos, el peor de los tiempos, la era de la sabiduría y también de la locura”. Erik Brynjolfsson y Andrew McAfee del MIT han demostrado cómo el progreso tecnológico fractura a la sociedad. “Nunca ha habido un mejor momento para ser un trabajador con conocimientos avanzados. Por el contrario, nunca ha habido un peor momento para los empleados que solo tienen habilidades normales. Como los robots y las computadoras adquirirán estas habilidades a tasas extraordinarias “, narran. Los algoritmos van a reclutar, analizar la reputación digital, validar la productividad, promover, o no, a los trabajadores, fijar sus salarios.
Este modelo social, que se derrama como el agua en el borde de una piscina infinita, está bien definido por Marc Vidal, un experto en transformación tecnológica: “Es la economía de poco contacto”. Los robots traen esa distancia social a través de una miríada de algoritmos en ese mar numérico que es la inteligencia artificial.
“El CEO, el jefe, podrá analizar miles de datos, pero bajo qué criterios: se requiere una pantalla ética”, enfatiza Vidal. Hay programas que ya son capaces de establecer su estado de ánimo de acuerdo con la forma en que escribe la computadora ese día. El control solo tiene los límites que el hombre quiere establecer. La tecnología trae una tierra de ganadores y perdedores sin exclusiones; sin diques
“La mayor víctima es la privacidad”, advierte Lewis Maltby. “No tienes privacidad en la computadora de tu jefe. Cualquier correo electrónico que envíe, cada sitio web que visite, cada palabra que escriba, es un libro abierto para su director. Prácticamente todas las grandes empresas estadounidenses realizan algún tipo de vigilancia electrónica. ”Pero la legislación española sobre esto es más garantizada que la de los Estados Unidos.
El Reglamento General de Protección de Datos (RGPD) ha sido un firewall contra la indefensión. El problema es que la tecnología siempre está por delante de las regulaciones. “Tanto es así que en algunas negociaciones colectivas será necesario tener en cuenta los algoritmos”, predice Jesús Mercader, profesor de Derecho Laboral de la Universidad Carlos III.
“Cualquier correo electrónico que envíe, cada palabra que escriba, es un libro abierto para su director. Prácticamente todas las grandes empresas estadounidenses realizan algún tipo de vigilancia electrónica. “
¿Te lo imaginas? ¿Negociar con series matemáticas? Visto desde el otro lado, donde el océano es tan extraño que carece de orilla, “algunas de las fórmulas tradicionales del poder empresarial están siendo reemplazadas”, dice Jesús Mercader. Cualquier hombre de negocios que no quiera ser excluido de su tiempo ahora asume la responsabilidad tecnológica. ¿Con una sinceridad similar con la que anteriormente vendió la responsabilidad social corporativa (CSR) en la junta directiva, cuyo destino fue una serie de informes digitales y en papel que han tenido el valor del peso de la paja?
Derechos digitales
Por esta razón, el Secretario de Estado de Digitalización e Inteligencia Artificial está trabajando en una Carta de Derechos Digitales. “Y es que el debate ético que subyace en cualquier aplicación tecnológica se vuelve particularmente relevante con la IA aplicada a los negocios, dado el enorme potencial que tiene esta tecnología para hacer las cosas bien pero también mal”, asume Guillermo Tena Planas, director del Instituto Cuatrecasas de Estrategia legal en recursos humanos.
Los desafíos que esperan su turno en la revolución del jefe robot parecen más cercanos a Dickens que al taylorismo. “Poseíamos todo, pero no teníamos nada; Fuimos directamente al cielo y nos extraviamos en el camino opuesto ”, escribió el novelista. Porque las preguntas saltan como chips de bronce pulido en un torno. ¿Ganarán los que tienen un jefe físico y uno virtual? ¿Las escuelas enseñarán cómo trabajar para un director de robots? ¿Tendrá el privilegiado un jefe tangible y el precario (todo este universo, por ejemplo, de repartidores), uno digital? ¿El trabajo se volverá menos humano? ¿Aceptarán las generaciones más jóvenes este tipo de jefe?
El problema es complejo porque es injusto incluso cuando las matemáticas son “precisas”. “Un ejemplo muy claro es el sexismo en la contratación. Si utiliza un sistema que es predictivamente preciso, penalizará a las mujeres porque ya están penalizadas por la empresa. El problema no es realmente la selección, es la organización. Tienes que hacer algo para que sea menos sexista. Y parte de hacer algo es entrenar su algoritmo para que sea diferente de lo que es “, dice Daniel Kahneman, ganador del Premio Nobel de Economía y uno de los expertos mundiales en discriminación.
Algunas respuestas maduran por sí solas. La deshumanización del trabajo no necesita tecnología. Esto lo demuestra la historia económica. “El uso masivo de la contratación temporal ha sido un paso muy importante para deshumanizar el empleo. Un tercio de los trabajadores españoles (especialmente jóvenes, mujeres e inmigrantes) terminan su relación laboral sin despido, sin justificación; la temporalidad solo es real en el 20% de los contratos, el resto es fragmentación de la actividad. No hay diferencia entre si esto es hecho por una máquina o por regulación; la deshumanización del empleo no requiere la ayuda de un robot ”, dice Carlos Martín, jefe del Gabinete Económico de CC OO. Pero agrega una brisa de esperanza: “La buena noticia es que las máquinas deben liberarnos del trabajo de rutina y esta mejora productiva tendría que distribuirse a través de un corte en la jornada laboral”.
Determinismo tecnológico
Es imposible negar el lado positivo de la IA o los algoritmos. Pero el desafío es que nadie se quede atrás y que todos los trabajadores tengan condiciones de trabajo decentes. Los investigadores de Harvard han descubierto que los algoritmos de alta precisión pueden leer escáneres de diagnóstico de cáncer con un 92% de certeza frente al 96% de los mejores médicos del país. “Muy bien. Pero no debemos caer en la trampa del determinismo tecnológico. Los humanos decidimos hasta qué punto consentimos con la tecnología. El hecho de que algo sea tecnológicamente posible no significa que debamos permitirlo”, dice el tecnólogo Enrique Dans.
“Es importante no caer en la trampa de las circunstancias excepcionales que impone la tecnología: debemos asegurarnos de que hay reglas creadas por nosotros”.
Sin embargo, ciertas partes del futuro, predice, no son negociables: “Trabajar para algoritmos será algo para entrenar”. Las empresas emergentes, los proveedores de software y los consultores compiten para ofrecer soluciones que brinden decisiones de administración automatizadas a toda la arquitectura empresarial. “Las plataformas tecnológicas independientes están proliferando con empleados empleados a distancia que tienen ganancias por hora muy por encima del promedio salarial nacional”, observa Jaime Sol, socio a cargo de los Servicios de Asesoría de Personas de EY. Profesionales buscados con la escasez de almizcle.
“Los freelancers altamente calificados son una fuente creciente de talento que cubrirá parte del trabajo futuro”, resume Cristina Hebrero Rodríguez, directora de People & Change en KPMG en España. Quizás Covid-19 había extendido la distopía antes de que el virus se extendiera. Un estudio global del año pasado realizado por Oracle and the Future Workplace reveló que el 64% de los entrevistados confiaban más en un jefe robot que en un humano. Bueno, la IA tiene, bien usado, su propio ecosistema.
En las decisiones sutiles y complejas, que requieren contacto humano y delicadeza, existe la oportunidad de aprovechar los algoritmos para aumentar el talento de los trabajadores de manera combinada. No en aislamiento. “En otras palabras, en lugar de usar algoritmos como armas de vigilancia, puede usarlos para mejorar la cultura de la compañía”, explica Mike Walsh. Esta es una diapositiva del mañana. Hay otros.
La implementación de la IA, incluidos los robots, contribuirá con 15,7 billones de dólares a la riqueza del planeta en 2030. Es tentador escribir: “Si nadie lo impide”. “Porque la inseguridad aumentará entre quienes tienen un jefe físico y uno digital. Dado que las obras más creativas estarán en el lado físico. Existe un riesgo real de que se abra una brecha que conduzca a la discriminación ”, advierte el cofundador de la red OuiShare, Albert Cañigueral. En términos tecnológicos, “las generaciones jóvenes no son conscientes de lo que nos espera”, advierte Diego Vizcaíno, socio de Analistas Financieros Internacionales (AFI).
Una cuestión de ética
En un discurso de 1962, celebrado en la Biblioteca John Fitzgerald Kennedy, el presidente estadounidense advirtió que mantener el pleno empleo era “el mayor desafío en el país cuando la automatización estaba reemplazando al hombre”. Los algoritmos, la IA y el aprendizaje automático no son malos per se. Se liberan de tareas repetitivas, evitan la discriminación a la hora de establecer salarios o bonificaciones y, junto con el ser humano, pueden trabajar al mismo tiempo en decisiones complejas y sutiles que requieren contacto humano y delicadeza. Pero exigen un sentido moral. “Un jefe de máquina debe respetar las mismas obligaciones que un jefe humano y mantener pautas éticas idénticas. Obedecer la ley, ayudar a los empleados a maximizar su rendimiento y ayudar a su equipo a disfrutar de su trabajo “, resume Calum Chace, filósofo, escritor y autor británico de Sobreviviendo a la IA (Sobrevivir a la inteligencia artificial) En el otro extremo, el sistema se convierte en un problema cuando “no se siguen las reglas éticas o de gobierno”, dice Foteini Agrafioti, jefe de la compañía de tecnología de inteligencia artificial Borealis.
Nos guste o no, las raíces del futuro están echando raíces. Los algoritmos y los sistemas de vigilancia de última generación serán comunes en 2040. Ya existe un software que controla a la perfección cómo interactúan los trabajadores de la empresa. Humanyze, una compañía presidida y cofundada por Ben Waber en el MIT Media Lab, monitorea los correos electrónicos y mensajes de los trabajadores en las plataformas para comprender cómo se comunican las personas. Algunos empleados incluso usan credenciales digitales que se conectan entre sí dentro de la oficina. Humanyze insiste en que las identidades son anónimas. El trabajador sabe que alguien del departamento de marketing le ha escrito a alguien del área de ventas. Pero nada más. Solo un código alfanumérico es visible. “En nuestra investigación en el MIT descubrimos que tener una buena política ética no compromete los resultados del análisis de ninguna organización”, reflexiona Ben Waber. “En otras palabras, no necesita tener acceso a la información personal o privada de la persona”.
Pero usar la IA o cualquiera de sus variantes para administrar el trabajo de las personas en sus horas de trabajo, a pesar de las buenas intenciones, es un riesgo y es incierto. La tecnología viaja cerca de la velocidad de la luz. La regulación que debería regularlo, por otro lado, respeta la prohibición de 90 kilómetros por hora. Los críticos ven los algoritmos como una forma de deshumanizar los trabajos, causar estrés y castigar injustamente a los trabajadores. Los empresarios sienten en AI el nuevo “propósito comercial” para maximizar las ganancias. Un capitalismo construido sobre las matemáticas.
De hecho, la crisis ha acelerado la gestión algorítmica. “Está llegando a todas partes. Oficinas, escuelas, universidades, empresas de servicios profesionales ”, narra Jeremias Adams-Prassl, profesor de derecho en la Universidad de Oxford. “Pero mirando hacia el futuro, lo más importante es no caer en la trampa de las circunstancias excepcionales que impone la tecnología: debemos asegurarnos de que hay reglas creadas por nosotros y que se aplican de manera consistente”. Porque si los empresarios están tentados a llevar la inteligencia artificial al límite de los derechos humanos, no serán los robots los que se rebelarán.
Cuando el robot toca la puerta de la junta directiva
El economista Guillermo de la Dehesa ha sido director (entre otras empresas) de Banco Santander y Amadeus. El profesor Emilio Ontiveros en economía se sienta, por ejemplo, en Mutua Madrileña, Iberdrola España o Torreal. “Un consejero no sabe nada de big data. No tiene una gran alfabetización tecnológica ”, advierte Ontiveros. “Pero esto no significa que la tecnología y los robots no sean cada vez más importantes en la toma de decisiones. En la comercialización de un producto, en la estrategia de comercialización, cuando se trata de comprender al cliente. Los robots están presentes en los consejos “, subraya el comediante.
Ya estan ahi. Viva. Lectura de la sociedad, los negocios y el mundo ”. Pero ellos no toman las decisiones finales. “Ese sigue siendo el espacio del ser humano”, defiende Ontiveros. De nadie más. “La inteligencia artificial tiende a reemplazar a los individuos, pero estas tecnologías prometedoras no terminarán siendo tan eficientes como los cerebros de las personas inteligentes”, descartó Guillermo de la Dehesa.
A continuación presentamos las reflexiones sobre los jefes de algunas grandes empresas.
Gonzalo Sánchez, presidente de PwC.
“Los algoritmos y la inteligencia artificial no pueden reemplazar la reflexión y la evaluación de los directores, pero serán una ayuda muy relevante para la toma de decisiones, especialmente en el cumplimiento, la estrategia y la gestión de recursos”.
María Dolores Dancausa, CEO de Bankinter.
“La inteligencia artificial se ha convertido en uno de los grandes campos del conocimiento y traerá cambios radicales en la forma en que nos relacionamos con el mundo a corto y mediano plazo. Y esto se aplicará tanto en nuestra vida cotidiana como en todos los campos económicos y sectores empresariales.
Dentro de la IA, una ciencia que surgió hace solo diez o quince años, como el análisis de datos, se está volviendo cada vez más relevante. Basado en el análisis y procesamiento de grandes conjuntos de datos, la capacidad de predecir y tener éxito en la toma de decisiones, ya sea política o empresarial, experimentará un progreso notable. En este sentido, estoy seguro de que veremos un uso cada vez mayor de sus capacidades en los niveles gerenciales de las empresas que incluso permitirán que parte de la toma de decisiones se automatice. Pero, por supuesto, siempre sobre la base de que, aunque las oportunidades que ofrecen estas tecnologías son casi infinitas, también lo son sus riesgos, por lo que es responsabilidad y responsabilidad de los gerentes identificarlos y mitigarlos, y que su aplicación siempre se lleve a cabo . llevado a cabo de manera responsable y sin impacto negativo en las personas.
En última instancia, la combinación de sensibilidad, responsabilidad e intuición humana con la capacidad de procesamiento de estos sistemas aumentará exponencialmente los niveles de éxito gerencial “.
Hilario Albarracín, presidente de KPMG.
“La inteligencia artificial ocupará cada vez más espacio en la gestión de las empresas como soporte para la toma de decisiones gracias a sus capacidades de análisis de datos masivos y la preparación de predicciones, comportamientos o riesgos, entre otros. Sin embargo, para que esto suceda, los gerentes y directores deben comprender y explicar cómo y por qué los algoritmos llegan a ciertas conclusiones y asegurarse de que se ajusten a los marcos éticos de conducta. “
José Luis Flórez, CEO de Plaiground, empresa de Inteligencia Artificial de Minsait (Indra).
“La inteligencia artificial ocupará cada vez más espacio en la gestión de las empresas como soporte para la toma de decisiones gracias a sus capacidades de análisis de datos masivos y la preparación de predicciones, comportamientos o riesgos, entre otros. Sin embargo, para que esto suceda, los gerentes y directores deben comprender y explicar cómo y por qué los algoritmos llegan a ciertas conclusiones y asegurarse de que se ajusten a los marcos éticos de conducta. “
“Quien se imagina que debido a la aparición de grandes datos e inteligencia artificial, los comités de gestión o las juntas directivas de una empresa parecen una sala de guerra, con muchos monitores que muestran información sobre el progreso de la empresa, posiblemente se decepcionaría al ver la realidad. Esto no implica que el impacto de la tecnología haya sido pequeño.
La principal contribución de las tecnologías de análisis de datos ha sido la capacidad de medir prácticamente todas las áreas de decisión, permitiendo que las preguntas que estaban lejos de ser traducidas al lenguaje económico-financiero: cómo desarrollar una experiencia del cliente consistente, agradable y efectiva, cómo evolucionar los productos, cómo valorar las acciones de mis competidores, cuál es la consecuencia de que los empleados trabajen en un ambiente cómodo, haciéndolos participar en el éxito de la empresa … “.
Experiencia en periódicos nacionales y periódicos medianos, prensa local, periódicos estudiantiles, revistas especializadas, sitios web y blogs.
Publicado por Telegraph, Guardian, Metro, Independent, The Debrief, VICE, Femail Online, Inside Housing, Press Association, Open Democracy, i-D, la revista Your Cat, Mumsnet y más.
