Hay una nueva y extraña batalla librándose en restaurantes, parques nacionales y hasta en las tiendas de Apple. Es una donde el viejo lema de “el cliente siempre tiene la razón” se estrella contra una pared de silicio. El problema es que los clientes están llegando armados con “hechos” proporcionados por chatbots como ChatGPT, y estos hechos, a menudo, son completamente falsos. Esto está poniendo a los trabajadores en la insólita posición de tener que desmentir no al cliente, sino a la inteligencia artificial en la que ciegamente confían.
“ChatGPT dice que puedo comerlo”
Imaginen la escena: un cliente con una alergia severa a los mariscos insiste en que un plato es seguro porque su chatbot de confianza así se lo ha asegurado. La camarera, Madison, le insiste en lo contrario. “¡Usted es alérgico a los mariscos, y ChatGPT dice que no hay mariscos en esto, y nosotros le decimos que sí!”, relataba frustrada en un informe que detalla este creciente fenómeno. Este tipo de situaciones, que antes eran impensables, se están volviendo cada vez más comunes, generando una fricción innecesaria y peligrosa.
Una realidad distorsionada por algoritmos
El problema no se limita a la gastronomía. Un reciente reporte de The Verge ha documentado cómo esta tendencia afecta a múltiples profesiones. Jason, un guardabosques, se ha visto obligado a explicar a turistas por qué el itinerario que un modelo de IA les generó es físicamente imposible. “Mi colega y yo hemos explicado que la IA alucinó campamentos o programó cosas fuera de orden geográfico, por lo que el grupo tendría que remar sus botes río arriba algunos días”, comentó, describiendo una situación absurda pero real. Desde profesores que combaten consejos de crianza erróneos hasta empleados de soporte técnico que desmienten soluciones inventadas, el hilo conductor es el mismo: una confianza desmedida en sistemas que, por su propia naturaleza, pueden y van a equivocarse.
Lo que estamos presenciando es el choque entre la autoridad percibida de la tecnología y el conocimiento práctico del experto humano. Las IAs generativas están diseñadas para sonar convincentes, no para ser infalibles. Su capacidad para “alucinar” —es decir, inventar información con total seguridad— es una característica conocida en la industria, pero no tanto por el público general, que las trata como oráculos modernos. Esta desconexión es la raíz de un conflicto que erosiona la confianza y agota la paciencia de quienes están en la primera línea de servicio.
A medida que empresas como Meta se preparan para lanzar agentes de IA aún más integrados en nuestra vida diaria, este problema solo se intensificará. La industria tecnológica tiene la responsabilidad de educar mejor a los usuarios sobre las limitaciones de estas herramientas. De lo contrario, los trabajadores de servicios seguirán siendo los embajadores no remunerados de la realidad, luchando una batalla diaria contra las fantasías bien redactadas de un algoritmo.