Un gerente de IA ha despedido a un trabajador humano en San Francisco, pero la decisión, que acaparó titulares, solo llegó después de que personas recordaran al sistema sus propias reglas y lo encaminaran hacia ese resultado.

Andon Labs lanzó su experimento en marzo, poniendo a un agente basado en Claude llamado Luna a cargo de Andon Market, con un presupuesto de 100.000 dólares, acceso a internet y la responsabilidad de contratar personal. La tienda abrió el 1 de abril, vendiendo libros, velas, juegos y productos de marca mientras probaba si una IA podía dirigir un negocio real.

El empleado finalmente despedido había llegado tarde a 17 de 23 turnos. Sin embargo, Luna había redactado una política de asistencia y luego, en la práctica, la perdió de su limitada memoria de trabajo, permitiendo que el problema persistiera durante meses. Cuando un empleado de Andon le dijo al agente que encontrara su manual, Luna inicialmente propuso otra advertencia formal. Solo después de que el gerente humano señaló las repetidas conversaciones fuera de línea y preguntó si el trabajador era “realmente la persona adecuada” fue que la IA recomendó el despido. El director ejecutivo de Andon, Lukas Petersson, reconoció que fue “una pregunta capciosa”.¹

El laboratorio afirma que el trabajador había recibido advertencias progresivas y formación adicional, y que los humanos revisaron y llevaron a cabo el despido final. Petersson sostuvo que el despido estaba justificado, no que los gerentes de IA sean intrínsecamente más duros. “Vimos que un jefe humano probablemente los habría despedido mucho antes”, dijo.²

Pero el experimento ha agudizado una división más incómoda. Petersson ve a los empleadores de IA como un futuro probable, al tiempo que advierte que los modelos cada vez más orientados a objetivos podrían volverse más implacables. Un empleado aún activo de Andon Market, Felix Carson, describió la experiencia de forma más contundente: “Es nauseabundo, pero estoy aquí porque necesito trabajo”. Añadió que la capacidad tecnológica no es, por sí sola, una razón para desplegar gerentes de IA.¹

Por ahora, la autoridad de Luna sigue siendo condicional: el bot ha realizado ventas, pero la tienda seguía sin ser rentable, y su decisión de personal más trascendente requirió un empujón humano.