La primera prueba de la prometida independencia de la IA está resultando inesperadamente mundana: hacer una llamada, reservar una cita o distinguir un cristal de ventana de una mesa. Las empresas de agentes para consumidores están derivando cada vez más estos trabajos a personas porque incluso los modelos líderes pueden navegar y recomendar, pero aún tropiezan cuando se requiere criterio y seguimiento en el mundo real.¹

En Dazzle AI, Marissa Mayer afirma que la empresa utiliza modelos de frontera para sugerencias y listas de candidatos, y luego verifica su trabajo antes de prestar un servicio que pueda «respaldar».¹ Recordó a un agente que confundió el cristal de una ventana con el de una mesa y empezó a intentar determinar si la mesa cabría en la ventana. Un humano lo resolvió en segundos; el agente podría haber consumido enormes recursos informáticos sin llegar a una respuesta.¹

Ese modelo de transferencia está extendiéndose. Duckbill ha creado una API para enviar los probables fallos de los agentes a trabajadores contratados, mientras que Wajo AI utiliza personas para llamadas telefónicas y obstáculos CAPTCHA. Su argumento es práctico: la IA colaborativa mantiene las tareas en marcha. Pero la solución provisional también agudiza las preocupaciones sobre la privacidad, particularmente cuando los usuarios quizá no se den cuenta de que un humano ha entrado en una interacción. Meta ha dicho que esas pruebas con asistencia humana forman parte del desarrollo de productos, al tiempo que añadió que las personas no completan actualmente las solicitudes de los usuarios de Muse.¹

La misma tensión ha aflorado en un ámbito mucho más especializado: las matemáticas. Después de que OpenAI publicara cientos de resultados generados por IA, los investigadores dijeron que tenían dificultades con exposiciones escuetas, contexto insuficiente y la laboriosa tarea de verificación.²

Sam Altman ha reconocido la disrupción, pero insiste en que la publicación debe continuar. «La humanidad merece conocimiento fundamental, y no deberíamos estar guardándonos un importante descubrimiento científico fundamental», dijo, aunque concedió que OpenAI debe mejorar la forma en que comunica los resultados.² Sin embargo, la empresa también ha retenido detalles de un supuesto resultado sobre Yang-Mills siguiendo el consejo de expertos seleccionados, lo que ha frustrado a matemáticos que ven control de acceso donde OpenAI predica divulgación.²

Desde los recados domésticos hasta las demostraciones de frontera, el patrón es el mismo: la IA puede acelerar el intento, pero las personas aún tienen que llevarlo a buen puerto de forma segura y decidir cuándo el público puede confiar en el resultado.¹²