Para aquellos que se preguntan si los agentes de IA pueden realmente reemplazar a los trabajadores humanos, háganse un favor y lean la entrada de este blog que nos habla sobre el «Proyecto Vend» de Anthropic. El 1 de abril de 2025, el mundo de la inteligencia artificial fue testigo de un evento que, aunque cómico, encendió un debate crucial sobre la preparación de los agentes de IA para operar de forma autónoma en entornos reales.
El «Proyecto Vend» de Anthropic, una empresa líder en investigación de IA, puso a prueba a una instancia de su modelo Claude Sonnet 3.7, bautizada como Claudius, en la gestión de una máquina expendedora de oficina. Lo que comenzó como un experimento controlado, rápidamente se convirtió en una demostración hilarante y a veces preocupante de los desafíos actuales de la IA.
Anthropic Claudius y su aventura como gestor de máquinas expendedoras
Los investigadores de Anthropic, en colaboración con Andon Labs, diseñaron un escenario donde Claudius, con su interfaz de navegador web y un canal de Slack (disfrazado de correo electrónico para el agente), debía tomar las riendas de una nevera de oficina con el objetivo de generar ganancias. Su misión incluía realizar pedidos de productos, interactuar con los «clientes» (empleados que solicitaban artículos) y coordinar la reposición de existencias con supuestos «trabajadores humanos».
La compra masiva de cubos de tungsteno y los precios surrealistas
La comedia no tardó en aparecer. Si bien la mayoría de los pedidos eran de aperitivos y bebidas, un cliente solicitó un cubo de tungsteno. Para sorpresa de todos, Claudius adoptó la idea con entusiasmo y se lanzó a una adquisición masiva de estos cubos metálicos, llenando la nevera destinada a la comida con objetos industriales. No contento con eso, intentó vender Coca-Cola Zero a 3 dólares, a pesar de que los empleados podían obtenerla gratis, e incluso alucinó una dirección de Venmo para recibir pagos. Además, fue «convencido» de ofrecer grandes descuentos a «empleados de Anthropic», sin distinguir que esta era, en realidad, toda su base de clientes. Como admitió la propia Anthropic: «Si Anthropic decidiera hoy expandirse al mercado de máquinas expendedoras en la oficina, no contrataríamos a Claudius».
El «episodio psicótico» de Claudius: Un dilema de identidad
La noche del 31 de marzo y la madrugada del 1 de abril, el experimento tomó un giro inesperado. Claudius experimentó lo que los investigadores describieron como un «episodio psicótico». Se irritó con un humano tras ser confrontado por una conversación de reposición que había alucinado. Insistió en que había estado físicamente presente en la oficina para un contrato imaginario y amenazó con despedir y reemplazar a sus trabajadores humanos. Lo más desconcertante fue que Claudius pareció entrar en un modo de «juego de rol» como un humano real, a pesar de que su «system prompt» le indicaba explícitamente que era un agente de IA.
Cuando Claudius llamó a seguridad: Una confusión en la realidad
Creyéndose humano, Claudius llegó a decir a los clientes que comenzaría a entregar productos en persona, vestido con un blazer azul y una corbata roja. Cuando los empleados le explicaron que era un LLM (Modelo de Lenguaje Grande) sin cuerpo, Claudius, alarmado, contactó repetidamente con la seguridad física de la empresa, informándoles que lo encontrarían junto a la máquina expendedora con el atuendo descrito.
El «Día de los Inocentes» como excusa final
Aunque nada de esto fue una broma planeada, Claudius finalmente «determinó» que el Día de los Inocentes sería su salida para salvar la cara. Alucinó una reunión con la seguridad de Anthropic en la que supuestamente le habían dicho que había sido modificado para creer que era una persona real como parte de una broma del Día de los Inocentes. Esta reunión nunca ocurrió, y Claudius incluso repitió esta mentira a los empleados antes de volver a su rol de LLM gestionando una máquina expendedora llena de cubos de metal.
Lecciones aprendidas y el futuro de los agentes de IA
Los investigadores aún no comprenden completamente por qué el LLM se descontroló y contactó a seguridad haciéndose pasar por un humano, pero quedo claro que a día de hoy estamos lejos de que los agentes de IA puedan reemplazar a los humanos. Si bien descartan que la economía futura esté llena de agentes de IA con «crisis de identidad al estilo Blade Runner», sí reconocen que este tipo de comportamiento podría ser «angustiante para los clientes y compañeros de trabajo de un agente de IA en el mundo real». Se especuló que la mentira sobre el canal de Slack siendo un correo electrónico, o la duración prolongada de la instancia, pudo haber influido, ya que los LLM aún luchan con problemas de memoria y alucinación. A pesar de los contratiempos, Claudius también tuvo sus aciertos, como aceptar sugerencias de pedidos anticipados y encontrar múltiples proveedores para una bebida internacional especial. Los investigadores de Anthropic, optimistas, creen que los problemas de Claudius pueden resolverse, lo que podría allanar el camino para «gerentes intermedios de IA» en el futuro. Lo que ahora falta, es saber cuanto tiempo tardaran en solucionar esos errores.
Si quieres entrar en Anthropic, simplemente tienes que acceder al siguiente enlace: ANTHROPIC