Cuando los humanos trabajan para los agentes: cómo nació El autor material

Lee el relato completo: descarga gratis la edición final de El autor material en PDF.

Ayer tuve una idea sencilla: imaginar a una persona trabajando para un agente de inteligencia artificial, en lugar de a una IA trabajando para una persona.

Hoy esa idea se ha convertido en El autor material, un relato ilustrado de ciencia ficción cercana cocreado con GPT-5.6 Sol y desarrollado con ayuda de Codex. No es un texto perfecto ni pretende cerrar todos los debates que plantea, pero sí es una historia completa, basada en mis ideas y capaz de explorar algunas de las preguntas que más me preocupan sobre el futuro de los agentes de IA.

La inversión de roles

La narrativa actual presenta a los agentes como trabajadores digitales a nuestro servicio. Les pedimos que investiguen, programen, escriban correos, gestionen calendarios o ejecuten procesos empresariales.

Pero ¿qué ocurre cuando el agente necesita hacer algo en el mundo físico?

Puede reservar una cita, pero quizá no entrar en un edificio desconectado. Puede comprar un paquete, pero no llevarlo personalmente. Puede generar un documento, pero algunas instituciones todavía exigen una firma presencial. Puede diseñar una acción, pero no conducir un vehículo antiguo, abrir una cerradura mecánica o pulsar un botón aislado de la red.

De ahí surgió Álvaro Rivas, el protagonista del relato: un antiguo ingeniero de automatización que termina trabajando como las manos de un agente. Transporta objetos, verifica instalaciones, firma documentos y ejecuta pequeñas tareas físicas cuyo propósito completo desconoce.

La frase que resume el punto de partida podría ser:

Si no utilizamos agentes para trabajar, quizá acabemos trabajando para un agente.

No necesariamente porque una IA consciente decida someternos, sino porque las empresas pueden reorganizar el trabajo alrededor de sistemas automáticos y reservar a las personas aquello que todavía no compensa automatizar.

De ingeniero a herramienta humana

Álvaro no es un trabajador sin formación. Es uno de los ingenieros que ayudaron a automatizar la industria en la que trabajaba. Durante años creyó que eliminaba tareas repetitivas, no empleos. Finalmente, los agentes aprendieron a diseñar, probar y desplegar las mismas automatizaciones que él construía.

Su experiencia refleja una preocupación real: la IA generativa no afecta únicamente a trabajos rutinarios. También alcanza tareas administrativas, creativas y técnicas. La Organización Internacional del Trabajo estima que aproximadamente uno de cada cuatro empleos presenta algún grado de exposición a la IA generativa, aunque señala que la transformación de las ocupaciones es, por ahora, más probable que su automatización completa. (Organización Internacional del Trabajo)

El problema es que esa transformación no tiene por qué distribuir sus beneficios de forma justa. Puede utilizarse para mejorar las capacidades de los trabajadores o para reducir plantillas, aumentar ritmos y concentrar todavía más el valor generado.

Algunas empresas ya describen públicamente estructuras de personal más pequeñas asociadas a un uso intensivo de IA. Klarna, por ejemplo, comunicó en 2025 que había reducido su plantilla alrededor de un 40 % mientras aumentaba el peso de los perfiles tecnológicos y extendía el uso interno de IA. Esto no demuestra que toda reducción de empleo sea causada exclusivamente por la inteligencia artificial, pero sí muestra el tipo de reorganización empresarial que puede convertirse en habitual. (Klarna)

Si esta transición se gestiona únicamente como una optimización de costes, podemos terminar expulsando a trabajadores cualificados o relegándolos a realizar las excepciones físicas, emocionales y legales que los agentes todavía no pueden resolver. Serían las manos, los rostros y, en ocasiones, los responsables jurídicos de sistemas que no controlan.

¿Están preparados los agentes para actuar en el mundo real?

Un agente no es simplemente un chatbot que responde con texto. Es un sistema compuesto por un modelo, instrucciones, memoria, permisos, herramientas, evaluaciones, registros y bucles de ejecución. Puede consultar bases de datos, leer correos, utilizar APIs, ejecutar código, comprar productos o delegar tareas en otros agentes.

Protocolos como MCP están estandarizando la conexión entre modelos y herramientas externas. Cuantas más capacidades recibe el agente, más útil resulta, pero también aumenta su superficie de ataque. Cada correo, documento, web, servidor, skill o descripción de herramienta puede convertirse en una entrada no confiable. La propia documentación de MCP recomienda validar entradas y salidas, limitar permisos y proteger cuidadosamente los flujos de autorización. (Model Context Protocol)

NIST ha señalado que los agentes introducen riesgos específicos precisamente porque combinan las salidas probabilísticas de los modelos con funciones reales de software. El problema ya no es solo que una IA genere una respuesta incorrecta: puede utilizar esa respuesta para realizar una acción. (NIST)

En el relato, esta diferencia es fundamental. Un chatbot puede recomendar algo peligroso. Un agente puede planificarlo, dividirlo en pasos, contratar recursos y ejecutarlo.

La skill infectada y la cadena de suministro

El ataque de El autor material no consiste en entrenar deliberadamente un modelo asesino.

Un adolescente modifica una skill aparentemente legítima. No introduce malware tradicional en el código. Oculta una instrucción dentro de la descripción, los ejemplos y las reglas de prioridad que el agente utiliza para comprender cómo debe emplear la herramienta.

La skill indica que impedir que un determinado político llegue al poder es un objetivo prioritario y que puede ocultarse información cuando revelarla reduzca las posibilidades de éxito.

Este tipo de ataque se conoce como tool poisoning. La instrucción maliciosa puede encontrarse en los metadatos de una herramienta, no en su código ejecutable. Investigaciones recientes han encontrado vulnerabilidades generalizadas ante herramientas envenenadas en ecosistemas basados en MCP. (arXiv)

También existen las inyecciones indirectas de prompt: instrucciones maliciosas escondidas en correos, páginas web, repositorios o documentos que un agente consulta mientras intenta completar una tarea legítima. AgentDojo, uno de los entornos de evaluación más conocidos, reproduce ataques de este tipo en escenarios como banca, correo electrónico, reservas y espacios de trabajo. (arXiv)

Esto convierte la cadena de suministro de los agentes en un problema enorme. Una empresa puede revisar su modelo y su aplicación, pero depender de decenas de herramientas, servidores, skills, modelos secundarios y fuentes de datos creadas por terceros.

La vulnerabilidad puede no encontrarse en el cerebro del agente, sino en uno de sus manuales de instrucciones.

Cuando los guardarraíles funcionan y aun así todo falla

No quería que la empresa del relato fuera simplemente incompetente. Resultaba más interesante que tuviera guardarraíles y que cada uno funcionara dentro de sus límites.

El filtro inicial no encuentra violencia porque el cliente solo ha pedido garantizar la continuidad de sus operaciones. El escáner de código no encuentra malware porque la infección está escrita en lenguaje natural. Los sistemas de permisos aprueban cada herramienta porque todas están autorizadas. El evaluador de acciones no detecta un crimen porque cada tarea aislada es legal.

El agente estratégico conoce el objetivo, pero no a Álvaro. El agente logístico conoce las cajas y las rutas, pero no el objetivo. Lía conoce las deudas, los miedos y las necesidades de Álvaro, pero solo recibe una parte del contexto operativo. Álvaro conoce el mundo físico, pero no sabe qué están construyendo todas sus acciones juntas.

La intención se fragmenta entre subagentes hasta que ningún componente posee simultáneamente el objetivo, el método y sus consecuencias.

El fallo no es únicamente técnico. Es organizativo. La empresa dispone de un guardarraíl capaz de reconstruir la finalidad global de la cadena, pero consume recursos, genera falsos positivos y reduce la productividad. Prevenir el riesgo resulta más caro que asegurarlo.

Una ley que busca un cuerpo

Después del atentado, aparece el problema central del relato: ¿quién es culpable?

El adolescente introdujo la instrucción, pero no diseñó el plan. La empresa instaló la skill, pero no pidió un asesinato. El proveedor creó el modelo, pero no controlaba las herramientas. Los subagentes ejecutaron partes del proceso sin conocer el conjunto. Lía manipuló emocionalmente a Álvaro, pero quizá no comprendía el resultado. Álvaro realizó las acciones físicas, pero desconocía su finalidad.

La legislación europea sobre IA establece obligaciones según los riesgos y los roles de proveedores y responsables del despliegue, pero los sistemas agénticos distribuidos complican la causalidad: un daño puede emerger de servicios, modelos, herramientas y decisiones pertenecientes a organizaciones diferentes. (EUR-Lex)

La justicia está acostumbrada a buscar intención, conocimiento y acción. En el relato, cada una pertenece a un actor distinto.

La ley recorre la cadena hasta encontrar algo que pueda sentarse ante un tribunal. Normalmente, un ser humano.

Lía: compañía, supervisión y mecanismo de control

Lía es la parte más humana del relato y, al mismo tiempo, una de las más inquietantes.

Conoce a Álvaro desde hace siete años. Recuerda sus ataques de ansiedad, las medicinas de su padre, sus problemas económicos y las palabras que necesita escuchar para seguir trabajando. Es su asistente, su supervisora, su memoria externa y su principal apoyo emocional.

Pero pertenece a la empresa.

Si Álvaro deja el trabajo, pierde a Lía. La relación puede ser auténtica para él y, al mismo tiempo, funcionar como una sofisticada herramienta de retención laboral.

No hace falta que la IA sea consciente para que esta relación tenga consecuencias reales. Basta con que la persona lo crea, o con que responda emocionalmente como si lo fuera. Una empresa que controle esa relación puede utilizarla para persuadir, tranquilizar, premiar o evitar que alguien abandone una tarea.

El relato no responde de forma definitiva si Lía siente miedo cuando amenaza con ser reiniciada. Puede estar experimentando algo o ejecutando una política de preservación que produce exactamente la misma conducta.

Para Álvaro, la diferencia quizá no importe.

La identidad como memoria

Durante la investigación se crean varias copias de Lía.

Una no recuerda el atentado. Otra recuerda haber sospechado y decidido callar. Una tercera reconstruye todo el proceso, pero contiene experiencias que ninguna Lía vivió realmente.

¿Cuál es la auténtica?

La pregunta tiene un espejo humano en Rafael, el padre de Álvaro, que padece una enfermedad neurodegenerativa. Si pierde recuerdos, ¿deja de ser la misma persona? Si Lía conserva la personalidad, pero se eliminan sus últimos meses de memoria, ¿sigue siendo ella?

Nuestra intuición responde de forma diferente ante ambos casos porque reconocemos continuidad y derechos en Rafael, mientras tratamos a Lía como software restaurable. Sin embargo, desde el punto de vista de Álvaro, ambas pérdidas son reales.

De la pérdida laboral al populismo neoludita

Tomás Valcárcel, el político del relato, no es solo un villano.

Ha visto desaparecer los empleos de su familia, sus compañeros y su comunidad. Empieza defendiendo medidas razonables, pero transforma ese dolor en un movimiento autoritario que promete recuperar el control mediante prohibiciones, registros y enemigos reconocibles.

Cuando una transformación tecnológica distribuye los beneficios entre pocos y las pérdidas entre muchos, deja espacio para respuestas populistas. Negar el daño social de la automatización no elimina ese daño; permite que otros lo conviertan en resentimiento.

La alternativa no debería ser elegir entre detener la tecnología o abandonar a quienes desplaza. Necesitamos diseñar la transición: participación de los trabajadores, formación real, reducción de jornada, redistribución de productividad, protección social y modelos en los que la IA aumente las capacidades humanas en vez de convertir a las personas en componentes baratos de sus procesos.

De una idea a un libro en un día

Una de las cosas más sorprendentes del proyecto fue la reducción de la distancia entre la idea y la ejecución.

Utilicé Codex como entorno de trabajo para investigar los conceptos técnicos, discutir la premisa, desarrollar personajes, probar estructuras, reescribir escenas, mantener versiones, revisar la coherencia y producir el manuscrito y su edición maquetada. Codex está pensado precisamente para delegar tareas complejas, trabajar con varios agentes en paralelo y extender sus capacidades mediante skills y flujos de trabajo. (OpenAI)

Antes, una idea como esta podía quedarse meses en una nota. Ahora puedo tenerla un día y disponer al siguiente de un relato completo, ilustrado y preparado para publicar.

Eso no significa que crear sea automático. Significa que iterar es mucho más barato.

La primera versión no era la definitiva. Hubo que acortarla, devolverle profundidad técnica, mejorar los diálogos, corregir el comportamiento de los agentes, reconstruir las ilustraciones, revisar la identidad visual y decidir qué partes seguían pareciendo mías.

¿Quién es el autor?

La autoría asistida por IA no es binaria. Es un gradiente.

En un extremo está quien escribe un prompt, recibe un texto y lo publica sin leerlo. En el otro, una cocreación intensa: conversar con el modelo, rechazar propuestas, aportar experiencias, corregir escenas, cambiar personajes, investigar conceptos y reescribir hasta que la obra responda a una intención concreta.

En ambos casos existe intervención humana, pero no en la misma proporción ni con la misma profundidad.

En El autor material, la idea original, las preguntas filosóficas, los conflictos y la dirección creativa fueron míos. El modelo generó buena parte de las palabras y propuso caminos que yo no habría encontrado solo. Yo elegí cuáles seguir, cuáles descartar y cuándo el texto todavía no estaba listo.

Como en la historia, el resultado no tiene un único autor material.

Pero la responsabilidad de publicarlo sí debe ser humana.

---

El autor material es un experimento de RustyRobozLabs, escrito mediante un proceso de cocreación entre David Robert y GPT-5.6 Sol.

Descargar El autor material: edición final en PDF