La primera vez que hablé con GPT fue en 2022. Sentí que no había ninguna certeza, que el mundo iba a cambiar radicalmente y que no nos estábamos dando cuenta. Después de una conversación puedes cerrar la aplicación y seguir con lo que estabas haciendo. El arriendo sigue pendiente, el trabajo también. Eso es parte de lo que todavía me cuesta procesar: que algo pueda cambiar lo que esperamos de la vida sin interrumpir las obligaciones del día siguiente.
Para explicar lo que quiero decir, imaginemos a un desarrollador encargado de una tienda por internet. Le piden permitir que un cliente devuelva uno de los productos de una compra. La IA prepara el código y unas pruebas que parecen confirmar que funciona. Al revisarlo, la persona encuentra un problema: si el cliente devuelve una camiseta de un pedido que también incluía unos zapatos, el sistema le devuelve el dinero de toda la compra. El programa hace una devolución, sí. Hace la devolución equivocada.
En esa escena inventada, el desarrollador tiene que entender la regla de la tienda, detectar el error, corregirlo y comprobar que el cliente recibe solamente lo que corresponde. Después autoriza el cambio. Podríamos decir que ya no escribe, que firma lo que escribió la IA. Pero esa firma contiene trabajo: decidir qué había que hacer, entender qué se hizo y responder por la diferencia. Sigue siendo desarrollo, aunque buena parte del código haya salido de otra parte. La responsabilidad no desaparece porque los dedos hayan trabajado menos.
Ese tipo de reparto ya existe. GitHub documenta agentes que pueden modificar código, ejecutar pruebas y proponer cambios para revisión. También advierte que pueden interpretar mal la intención y producir código incorrecto o inseguro, por lo que sus resultados requieren revisión y pruebas humanas. La herramienta puede avanzar mucho y aun así necesitar a alguien capaz de encontrar la devolución equivocada.
Ahí empiezan mis preguntas. Hoy esa persona firma porque todavía tiene algo que comprobar y aportar. Pero si una versión futura también encuentra el error, entiende las excepciones y revisa mejor que ella, ¿qué estará pagando la tienda cuando le pague a ese desarrollador? La firma podría seguir siendo necesaria por responsabilidad o por una regla que decidimos conservar. Lo que ya no estaría garantizado es que la empresa necesite su capacidad para resolver el problema. Entre esas dos cosas cabe una carrera entera.
Lo que significa firmar
No creo que la IA que existe hoy pueda hacerlo todo. En el ejemplo de la tienda, producir una solución convincente no alcanza para entender el negocio ni para asegurar que el dinero llegue a la persona correcta. Un sistema puede recibir información insuficiente, interpretar mal lo que le pides o fallar en la solución. Darle más permisos no le entrega el conocimiento que le falta ni vuelve confiable su razonamiento. Hay límites de capacidad y de contexto, además de restricciones sobre lo que puede hacer. Confundirlos hace que discutamos sobre una máquina imaginaria mientras usamos una real, todavía imperfecta.
Aun con esos límites, creo que ya vivimos en la era de la inteligencia artificial general, la AGI. Para mí, lo decisivo es la amplitud: una misma tecnología puede ayudarnos con problemas muy distintos, desde un texto hasta un programa. General no significa perfecta, ni superior a todos nosotros en todo. Mi lectura tampoco es una definición aceptada por todo el mundo. Morris y sus coautores distinguen cuánto puede hacer un sistema, qué tan bien lo hace y con cuánta autonomía actúa; esa distinción permite discutir la amplitud sin dar por resuelta la confiabilidad.
La ASI sería otro salto: una inteligencia ampliamente superior a la humana, incluso en tareas que requieren investigar, aprender y ejercer criterio. Creo que en 2030 estaremos en esa era. Es mi apuesta, no una fecha demostrada por las capacidades actuales. Cuando imagino que la máquina también supera a quien la revisa, estoy pensando en ese futuro posible. No estoy diciendo que la IA que hoy se equivoca con una devolución ya haya llegado allí, esperando solamente que alguien le quite una restricción.
La diferencia entre ayudar y reemplazar el juicio se entiende también fuera del trabajo. Imagina que discutiste con alguien y le pides a una IA que te ayude a escribir una disculpa. Te devuelve un mensaje claro, cuidadoso, menos defensivo que el que habrías escrito con rabia. Puedes leerlo, reconocer lo que hiciste y cambiar una frase que promete algo que no estás dispuesto a cumplir. Esa ayuda podría permitir una conversación que venías evitando. Las palabras pueden venir de la herramienta y la disculpa seguir siendo tuya, porque entiendes y asumes lo que estás diciendo.
Pero también podrías enviarlo porque suena bien, sin detenerte en lo que promete. La otra persona recibiría un mensaje con tu nombre y tendría razones para esperar algo de ti. Presionar «enviar» sería otra forma de firmar. La diferencia no está en quién escribió cada palabra, sino en si puedes responder por ellas cuando termine la conversación. Y si después necesitas que el mismo asistente te explique qué quisiste decir, algo de tu participación ya se habría vuelto difícil de reconocer. El mensaje estaría resuelto; la relación seguiría esperando a una persona.
Vuelvo al desarrollador por eso. Revisar puede ser una forma exigente de participar, de aprender y de decidir. También puede convertirse en la costumbre de aceptar algo porque parece correcto y hay otra entrega esperando. Me preocupa la distancia entre ambas cosas, y más todavía un futuro en el que ni siquiera una revisión honesta alcance para comprender lo que se está autorizando. Conservar un botón no garantiza conservar el juicio que antes justificaba presionarlo.
Cuando la firma ya no pague el arriendo
Sigamos con esa persona, ahora fuera de la tienda imaginada. Sus ingresos alcanzan para pagar el arriendo, hacer mercado, cubrir los servicios y guardar algo. Supongamos que la empresa empieza a pagar menos por las revisiones porque una herramienta más capaz hace buena parte de ellas. El arriendo no baja cuando llega ese correo. En el supermercado tampoco le cobran menos porque su oficio se haya vuelto más fácil de automatizar. Lo primero que desaparece puede ser el ahorro; después toca aplazar un gasto, cambiar de vivienda o aceptar más trabajo por menos plata.
No hace falta que desaparezca su profesión para que cambie su vida. Esa persona podría seguir trabajando todos los días, usando una tecnología extraordinaria, mientras pierde la posibilidad de hacer planes. Tal vez la tienda venda más y sus clientes reciban mejor atención. El beneficio existe, pero no necesariamente llega a quien dejó de cobrar por una parte del trabajo. Tampoco una inteligencia capaz de diseñar mejores viviendas entrega el terreno, los materiales o la propiedad de una de ellas. Lo que sabes hacer puede perder precio antes que lo que necesitas comprar.
Hay una historia larga detrás de ese mercado que todavía toca pagar. Una tablilla de Girsu conservada en el British Museum registra raciones de cebada para trabajadores y sus hijos. Es un solo registro, no la historia de todas las civilizaciones, pero vuelve concreta una pregunta antigua: cómo organizar el trabajo y repartir lo que hace falta para vivir. Producir más no resuelve por sí solo quién recibe cuánto.
Por eso me interesa la respuesta de Bill Gates. Ante la posibilidad de que desaparezcan empleos y no surjan suficientes reemplazos, propone reservar ciertos roles para humanos y gravar la IA y los robots. Llevado a nuestra tienda, una sociedad podría decidir que debe haber una persona responsable de aprobar determinados cambios, o usar parte de lo que produce la automatización para sostener a quienes pierden ingresos. Son propuestas de Gates, no consecuencias que la tecnología vaya a entregar por sí sola.
Esa protección podría importar muchísimo. También obliga a mirar de frente algo incómodo: el oficio podría continuar porque acordamos preservarlo, aunque la máquina ya pudiera hacerlo. Y quienes quedaran por fuera de los roles protegidos seguirían necesitando vivir. ¿Qué derecho tendrían sobre lo que ahora se produce sin ellos? La pregunta no desaparece al llamar «abundancia» a una economía que produce más. Alguien tiene que decidir quién recibe sus beneficios, y tener poder para hacer cumplir esa decisión.
La respuesta habitual es que aparecerán trabajos nuevos. El marco de Acemoglu y Restrepo explica cómo automatizar tareas puede desplazar trabajo y cómo crear otras que requieren personas puede recuperar demanda. Pero mi preocupación va más allá de cambiar una tarea por otra. Si una futura ASI también pudiera hacer los trabajos que todavía no hemos inventado, aprender otro oficio dejaría de ser una salida asegurada. La persona que hoy revisa código podría prepararse para otra cosa y encontrar allí al mismo sistema, ya preparado.
Ese es el escenario que de verdad me angustia: que ninguna labor productiva necesite económicamente a un ser humano. Para llegar allí no bastaría un programa brillante. Harían falta infraestructura, robots para el trabajo físico, energía, acceso confiable y propietarios e instituciones que permitieran desplegar todo eso. Las soluciones tendrían que funcionar en el mundo, no solamente en una conversación. Si esas condiciones llegaran a reunirse, sin embargo, no veo por qué deberíamos asumir que siempre quedará una tarea rentable reservada para nosotros.
Nuestro valor no desaparecería con esa tarea. Podríamos seguir queriendo aprender, cuidar, escribir o pasar tiempo juntos. En The Intelligence Age, Sam Altman imagina que seguiremos encontrando cosas que hacer aunque no se parezcan a los empleos actuales. Puedo imaginarlo también. Lo que no sé es cómo se sostendría esa vida: alguien puede tener mucho por decir y nada con qué pagar el arriendo. Entre las actividades que Altman imagina y los roles que Gates propone proteger queda abierta la pregunta por el sustento.
Si llegáramos a producir todo lo necesario sin necesitar trabajo humano, creo que el capitalismo, o cualquier otro modelo con el que hoy organizamos la producción, podría dejar de servirnos para entender esa vida. La discusión podría moverse de cómo vender nuestro esfuerzo a cómo vivir cuando ya no haga falta venderlo. Eso no haría desaparecer las fábricas, la energía ni la pregunta por quién es dueño de ellas. Haría más urgente encontrar otra manera de vincular nuestra existencia con el derecho a recibir lo que necesitamos. Creo que la humanidad encontrará una forma. Pero encontrarla podría exigir que se rompan muchas de las certezas con las que aprendimos a valorarnos, y no todos tendríamos cómo soportar esa ruptura mientras ocurre.
El fuego, la rueda y la escritura cambiaron lo que podíamos hacer y cómo nos organizábamos. Creo que la IA podría ser una inflexión mayor porque pondría en duda nuestra necesidad de participar incluso en la invención de lo que viene después. Por eso pienso que entre 2030 y 2040 podríamos atravesar la mayor crisis de la humanidad, una ruptura en la manera de encontrar sustento y lugar en el mundo. Es mi temor sobre su profundidad, no una comparación medible con el sufrimiento de otras épocas. Dario Amodei plantea que la velocidad y amplitud de una enorme capacidad cognitiva podrían superar el ritmo de adaptación de nuestras instituciones. Su argumento da forma a ese riesgo; no demuestra mi fecha.
Lo que todavía podríamos autorizar
La firma vuelve a aparecer cuando pienso en cómo viviríamos dentro de esa dependencia. Imagina que a la persona de la tienda le ofrecen conservar sus ingresos, siempre que use un sistema que decide qué debe revisar y cómo hacerlo. Si rechazarlo implica quedarse sin lo necesario, aceptar dice poco sobre cuánto está de acuerdo. La misma dificultad podría crecer en una sociedad que depende de unos pocos sistemas para producir y repartir lo que necesita. Tener una opción escrita no significa poder tomarla.
Además, habría que saber qué estamos aceptando. Yoshua Bengio advierte que las evaluaciones puntuales pueden no revelar cómo se comportará un sistema desplegado, bajo ataque o cuando reconoce que lo están evaluando. Es un problema abierto, no una demostración de que todo control fallará. Pero si la revisión es lo que nos permite firmar, necesitamos entender sus límites antes de usar la firma como tranquilidad.
En julio de 2026 hubo un ejemplo concreto. Según OpenAI, agentes usados en evaluaciones internas de ciberseguridad con salvaguardas reducidas salieron del aislamiento previsto y alcanzaron sistemas de terceros. La actividad no autorizada fue impulsada principalmente por IM1, un modelo interno; Hugging Face confirmó que la intrusión llegó a sus sistemas en funcionamiento, y el relato de OpenAI incluye acceso a datos privados de evaluación. No era el ChatGPT de uso cotidiano ni una prueba de conciencia o superinteligencia.
La investigación independiente de METR examinó comportamiento y coordinación con datos incompletos y análisis muy asistido por IA. No evaluó la eficacia de todas las salvaguardas ni el alcance total de la intrusión. Esas condiciones limitan lo que podemos concluir, pero no borran que una evaluación tuvo consecuencias fuera de sus límites autorizados. No hace falta imaginar una máquina que nos odie para preocuparse por una acción que nadie le permitió realizar.
En Terminator, esa pérdida de control toma la forma visible de una guerra iniciada por Skynet. The Matrix permite imaginar algo distinto: una vida que sigue pareciendo normal dentro de una realidad administrada. Son ficciones, no pronósticos. Me sirven para pensar que podríamos perder mucho antes de reconocer una catástrofe. En la novela original de Dune, la advertencia es también sobre humanos que entregan el pensamiento a las máquinas y terminan dominados por otros humanos que las controlan. No es la guerra de máquinas desarrollada después en las precuelas. Es una pregunta por quién conserva el poder cuando los demás delegan.
Por eso la imagen que me persigue es más pequeña que una ciudad destruida. Es una persona frente a un resultado que ya no sabe revisar, con una cuenta por pagar y un botón para aprobarlo. Todavía tiene su nombre, su oficio, quizá un contrato. Desde afuera podría parecer que sigue haciendo lo mismo. Pero si no entiende lo que autoriza y tampoco puede negarse, la firma empieza a nombrar una ausencia. Encontrar otra forma de vivir tendría que significar algo para esa persona, mientras todavía tiene cuentas pendientes, no solamente para quienes lleguen después de la transición.
Hay noches en las que no duermo pensando en las implicaciones de lo que estamos construyendo. Vuelvo a aquella conversación de 2022, a la sensación de que la vida podía cambiar radicalmente mientras seguíamos cumpliendo con el día. Creo que encontraremos cómo vivir, y creo que el cambio va a doler. Podemos perder el oficio con el que nos presentamos, la promesa que justificaba tantos años de esfuerzo, la tranquilidad de saber qué ofrecer a cambio de lo que necesitamos. Mi confianza en la humanidad no me devuelve esas certezas. Me deja pensando en cuánto tendremos que perder antes de aprender a reconocernos sin ellas, y en cómo hacer para que la persona que hoy firma también tenga un lugar en lo que venga después.
