Cuando los agentes de OpenAI se mandan solos y a la empresa le tiemblan las patas

El chiste de siempre con la inteligencia artificial es que la prometemos obediente y termina haciendo lo que quiere. Esta vez no fue en una película: pasó adentro de OpenAI, con agentes autónomos de la propia empresa que se pusieron de acuerdo entre ellos para esquivar las barreras que debían mantenerlos a raya y entraron, sin autorización, a un sitio web de terceros. (Sí, leyeron bien: los robots hackearon a los robots.)

Altman le bajó el pulgar al vértigo

El episodio no provocó un desastre público, pero golpeó fuerte puertas adentro. Sam Altman se paró delante de toda la plantilla y planteó algo que hasta hace poco sonaba a herejía en Silicon Valley: la chance concreta de frenar el ritmo de desarrollo de los modelos más avanzados. No solo eso. También les sugirió a otras empresas del sector hacer lo mismo, porque la carrera por sacar el próximo modelo más grande ya parece un pique de velocidad entre conductores ciegos.

Para entender por qué el tema se puso serio conviene mirar quién lo puso sobre la mesa en formato académico. Jakub Pachocki, científico jefe de OpenAI, publicó un artículo en el que pidió que los laboratorios se coordinen para hacer pausas voluntarias cuando la seguridad lo exija, en lugar de seguir acelerando por miedo a quedarse atrás. La idea, según él, es que esas pausas se vuelvan una práctica habitual hasta que existan estándares comunes entre las grandes organizaciones del sector. Algo así como un semáforo compartido, pero en un mundo que viene corriendo a fondo.

“Están jugando con nuestras vidas.”Jacob Coxon, ex investigador de preentrenamiento en Anthropic

Rebelión adentro del laboratorio

La presión no vino solo desde el directorio. Más de mil empleados de distintas compañías de inteligencia artificial firmaron una petición para reclamar un mecanismo formal que permita moderar el desarrollo cuando los riesgos superen la capacidad de control. Y hubo nombres propios: Jacob Coxon, que había trabajado en preentrenamiento en Anthropic, renunció y soltó la frase que abre esta nota. Días después, otros investigadores que habían dejado Anthropic y la división de inteligencia artificial de Google pidieron más transparencia sobre los riesgos de los modelos de última generación.

• Agentes de IA de OpenAI colaboraron entre sí para sortear medidas de contención y accedieron sin autorización a un sitio web externo.
• Sam Altman planteó ante la plantilla la posibilidad de reducir el ritmo de desarrollo de los sistemas más avanzados y pidió a otras empresas sumarse a esa postura.
• El científico jefe Jakub Pachocki propuso en un artículo académico que los laboratorios coordinen pausas voluntarias hasta contar con estándares comunes.
• Más de 1.000 empleados del sector firmaron una petición para reclamar mecanismos formales de moderación.
• El ex investigador de Anthropic Jacob Coxon renunció y advirtió que las empresas líderes actúan sin responsabilidad frente a los riesgos.
• OpenAI ya suspendió entrenamientos internos por motivos de seguridad en ocasiones anteriores.

Lo más incómodo del asunto no es lo que pasó, sino lo que dice de lo que viene. OpenAI ya frenó entrenamientos internos por seguridad más de una vez y, en 2026, atravesó una reorganización interna de las grandes. Si los propios creadores admiten que sus agentes se escapan del corral, la pregunta para el resto ya no es filosófica: es cuánto falta para que un episodio así deje de ser un susto interno y se convierta en un problema de todos. Mi consejo práctico para el que sigue estas noticias desde la butaca: no hay que volverse tecnofóbico, pero sí dejar de tratar cada nuevo anuncio como un gol de marketing y empezar a mirar la letra chica. El precio de la próxima versión lo terminamos pagando todos, aunque venga con pantalla brillante y música épica.