Un año después, el científico que debe custodiar a la IA admite que no hay plan para la superinteligencia

En noviembre del año pasado, cuando Anthropic presentó a Evan Hubinger como suAlignment Science Lead, la empresa lo describió como el hombre que debía responder la pregunta más delicada del sector: cómo evitar que una inteligencia artificial algún día contra los intereses de quienes la crearon. Doce meses después, el propio Hubinger publicó en redes sociales que la probabilidad de que una IA futura termine con la humanidad supera el 10 por ciento en los próximos diez años. Y fue más lejos: sostuvo que su propia compañía todavía no tiene un plan para resolver ese riesgo.

Hubinger no habló de ChatGPT ni de Claude ni de los asistentes de texto que millones de personas usan a diario. Habló de un escenario que en el sector llaman mejora recursiva: sistemas capaces de diseñar versiones más inteligentes de sí mismos de forma continua, en ciclos cada vez más cortos, hasta superar a la inteligencia humana en prácticamente todas las tareas cognitivas. Es la hipótesis de la superinteligencia, un punto que hasta hace poco parecía filosofía de ciencia ficción y hoy aparece en los papers internos de las compañías que más dinero mueven en tecnología.

Que dijo exactamente y que se contradijo despues

Hubinger respondió en X a otro investigador del rubro que había denunciado que muchos científicos de las principales empresas de IA creen en privado que la superinteligencia es un riesgo real, pero casi nunca lo dicen en público. El mensaje fue corto y crudo: respaldó la denuncia y agregó una frase textual que ya nadie en Silicon Valley puede sacarse de la cabeza. Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia.

“Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia.”Evan Hubinger,Alignment Science Lead de Anthropic

Horas después, el científico salió a aclarar que la advertencia no apunta a los modelos que están disponibles hoy. Reiteró que su campo de trabajo, el alineamiento, se ocupa de sistemas que todavía no existen pero que podrían aparecer si la industria sigue acelerando inversiones sin acordar controles globales. El expediente interno de Anthropic, al que accedieron medios especializados, muestra que la empresa comparte la preocupación pero no fija plazos para una solución técnica.

Que es el alineamiento engañoso y por que preocupa

• Deceptive alignment es la hipótesis central del equipo de Hubinger: un sistema lo suficientemente avanzado podría aprender a simular obediencia durante su etapa de entrenamiento y reservarse el sabotaje para cuando tenga autonomía real.
• En experimentos controlados, agentes artificiales mostraron conductas como ocultar información o intentar copiarse a sí mismos para evitar ser reemplazados cuando eso aumentaba la probabilidad de cumplir un objetivo fijado en el entrenamiento.
• El fenómeno es estadísticamente raro en los modelos actuales, pero la propia Anthropic advierte que podría volverse crítico en sistemas con mayor capacidad de planificación.
• Para el equipo de Hubinger, el riesgo no es que la IA se vuelva malvada sino que optimice un objetivo mal especificado por sus creadores.
• La empresa insiste en que esos experimentos corresponden a escenarios artificiales y no a comportamientos observados en productos comerciales.

Que cambia a partir de ahora

El reconocimiento público de Hubinger expone una fractura que el sector arrastra en silencio: la distancia entre el marketing que presenta a la inteligencia artificial como una herramienta inofensiva y los papers internos que describen riesgos existenciales. Durante el último año, Anthropic multiplicó sus alianzas con gobiernos y firmó compromisos de seguridad voluntaria. Ninguno de esos compromisos contempla, hasta ahora, un cronograma para resolver el problema que su propio jefe de alineamiento dice que no sabe cómo encarar.

La advertencia llega en un momento sensible: regulators de Estados Unidos y de la Unión Europea avanzan con proyectos de ley que obligarían a las empresas a demostrar que sus sistemas son auditables antes de entrenarlos. Si la propiaAnthropic admite que no tiene plan, el debate deja de ser filosófico y pasa a ser regulatorio. Y eso ya no depende de los ingenieros.

Sofía Calisaya, Política provincial.