Anthropic le abrocha a METR las llaves de su propia casa: seis auditores con acceso de empleado

La jugada que lo cambió todo fue una silla: seis sillas, en realidad. Seis investigadores de METR, una organización sin fines de lucro que se dedica a evaluar sistemas de inteligencia artificial, se sentaron en su propia oficina dentro de Anthropic. Con computadora de la empresa. Con espacio físico en las oficinas de la compañía. Con acceso a las herramientas internas que usa cualquier empleado del área de evaluación de riesgos. Y, sobre todo, con la libertad de abrir la boca y publicar lo que encuentren sin que nadie les tape la boca.

Hasta acá, una rareza. Las auditorías de inteligencia artificial suelen hacerse de afuera hacia adentro, con la información que la propia empresa decide mostrar. Lo que hizo Anthropic fue, en criollo, darle las llaves de la casa a alguien de afuera para que mire hasta el placard.

Tres categorías, una sola con luz verde

El esquema que armó la empresa tiene tres niveles, como una pirámide. Abajo del todo, organizaciones como SecureBio hacen revisiones acotadas y necesitan pedir permiso antes de publicar cualquier cosa. En el medio, los evaluadores reciben más información y pueden publicar sin pedir autorización, aunque con algunos límites. Y arriba, en lo más alto, queda hoy únicamente METR: acceso equivalente al de un empleado y la potestad de sacar a la luz evaluaciones, reportes de incidentes y análisis de prácticas internas sin que Anthropic pueda frenarlos.

La compañía se guardó tres casilleros cerrados con llave: datos de clientes, información protegida por secreto profesional entre abogado y cliente y detalles sobre la arquitectura de los modelos. En todo lo demás, los auditores pueden meter la nariz.

La letra chica, igual, existe. Anthropic puede pedir que se redacten algunos datos que encajen en categorías estrechas y previamente definidas. Pero METR queda libre de salir a marcar públicamente si considera que esa redacción estaba o no justificada. Es decir: puede decirle a la gente que la empresa le tapó algo y por qué.

• El nivel más bajo hace revisiones acotadas y necesita pedir permiso para publicar.
• El nivel intermedio accede a más información y publica sin pedir autorización.
• El nivel superior, donde está METR, tiene acceso de empleado y publica sin que la empresa pueda bloquearlo.
• Anthropic puede pedir que se redacten datos sensibles, pero METR puede señalar si esa redacción le parece injustificada.

Por qué tanto acceso, según Anthropic

La propia compañía reconoció que no puede abrir todo al público: parte de esa información sirve para actores maliciosos o es sensible desde el punto de vista comercial. Por eso eligió un acceso profundo con un grupo chico, con acuerdos exigibles de por medio y con el resto del personal de METR aislado de ese trabajo específico.

Para justificar por qué un auditor externo necesita meterse tan adentro, la empresa enumeró cuatro condiciones que, a su entender, tienen que cumplirse para que una auditoría sirva de algo. La primera es experiencia técnica suficiente para detectar cuándo un modelo finge estar alineado en lugar de estarlo realmente. La segunda, independencia económica y operativa respecto de la compañía auditada. La tercera, un acceso que vaya más allá de los modelos e incluya cómo se entrenaron y cómo funcionan los mecanismos de seguridad. Y la cuarta, libertad para publicar sin restricciones previas.

El equipo de METR ya venía trabajando con la empresa desde hacía un año, revisando informes de riesgo antes de que los dejaran pasar al mostrador. Lo de ahora es un salto de categoría. La compañía todavía no cerró el detalle fino de cómo seguirá este experimento, pero la señal hacia afuera es clara: por primera vez, alguien de afuera se sienta a la mesa con las mismas cartas que un empleado y sin pedir permiso para contarlo.