Meta admite que su asistente Muse arma fichas cada hora sobre la familia, amistades y parejas del propio centro de jubilados del barrio

Reconocer de un vistazo que aquella factura pertenece al plomero contratado el año pasado o recordar al pasar cuáles son las flores favoritas de la pareja son dos de las situaciones que Meta imagina presentar a la hora de promocionarlo, y para las que su asistente de inteligencia artificial Muse reúne, guarda y actualiza información no solo de la persona usuaria, sino también de quienes la rodean. Así lo explicó el investigador independiente en seguridad informática e inteligencia artificial Karan Joshi, al relevar el funcionamiento interno de ese agente y abrir un debate que toca de lleno la vida cotidiana de cualquier adulto mayor que lo utilice para organizarse.

Cómo se construyen los perfiles y qué datos se pueden cargar

El mecanismo quedó al descubierto cuando Joshi consiguió que el propio chatbot compartiera archivos con sus instrucciones internas, mediante un pedido dentro de una conversación habitual, y la documentación obtenida describe una rutina que se ejecuta cada hora y que prepara fichas sobre familiares, parejas, amistades, colegas y otras personas, incluidas cuentas que el usuario sigue en redes sociales.

• Antecedentes del vínculo y tipo de relación.
• Intereses compartidos y asuntos pendientes.
• Cumpleaños, aniversarios y cambios de domicilio.
• Objetivos de ahorro en común y desacuerdos anteriores.
• Datos que surjan de conversaciones o conexiones de la persona usuaria.

Las instrucciones obtenidas por Joshi exigen, además, trabajar con evidencia y no completar los perfiles con detalles inventados, un límite operativo que no reemplaza, como se verá, el control que efectivamente queda en manos del usuario.

Lo que Meta asegura y lo que el usuario puede revisar

Daniel Roberts, uno de los portavoces de la compañía, sostuvo que ese contexto ayuda al asistente a cumplir los objetivos de quien lo usa y explicó que la información procede de contenidos públicos y de aquello que el propio usuario comparte con el agente. Meta también asegura que cada persona dispone de una máquina virtual separada, sin acceso para otros usuarios o agentes, y que el sistema solicita confirmación antes de concretar acciones sensibles como mandar un correo electrónico o realizar una compra.

“La memoria y los controles de revisión de actividad están disponibles para quien instaló Muse; las personas incluidas en esas fichas no tienen acceso a esos registros.”Daniel Roberts, vocero de Meta

Esa diferencia entre quien maneja la memoria y quienes quedan registrados en ella es, a mi entender, el punto más delicado de todo el asunto, ya que alcanza a un amplísimo derecho como el de la propia imagen y se apoya en una base legal que la empresa presenta como suficiente, pero que un tercero no puede ni ver ni discutir.