Meta corrige su asistente de inteligencia artificial tras sugerir preguntas íntimas sobre hijos de una usuaria en Instagram

La empresa Meta, propietaria de Facebook e Instagram, admitió un fallo en el funcionamiento de su asistente de inteligencia artificial luego de que la herramienta formulara preguntas de carácter personal sobre los hijos de una usuaria a partir de publicaciones accesibles en la plataforma. El caso, reportado por medios especializados y replicado luego en portales de noticias, encendió las alarmas sobre los límites que deberían tener los sistemas automatizados al procesar información familiar.

De acuerdo con el relato difundido por la compañía y por la propia afectada, el episodio se inició cuando una usuaria de Instagram publicó un video en el que se la ve cantando junto a su hijo dentro de un automóvil. Debajo de esa publicación, el asistente de inteligencia artificial integrado por Meta sugirió de manera automática la pregunta «¿Quién es el niño pasajero?», una formulación que, al ser seleccionada por la usuaria, derivó en respuestas con referencias a la edad de sus hijas y al lugar donde reside la familia.

La mujer sostuvo, además, que el chatbot le exhibió fotografías de sus hijas cargadas con anterioridad en la plataforma, entre ellas una imagen que, según su testimonio, había sido eliminada años atrás. A partir de ese señalamiento, la discusión pública se concentró en la capacidad del sistema para relacionar publicaciones propias con las de otros familiares y convertirlas en sugerencias que la propia compañía reconoció como invasivas.

El reconocimiento de la empresa y el comunicado oficial

“Nos equivocamos. La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

Dina El-Kassaby, portavoz de Meta, fue la encargada de admitir el error ante la consulta de la prensa especializada. La vocera aclaró que el asistente no accede a contenido privado al que el usuario no tenga permiso: opera, en principio, sobre información ya visible para quien formula la pregunta. El inconveniente, según la explicación oficial, no radicó en el acceso a datos prohibidos, sino en la manera en que el modelo interpretó y vinculó la información disponible para construir las sugerencias.

El episodio se suma a un historial reciente de cuestionamientos a las herramientas de inteligencia artificial de la compañía. En julio pasado, Meta había retirado una función que permitía generar imágenes falsas de otros usuarios de Instagram, luego de recibir críticas por el potencial uso indebido de esa capacidad. En ambos casos, la retirada o corrección de las funciones se produjo después de que las consecuencias se hicieran públicas a través de reportes de usuarios y de la prensa tecnológica.

Según la línea argumental de la empresa, la función concebida para ayudar a los usuarios a obtener más contexto sobre lo que estaban viendo en la plataforma; el error, en esta oportunidad, fue aplicar esa misma lógica sobre datos personales y familiares sin los filtros adecuados. La compañía indicó que ya corrigió el comportamiento que permitía generar ese tipo de recomendaciones y que avanza en ajustes adicionales para que el asistente no derive hacia preguntas sobre la vida privada o el entorno cercano de las personas.

La situación vuelve a poner en el centro del debate el equilibrio entre la utilidad de los asistentes automatizados y la protección de la información personal, en particular cuando se trata de menores de edad cuyas imágenes circulan en redes sociales. Organismos de defensa de la privacidad y reguladores de distintos países vienen reclamado, en los últimos años, criterios más estrictos para el entrenamiento y el despliegue de sistemas de inteligencia artificial que procesan datos familiares, una discusión que este tipo de episodios tiende a reactivar.