HardFlow: un método del MIT permite fijar condiciones de seguridad a la inteligencia artificial sin reentrenar los modelos

Un equipo de investigadores del Instituto de Tecnología de Massachusetts (MIT) presentó HardFlow, un procedimiento que permite imponer condiciones de seguridad a sistemas de inteligencia artificial ya entrenados, sin necesidad de volver a entrenarlos. En una de las pruebas, un brazo robótico debió desplazarse hasta un objeto sorteando distintos obstáculos del recorrido. El método, descrito por sus autores como una herramienta de control, consiguió que la máquina eligiera el camino más corto disponible sin chocar con ninguno de los elementos interpuestos, mientras que la mayoría de las alternativas evaluadas provocaron colisiones o derivaron en trayectorias considerablemente más extensas.

Restricciones obligatorias y mejoras de eficiencia, en paralelo

El caso describe una aplicación concreta de la lógica del procedimiento: combinar límites obligatorios con objetivos de eficiencia. Para un robot, evitar un choque es una condición que debe respetarse; reducir la distancia hasta el destino es una mejora que puede buscarse entre los recorridos permitidos. HardFlow permite abordar ambas exigencias dentro del mismo proceso, según detallaron los responsables del desarrollo.

Cómo opera sobre modelos ya entrenados

Su incorporación tampoco requiere entrenar nuevamente la inteligencia artificial. El método funciona sobre modelos generativos que ya fueron entrenados y actúa cuando se los utiliza. Para hacer viable ese funcionamiento, el equipo dividió el cálculo en problemas más pequeños, aprovechando la estructura de los modelos de emparejamiento de flujo, un tipo de arquitectura que aprende a transformar ruido en datos ordenados mediante pasos sucesivos.

La diferencia con las técnicas previas

La diferencia está en el momento en que se exige cumplir las reglas. Una técnica utilizada como referencia, el muestreo basado en proyección, impone las restricciones en cada etapa de la generación. Ese ajuste continuo puede reducir las opciones que el sistema explora y dificultar que encuentre una solución mejor. HardFlow permite mayor libertad durante los pasos internos y exige que el resultado final respete las condiciones establecidas, apoyándose en herramientas de control óptimo, una rama de la matemática que calcula trayectorias eficientes respetando restricciones, para orientar la generación mediante correcciones graduales hacia una respuesta válida.

• Manipulación con robots: un brazo robótico debió llegar hasta un objeto sin chocar con los obstáculos del entorno. HardFlow eligió el camino más corto disponible, mientras que la mayoría de los métodos comparados provocaron colisiones o recorridos sensiblemente más largos.
• Recorridos por laberintos: el sistema debió encontrar la salida respetando las condiciones planteadas en cada ensayo. Se cumplieron todas las restricciones establecidas.
• Edición de imágenes a partir de instrucciones escritas: el procedimiento debió aplicar cambios respetando condiciones específicas en cada caso. La calidad de las soluciones superó de manera consistente a la de los métodos usados como referencia, con tiempos de procesamiento similares o menores.

Los responsables del trabajo reportaron que todas las restricciones se cumplieron en los casos examinados y que la calidad de las soluciones superó de manera consistente a las referencias, con tiempos de procesamiento similares o menores a los de la mayoría de los métodos comparados. Resta confirmar cómo se comportará el procedimiento al ser aplicado a modelos de mayor escala y en escenarios de uso fuera del ámbito de laboratorio, aspectos que el equipo señaló como líneas pendientes de evaluación.