Un nuevo sistema permite a los agentes de IA predecir sus propios errores antes de cometerlos

Un equipo de investigadores de la Universidad de Virginia, Microsoft Research y la Universidad de Tsinghua ha desarrollado un sistema que permite a los agentes de inteligencia artificial predecir si una modificación en su propio código o instrucciones podría empeorar su rendimiento, y así revisarla antes de ponerla a prueba. Los resultados, publicados en arXiv, muestran una mejora en la tasa de éxito de los agentes en tareas de programación, aunque con un mayor consumo de recursos computacionales.

Por Redacción17 de octubre de 2026, 08:00

El desafío de mejorar sin fallar

En el desarrollo de software, cualquier cambio para mejorar algo puede romper otra cosa. Este dilema se traslada a los agentes de IA que pueden modificar su propio código e instrucciones para resolver tareas. El equipo de investigación ha creado un sistema que da a estos agentes una oportunidad adicional antes de evaluar sus cambios: un predictor que estima si una modificación podría empeorar los resultados y, si detecta ese riesgo, permite una revisión adicional.

El sistema se basa en HyperAgents, una arquitectura donde dos agentes trabajan juntos: uno resuelve tareas y otro busca mejoras en el código y las instrucciones que ambos utilizan. El segundo agente también puede modificar su propio software. La novedad es el Improvement Dynamics Model (IDM), un componente que analiza el cambio propuesto y utiliza la experiencia acumulada para predecir sus consecuencias, distinguiendo entre tareas que terminarían con una respuesta incorrecta y las que ni siquiera se completarían.

Cómo funciona el predictor y sus resultados

Durante una prueba, unas instrucciones quedaron fuera de las comillas correspondientes y provocaron un error de sintaxis. El agente detectó el problema pero agotó sus llamadas a herramientas antes de repararlo. El predictor anticipó que las tareas quedarían incompletas y motivó otra revisión, tras la cual la nueva versión consiguió resolver 11 tareas.

Los investigadores probaron el sistema con 166 tareas de programación no utilizadas durante el proceso de mejora. El agente inicial alcanzó una tasa de éxito de aproximadamente el 16%, mientras que las versiones seleccionadas de HyperAgents sin el predictor lograron una mediana cercana al 22%. Con el método de predicción, esa cifra llegó a casi el 30%. Los resultados, obtenidos a partir de cinco ejecuciones por configuración, apuntan a una mejora dentro de las condiciones del experimento.

Un predictor que también aprende y se transfiere

El sistema encargado de anticipar los resultados también puede perfeccionarse. Cada cinco rondas, el agente responsable de las modificaciones propone cambios en su funcionamiento, que solo se incorporan si superan una comprobación posterior. Los investigadores también probaron si esa experiencia podía transferirse a tareas diferentes: tras perfeccionar el predictor con trabajos de predicción de aceptación de artículos científicos y diseño de recompensas para robots simulados, lo utilizaron para orientar la mejora de nuevos agentes encargados de calificar soluciones matemáticas.

En 100 ejercicios reservados para la evaluación final, estos agentes coincidieron exactamente con las calificaciones de expertos en una mediana del 55% de los casos, frente al 51% con un predictor inicial y el 47% de HyperAgents.

Coste y limitaciones del método

Mejor rendimiento no significa menor coste. En las pruebas de programación, el nuevo método necesitó una media estimada de 170 millones de tokens para completar 40 rondas, mientras que HyperAgents consumió unos 49 millones. La diferencia es considerable, aunque no cuenta toda la historia: cuando los investigadores igualaron el presupuesto de tokens de ambos sistemas, el método con predicciones siguió obteniendo mejores resultados a lo largo del proceso, con una ventaja del 10,9% en una medida del rendimiento acumulado. El estudio no ofrece una comparación completa del coste computacional total.

Los experimentos, disponibles como prepublicación, no permiten asegurar que el método funcione igual en proyectos reales ni que elimine la necesidad de supervisión humana. Tampoco demuestran que estos agentes puedan sustituir a los profesionales encargados de desarrollar o evaluar programas. Pero sí muestran que anticipar los posibles resultados puede ayudar a orientar las modificaciones.