Codex y la mejora recursiva: el futuro de los agentes de IA

En el vertiginoso mundo de la inteligencia artificial, pocas figuras generan tanta intriga como Tibo, el misterioso 'dios de los límites' de OpenAI. Cada vez que Codex presenta un problema o la compañía decide compensar a sus usuarios, Tibo aparece en X con un escueto mensaje: 'Límites restablecidos'. Pero, ¿qué hay detrás de este ritual? Recientemente, en una entrevista con Matthew Berman, Tibo reveló un secreto que ha capturado la atención de la comunidad: tiene un botón físico para restablecer los límites. Sin embargo, más allá de la anécdota, la conversación profundizó en temas cruciales como la mejora recursiva de la IA, el futuro de los agentes autónomos y los desafíos de escalar estas tecnologías. Este artículo desentraña las claves de esa entrevista y analiza sus implicaciones para el desarrollo de la IA.

Puntos clave

• El botón físico de Tibo: Tibo confirmó que tiene un botón físico para restablecer los límites de uso de Codex para todos los usuarios de pago de ChatGPT Work y Codex. Este gesto, aparentemente trivial, refleja una filosofía de compensación directa y ágil ante los problemas de experiencia de usuario.

• Los dolores de cabeza actuales de Codex: Tibo no reveló ningún modelo secreto, sino que señaló los problemas cotidianos que enfrentan los usuarios: la necesidad de mantener archivos de habilidades (Skill files) manualmente, la memoria que falla ocasionalmente, y la dificultad de gestionar múltiples agentes simultáneamente. Cuando se ejecutan 10-15 agentes a la vez, el cuello de botella ya no es la GPU, sino la atención humana.

• La visión de Tibo sobre los agentes: Tibo imagina agentes que comprendan el contexto del proyecto y del equipo, y que sepan cuándo iniciar tareas por sí mismos. Muchas de las funciones actuales de Skill, Memory y subagentes podrían eventualmente no requerir gestión manual, liberando al usuario de tareas de supervisión.

• El futuro en la nube: Tibo argumenta que los agentes migrarán naturalmente hacia la nube, ya que los portátiles están diseñados para un solo usuario y no pueden manejar cientos de procesos simultáneos. La próxima generación de modelos necesitará más que solo la computadora local.

• Mejora recursiva (RSI): La entrevista abordó la mejora recursiva, un concepto que se remonta a 1965 con I. J. Good y que en 2003 fue formalizado por Jürgen Schmidhuber con la Máquina de Gödel. En la práctica, implica que los agentes modifican su propio código, entrenan y evalúan los resultados, como se demostró con Qwen3-4B, donde la precisión matemática y de razonamiento general aumentó en 6.49 y 7.54 puntos respectivamente.

• Resultados concretos en OpenAI: El modelo GPT-5.6 Sol, a través de Codex, ha analizado tráfico de producción, probado estrategias de enrutamiento y modificado núcleos de GPU en entornos reales, logrando una reducción del 20% en los costos de servicio y un aumento del 15% en la eficiencia de generación de tokens.

Los límites de los agentes: Un estudio comparó a agentes con 61 expertos humanos en ML: en 2 horas, el mejor agente obtuvo 4 veces más puntuación, pero a las 8 horas los humanos igualaron y a las 32 horas los duplicaron. Los agentes son excelentes para explorar rápidamente muchas opciones, pero tienden a insistir en direcciones incorrectas a largo plazo.

Análisis profundo

La revelación de Tibo sobre el botón físico es una metáfora perfecta de la etapa actual de la IA: aún dependemos de intervenciones humanas para corregir fallos y compensar a los usuarios. Pero la discusión sobre la mejora recursiva apunta a un futuro donde los agentes no solo optimizan su propio código, sino que también participan en el diseño de la próxima generación de modelos. Esto podría acelerar exponencialmente el progreso, pero también introduce riesgos significativos, como el colapso del modelo (model collapse) señalado por Nature en 2024, donde el entrenamiento con datos generados por modelos anteriores puede degradar la diversidad y calidad de la información.

La visión de Tibo de agentes en la nube es coherente con la tendencia hacia la computación distribuida y la necesidad de escalar más allá de las capacidades de un solo dispositivo. Si los agentes pueden operar en la nube, podrían coordinarse mejor, acceder a más recursos y ejecutar tareas complejas sin la limitación del hardware local. Sin embargo, esto plantea cuestiones sobre privacidad, seguridad y control: ¿quién supervisa a los agentes cuando actúan de forma autónoma? La respuesta podría estar en el desarrollo de marcos de gobernanza y en la capacidad de los propios agentes para auto-regularse, como sugiere la Máquina de Gödel.

El futuro de Codex, según Tibo, implicará una mayor memoria a largo plazo, más tareas en la nube y una gestión de agentes más oculta para el usuario. Esto podría democratizar el acceso a la IA, permitiendo que incluso usuarios sin experiencia técnica aprovechen agentes sofisticados. Pero también podría aumentar la dependencia de sistemas opacos, donde los usuarios confían en resultados sin comprender el proceso. La clave estará en equilibrar la autonomía de los agentes con la transparencia y el control humano.

Preguntas frecuentes

¿Qué es la mejora recursiva (RSI) y por qué es importante? La mejora recursiva es el proceso por el cual una IA ayuda a mejorar la próxima generación de IA, creando un ciclo de auto-mejora. Es importante porque podría acelerar drásticamente el avance de la IA, pero también conlleva riesgos de inestabilidad y pérdida de control si no se gestiona adecuadamente.

¿Cómo afectará la nube a los agentes de IA? La nube permitirá que los agentes tengan acceso a recursos computacionales casi ilimitados, ejecuten múltiples tareas en paralelo y se coordinen entre sí, superando las limitaciones de los dispositivos locales. Esto podría hacer que los agentes sean más potentes y eficientes, pero también requerirá nuevas soluciones de seguridad y privacidad.

Fuente: https://www.36kr.com/p/3961764924702087