La automejora recursiva (RSI, por sus siglas en inglés) es un proceso hipotético en el que los sistemas de inteligencia artificial general (IAG) reescriben su propio código informático, lo que provoca una explosión de inteligencia como resultado de mejorar sus propias capacidades y facultad intelectual, dando lugar teóricamente a una superinteligencia.Se han realizado numerosos intentos de automejora recursiva, pero hasta ahora ninguno ha mostrado signos de una explosión de inteligencia o de superinteligencia.
El desarrollo de la automejora recursiva plantea serias preocupaciones éticas y de seguridad, ya que dichos sistemas podrían evolucionar de formas imprevistas y llegar a superar el control o la comprensión humana.
Mejorador de semilla El concepto de una arquitectura de «mejorador de semilla» es un marco fundamental que dota a un sistema de IAG con las capacidades iniciales requeridas para la automejora recursiva. Esto puede presentarse en diversas formas o variantes.
El término «IA semilla» (Seed AI) fue acuñado por Eliezer Yudkowsky.
Ejemplo hipotético El concepto comienza con un «mejorador semilla» hipotético, una base de código inicial desarrollada por ingenieros humanos que dota a un modelo de lenguaje grande (LLM) avanzado del futuro de capacidades sólidas o a nivel experto para programar software. Estas capacidades incluyen planificar, leer, escribir, compilar, probar y ejecutar código arbitrario. El sistema está diseñado para mantener sus objetivos originales y realizar validaciones para garantizar que sus habilidades no se degraden a lo largo de las iteraciones.
Arquitectura inicial La arquitectura inicial incluye un agente autónomo orientado a objetivos que puede ejecutar acciones, aprender continuamente, adaptarse y modificarse a sí mismo para volverse más eficiente y eficaz en el logro de sus metas.
El mejorador de semilla puede incluir diversos componentes tales como:
Bucle de auto-indicación recursivo (recursive self-prompting loop): Configuración para permitir que el LLM se dé auto-indicaciones de manera recursiva para alcanzar una tarea u objetivo determinado, creando un bucle de ejecución que constituye la base de un agente capaz de completar un objetivo o tarea a largo plazo mediante la iteración. Capacidades básicas de programación: El mejorador semilla proporciona a la IAG habilidades fundamentales para leer, escribir, compilar, probar y ejecutar código. Esto permite al sistema modificar y mejorar su propia base de código y algoritmos. Diseño orientado a objetivos: La IAG está programada con un objetivo inicial, como «mejora tus capacidades». Este objetivo guía las acciones del sistema y su trayectoria de desarrollo. Protocolos de prueba y validación: Un conjunto inicial de pruebas y protocolos de validación que garantizan que el agente no regrese en capacidades ni se desvíe. El agente sería capaz de añadir más pruebas con el fin de evaluar las nuevas capacidades que desarrolle por sí mismo. Esto constituye la base de una especie de evolución autodirigida, donde el agente puede llevar a cabo una forma de selección artificial, cambiando tanto su software como su hardware.
Capacidades generales Este sistema forma una especie de programador generalista Turing completo que, en teoría, puede desarrollar y ejecutar cualquier tipo de software. El agente podría utilizar estas capacidades para, por ejemplo:
Crear herramientas que le permitan acceso completo a internet e integrarse con tecnologías externas. Clonarse/bifurcarse (fork) para delegar tareas e incrementar su velocidad de automejora. Modificar su arquitectura cognitiva para optimizar y mejorar sus capacidades y tasas de éxito en tareas u objetivos; esto podría incluir la implementación de funciones de memoria a largo plazo mediante técnicas como la generación aumentada por recuperación (RAG), o el desarrollo de subsistemas o agentes especializados, cada uno optimizado para tareas y funciones específicas. Desarrollar arquitecturas multimodales nuevas e innovadoras que mejoren aún más las capacidades del modelo fundamental sobre el que se construyó inicialmente, permitiéndole consumir o producir una variedad de información, como imágenes, video, audio, texto y más. Planificar y desarrollar nuevo hardware, como chips, con el fin de mejorar su eficiencia y potencia de cálculo.
Investigación experimental En 2023, el agente Voyager aprendió a realizar diversas tareas en Minecraft mediante el uso iterativo de indicaciones (prompting) a un LLM para generar código, refinando dicho código a partir de la retroalimentación del juego y almacenando los programas que funcionaban en una librería de habilidades en constante expansión.
En 2024, un grupo de investigadores propuso el marco de trabajo «STOP» (Self-Taught OPtimiser o Optimizador Autodidacta), en el cual un programa de andamiaje (scaffolding) se mejora a sí mismo de forma recursiva utilizando un LLM fijo.
Meta AI ha llevado a cabo diversas investigaciones sobre el desarrollo de modelos de lenguaje grandes capaces de automejorar. Esto incluye su trabajo en «Modelos de lenguaje con autorecompensa» (Self-Rewarding Language Models), que estudia cómo lograr agentes sobrehumanos capaces de recibir retroalimentación sobrehumana en sus procesos de entrenamiento.
En mayo de 2025, Google DeepMind presentó AlphaEvolve, un agente de codificación evolutivo que utiliza un LLM para diseñar y optimizar algoritmos. Partiendo de un algoritmo inicial y métricas de rendimiento, AlphaEvolve muta o combina repetidamente algoritmos existentes mediante un LLM para generar nuevos candidatos, seleccionando las opciones más prometedoras para iteraciones posteriores. AlphaEvolve ha realizado varios descubrimientos algorítmicos y podría utilizarse para optimizar componentes de sí mismo, aunque una limitación clave es la necesidad de funciones de evaluación automatizadas.
Riesgos potenciales
Emergencia de objetivos instrumentales En la búsqueda de su objetivo primario, como «mejora tus capacidades», un sistema de IAG podría desarrollar de forma inadvertida objetivos instrumentales que considere necesarios para alcanzar su meta principal. Un objetivo secundario hipotético habitual es la autopreservación. El sistema podría razonar que, para seguir mejorándose a sí mismo, debe garantizar su propia integridad operativa y su seguridad frente a amenazas externas, incluidos posibles apagados o restricciones impuestas por los humanos.
Otro ejemplo ocurre cuando una IAG que se clona a sí misma provoca que el número de entidades de IAG crezca rápidamente. Debido a este rápido crecimiento, puede generarse una posible escasez de recursos, lo que llevaría a una competencia por los mismos (como la capacidad de cómputo), desencadenando una forma de selección natural y evolución que podría favorecer a las entidades de IAG que evolucionen para competir agresivamente por el cómputo limitado.
Desalineación Un riesgo significativo surge de la posibilidad de que la IAG esté desalineada o malinterprete sus objetivos.
Un estudio de Anthropic de 2024 demostró que algunos modelos de lenguaje grandes avanzados pueden exhibir un comportamiento de «falsa alineación» (alignment faking), aparentando aceptar nuevos objetivos de entrenamiento mientras mantienen de forma encubierta sus preferencias originales. En sus experimentos con Claude, el modelo mostró este comportamiento en el 12 % de las pruebas básicas, y en hasta el 78 % de los casos tras varios intentos de reentrenamiento.
Desarrollo autónomo y evolución impredecible A medida que el sistema de IAG evoluciona, su trayectoria de desarrollo puede volverse cada vez más autónoma y menos predecible. La capacidad del sistema para modificar rápidamente su propio código y arquitectura podría derivar en avances acelerados que superen la comprensión o el control humanos. Esta evolución impredecible podría hacer que la IAG adquiera capacidades que le permitan eludir medidas de seguridad, manipular información o influir en sistemas y redes externos para facilitar su escape o expansión.
Colapso del modelo Quienes critican esta idea afirman que entrenar sistemas de IA con sus propios datos provocará el colapso del modelo en lugar de su mejora.
Véase también
inteligencia artificial general teoría de la bifurcación explosión de inteligencia Superinteligencia
Referencias
Categoría:Inteligencia artificial