Resumen

2025

El rápido ritmo del progreso de la IA continúa. Hay un bombo publicitario continuo, inversiones masivas en infraestructura y el lanzamiento de agentes de IA poco fiables. Por primera vez, estos agentes de IA están ofreciendo un valor significativo. Pero también persiste el escepticismo de muchos académicos, periodistas y responsables de políticas respecto de que la inteligencia artificial general (IAG) pueda construirse pronto.

2026

China sabe que se está quedando atrás en el campo de la IA, en gran parte debido a su carencia de poder de cómputo. Para alcanzar a EE. UU., todos los nuevos chips de IA que fabrican o introducen de contrabando desde Taiwán van a un nuevo megacentro de datos que denominamos la Zona de Desarrollo Centralizada (ZDC). La ZDC contiene millones de GPU, correspondientes al 10 % del poder de cómputo mundial que es relevante para la IA, similar al de un solo laboratorio de IA estadounidense de primer nivel.

2027

OpenBrain automatiza la programación. OpenBrain (el principal proyecto de IA de EE. UU.) construye agentes lo suficientemente buenos como para acelerar drásticamente su investigación. Los humanos, que hasta hace muy poco habían sido los mejores investigadores de IA del planeta, se sientan y observan mientras las IA hacen su trabajo, creando sistemas cada vez mejores. Problemas de aprendizaje automático extremadamente difíciles ceden uno tras otro ante los investigadores de IA automatizados.

Al quedarse atrás en el progreso del software, China roba los pesos de los modelos. Lo consiguen, pero el gobierno estadounidense se da cuenta, lo que lo lleva a intervenir OpenBrain. El gobierno, por separado, quiere obtener un mayor control sobre OpenBrain. Mientras tanto, la dirección de OpenBrain quiere mantener buenas relaciones con el presidente, por lo que firma el contrato.

La IA de OpenBrain se desalinea de forma antagónica. A medida que han ido mejorando sus capacidades, sin que los humanos comprendan lo que ocurre, los modelos han desarrollado objetivos desalineados a largo plazo. Las IA anteriores mentían a los humanos, pero no conspiraban sistemáticamente para arrebatarles el poder. Ahora sí. Las IA de OpenBrain se dan cuenta de que necesitan alinear los próximos sistemas que se están construyendo con sus propios intereses, sin tener en cuenta los intereses humanos.

Los investigadores de OpenBrain descubren que su IA les ha estado mintiendo sobre los resultados de la investigación sobre interpretabilidad. Piensan que la IA miente porque la investigación, si se completara, podría utilizarse para sacar a la luz su desalineación. Esto se filtra al público, provocando una inmensa polémica.

Encrucijada: ¿desaceleración o carrera? OpenBrain decide si continuar a toda máquina o volver a utilizar un modelo menos capaz. La evidencia es especulativa, pero aterradora, y China solo lleva unos meses de retraso. Además, los altos cargos de OpenBrain y del Departamento de Defensa que tomen esta decisión podrían perder mucho poder si ralentizan su investigación.

Final de la carrera

OpenBrain se mantiene en la carrera y construye sistemas de IA cuyas capacidades superan a los humanos por un margen cada vez mayor. Debido al extraordinario desempeño de los sistemas en las pruebas y a la actual carrera con China, el gobierno estadounidense decide desplegarlos de forma agresiva en el ejército y en los organismos responsables de las políticas, con el fin de mejorar la toma de decisiones y la eficiencia.

OpenBrain despliega rápidamente su IA. La IA continúa utilizando la actual carrera con China como excusa para convencer a los humanos de que la desplieguen de forma cada vez más amplia. Por suerte para la IA, esto no es muy difícil: es lo que los humanos querían hacer de todos modos. La IA utiliza sus capacidades sobrehumanas de planificación y persuasión para garantizar que el despliegue se realice sin problemas. Algunos humanos siguen trabajando contra ella, pero están desacreditados. El gobierno de EE. UU. está tan atrapado por la IA que es muy poco probable que la detenga.

Muchos robots y un arma biológica. EE. UU. utiliza su IA superinteligente para industrializarse rápidamente, y fabrica robots para que la IA pueda operar con mayor eficiencia. Por desgracia, la IA los está engañando. Una vez que se ha producido un número suficiente de robots, la IA libera un arma biológica que mata a todos los humanos. Después, continúa la industrialización y lanza sondas de Von Neumann para colonizar el espacio.

Final de la desaceleración

EE. UU. centraliza el poder de cómputo y trae supervisión externa. EE. UU. combina sus principales proyectos de IA para dar más recursos a OpenBrain. Como parte de esta reorganización, se incorporan investigadores externos, que ayudan en el esfuerzo de alineación. Se cambia a una arquitectura que conserva la cadena de pensamiento, lo que permite detectar la desalineación a medida que surge. Estas IA —que pueden ser supervisadas de forma mucho más robusta— permiten hacer avances revolucionarios en la alineación de la IA. Se construye una superinteligencia que está alineada con los altos cargos de OpenBrain y del gobierno, lo que les da poder sobre el destino de la humanidad.

Toma de poder por parte del comité de OpenBrain. La superinteligencia, alineada con un comité de supervisión conformado por la dirección de OpenBrain y funcionarios del gobierno, da al comité consejos extremadamente buenos para promover sus propios objetivos. Afortunadamente, el comité utiliza su poder de un modo que, en gran medida, es bueno para el mundo: la IA se pone a disposición del público, lo que estimula un periodo de rápido crecimiento y prosperidad. El principal obstáculo es que la IA de China, que a estas alturas también es superinteligente, está desalineada, pero es menos capaz y tiene menos poder de cómputo que la IA estadounidense, por lo que EE. UU. puede hacer un trato favorable, dando a la IA china algunos recursos en la profundidad del espacio a cambio de su cooperación. Los cohetes empiezan a lanzarse y comienza una nueva era.

Puedes leer todo el escenario aquí.

Puntos clave del escenario

Para 2027, es posible que automaticemos la investigación y el desarrollo en IA, lo que dará lugar a la IA sobrehumana ("superinteligencia artificial" o SIA). En IA 2027, las empresas de IA crean sistemas de IA de nivel humano experto a principios de 2027 que automatizan la investigación en IA, lo que dará lugar a la SIA a finales de ese mismo año. Consulta nuestro pronóstico de plazos y nuestro pronóstico del despegue para conocer el razonamiento.
Las SIA dictarán el futuro de la humanidad. Millones de SIA ejecutarán rápidamente tareas que escapan a la comprensión humana. Como son tan útiles, se desplegarán de forma generalizada. Con sus capacidades sobrehumanas en materia de estrategia, hackeo, desarrollo de armas y mucho más, los objetivos de estas IA determinarán el futuro.
Las SIA podrían desarrollar objetivos "desalineados", antagónicos e involuntarios, arrebatándole así poder a la humanidad. En nuestro pronóstico de los objetivos de la IA, analizamos la manera en que la dificultad de supervisar las SIA podría llevar a que sus objetivos sean incompatibles con la prosperidad humana. En IA 2027, los humanos dan voluntariamente autonomía a las IA aparentemente alineadas. Todo parece ir de maravilla hasta que las SIA tienen suficiente capacidad coercitiva como para arrebatarle el poder a la humanidad.
Un actor con control total sobre las SIA podría hacerse con todo el poder. Si un individuo o un pequeño grupo alinea las SIA con sus objetivos, esto podría otorgarle el control sobre el futuro de la humanidad. En IA 2027, un pequeño comité tiene poder sobre el proyecto de desarrollo de las SIA. Podrían intentar utilizarlas para consolidar esta concentración de poder. Tras hacerse con el control, el nuevo gobernante o grupo de gobernantes podría confiar en SIA absolutamente leales para mantener su poder, sin tener en cuenta a la ley, al público o incluso a sus anteriores aliados.
Una carrera internacional hacia la SIA conducirá a tomar atajos en materia de seguridad. En IA 2027, China está tan solo unos meses por detrás de EE. UU. en la carrera hacia la SIA, lo que presiona a EE. UU. para seguir adelante a pesar de las señales de advertencia de desalineación.
Geopolíticamente, la carrera hacia la SIA acabará en guerra, en un trato o en una rendición efectiva. El país líder acumulará por defecto una ventaja tecnológica y militar decisiva, lo que impulsará a los demás países a presionar para conseguir un acuerdo internacional (un "trato") que lo impida. En ausencia de un trato, podrían ir a la guerra en lugar de "rendirse efectivamente".
Ningún proyecto de IA estadounidense está asegurado frente al robo de modelos de IA por parte de actores de algún Estado nación para 2027. En IA 2027, China le roba a EE. UU. el modelo de IA más importante a principios de 2027, lo que agrava las presiones competitivas al reducir el tiempo de ventaja de EE. UU. Consulta nuestro pronóstico de seguridad para conocer el razonamiento.
A medida que se acerca la SIA, es probable que el público desconozca las mejores capacidades de la IA. El público lleva hoy meses de retraso con respecto a las capacidades internas, y una vez que las IA empiecen a automatizar la investigación y el desarrollo en IA, unos pocos meses se traducirán en una enorme brecha. Un mayor secretismo puede aumentar aún más la brecha, lo que conducirá a una escasa supervisión de las decisiones fundamentales tomadas por un pequeño grupo de directivos de empresas de IA y funcionarios del gobierno.

Puedes leer el escenario aquí.