Moderar el ritmo de la frontera

Puntos clave

• Moderar el ritmo no significa pausar: Los llamamientos a «moderar el ritmo de la frontera» implican ralentizar el lanzamiento de modelos de inteligencia artificial (IA) potentes para someterlos a mejores pruebas y controles, no detener su desarrollo ni el gasto en este ámbito.
• El gasto cambia de destino, no desaparece: El capital puede detraerse de entrenamientos cada vez mayores y destinarse a infraestructuras de seguridad: pruebas, red-teaming¹, interpretabilidad, monitorización y ciberseguridad. Esto sigue requiriendo inversiones significativas en capacidad de computación e ingeniería.
• Los costes de cen las economías de escala: Dado el gran coste de un trabajo riguroso en seguridad, los mayores laboratorios están mejor posicionados para asumir estos costes, lo que podría acelerar la consolidación de la IA de frontera, mientras que a los competidores más pequeños les cuesta seguir el ritmo.
• Ninguna de las dos partes puede permitirse ser la primera en parar: Estados Unidos y China tienen enormes incentivos para seguir avanzando mientras la otra potencia continúe. Washington ha indicado que no impondrá una ralentización generalizada, dejando que sea la propia industria la que desarrolle un marco de seguridad.

El debate sobre la IA acaba de cambiar

Hace unos días, Dario Amodei, consejero delegado (CEO) de Anthropic, señaló que el sector necesita «moderar el ritmo de la frontera», de forma que la seguridad y el control dispongan de más tiempo para ponerse al nivel de los rápidos avances en las capacidades de la IA.

En un primer momento, los mercados interpretaron el mensaje de forma más simple: el desarrollo de la IA se va a ralentizar y, con él, también lo hará el gasto en infraestructura de IA.

Tras observar la respuesta del sector, del Gobierno estadounidense y de China en los últimos días, creemos que esa interpretación es cada vez menos probable.

El resultado que surge se parece menos a una pausa y más a una carrera con mayores mecanismos de control. El desarrollo en la frontera continúa. Estados Unidos y China siguen compitiendo. Sin embargo, se destinan muchos más recursos a entender, probar, proteger y controlar unos modelos cada vez más potentes.

Para los inversores, es una conclusión muy distinta a afirmar que «el despliegue de la IA está llegando a su fin».

El problema está cambiando

Durante los últimos años, la gran pregunta acerca de la IA ha sido sencilla:

¿Pueden los modelos seguir mejorando?

Hasta ahora, la respuesta ha sido mayoritariamente afirmativa.

Una mayor capacidad de computación, mejores modelos y técnicas más avanzadas han seguido gene-rando sistemas más capaces. Cada vez más, los modelos de IA pueden programar software, investigar, utilizar herramientas y operar con una autonomía cada vez mayor.

Estos avances han planteado una nueva pregunta:

¿Podemos comprender y controlar estos sistemas tan rápido como aumentamos su potencia?

Cada vez más, quienes desarrollan los modelos nos advierten de que no es posible.

Eso es lo más importante del argumento de Amodei. No dice que la IA haya dejado de funcionar. En cierto modo, afirma todo lo contrario. Las capacidades avanzan tan rápido que la armonización, la inter-pretabilidad, la evaluación, la ciberseguridad y la gobernanza tienen dificultades para seguir el ritmo.

Y la respuesta del sector en los últimos días resulta reveladora. Sam Altman, Elon Musk y Demis Hassabis han dado su apoyo a elementos importantes de la propuesta de Amodei, aunque ofrecen enfoques más graduales para su aplicación. Altman se mostró a favor de un mayor acceso a evaluado-res independientes. Hassabis abogó por establecer normas comunes en el sector. Otros proponen diversas variantes de evaluación por parte de terceros y mecanismos de seguridad impulsados por el sector.

Existen muchas discrepancias sobre hasta dónde se debe llegar exactamente y sobre el grado de intervención pública necesario. No obstante, parece haber un consenso cada vez mayor sobre el problema subyacente: la seguridad y el control deben ponerse al nivel de las capacidades.

Una mayor seguridad sigue exigiendo más infraestructuras

La primera reacción del mercado ante la idea de «moderar el ritmo» fue comprensible. Si los laborato-rios frenan su actividad, tal vez necesiten menos unidades de procesamiento gráfico (GPU), menos centros de datos y menos energía.

La propuesta de Amodei no prevé el simple apagado de los clústeres de entrenamiento. Opta por una mayor inversión en armonización, interpretabilidad, pruebas, evaluación, seguimiento y seguridad a medida que avanzan las capacidades,

lo que exige importantes recursos técnicos. Se trata de un trabajo que requiere un enorme uso de la capacidad de computación:

• Los modelos deben probarse una y otra vez en un enorme número de interacciones y someterse a sofisticados ejercicios de red-teaming.
• Los investigadores necesitan entender por qué los modelos se comportan como lo hacen.
• Los sistemas cada vez más autónomos requieren una ciberseguridad y una supervisión más sólidas.
• Los problemas detectados durante las pruebas pueden requerir más entrenamiento posterior.
• Los agentes deben evaluarse en entornos cada vez más complejos antes de su lanzamiento.

Eso no significa que cada dólar gastado en armonización se convierta automáticamente en un dólar más de inversión en activo fijo (capex) en IA. Si los laboratorios de la frontera reducen sustancialmente la escala o la frecuencia de sus mayores entrenamientos, parte de la demanda de infraestructuras podría posponerse.

Sin embargo, creemos que los inversores podrían plantear la cuestión de manera más útil: cada unidad de progreso de la frontera puede requerir ahora más infraestructuras a su alrededor.

Podríamos necesitar más evaluación, más entrenamiento posterior, más inferencia, más seguridad, más seguimiento y más experimentación por cada avance en las capacidades.

Esto podría hacer que la próxima fase del desarrollo de la infraestructura de IA sea más compleja y requiera mayores medidas de seguridad, sin que necesariamente sea de menor escala.

Emerge una vía de autorregulación

La segunda novedad importante ha sido la respuesta de Washington. Uno de los riesgos de cara al fin de semana era que las propias preocupaciones del sector en materia de seguridad llevaran al Gobierno a imponer una ralentización del desarrollo de la frontera.

Por ahora, parece menos probable.

El presidente Trump ha rechazado los llamamientos para que Estados Unidos ralentice de forma gene-ralizada el desarrollo de la IA, afirmando que ello podría debilitar la posición del país frente a China. Una opinión que reiteró en la All-In Summit el lunes. El consejero delegado (CEO) de Nvidia, Jensen Huang, afirmó en el mismo sentido que Estados Unidos puede seguir liderando el ámbito de la IA al tiempo que mejora la seguridad.

Esto cambia los cálculos políticos a corto plazo. En vez de que Washington imponga un freno generali-zado al desarrollo de la frontera, la vía que se perfila podría requerir que el propio sector desarrolle gran parte del marco de seguridad.

Empezamos a ver qué forma podría tomar:

Un marco de autorregulación creíble podría ofrecer un punto medio útil.

Podría mejorar la seguridad y ofrecer mayor previsibilidad a empresas e inversores sin imponer límites generalizados al entrenamiento o a la innovación. Unas normas más claras también podrían reducir el riesgo de una respuesta gubernamental mucho más contundente tras un incidente grave relacionado con la IA.

Con algunas salvedades importantes. La autorregulación podría resultar insuficiente. Las normas podrían variar entre unas empresas y otras. Los costes fijos del cumplimiento normativo podrían favore-cer a los laboratorios más grandes. El Congreso, los distintos estados o las futuras administraciones podrían terminar por adoptar una postura más intervencionista.

Sin embargo, desde nuestro punto de vista, existe una importante distinción entre crear mecanismos de control en torno a la innovación y restringir la innovación en sí misma.

China dificulta una pausa real

Y luego está China. La reacción de China pone en evidencia por qué una ralentización mundial soste-nida sería extraordinariamente difícil. Pekín rechazó tajantemente el argumento de Amodei de que Estados Unidos debería proteger su ventaja tecnológica sobre China, criticando lo que describió como «alarmismo» y confrontación.

Pero China no dice que la IA carezca de riesgos. Los dirigentes chinos han debatido en repetidas oca-siones la necesidad de contar con gobernanza, control y seguridad en materia de IA. Al mismo tiempo, China sigue impulsando con fuerza la mejora de sus modelos, la adopción de la IA y el desarrollo de su ecosistema nacional de IA. Estas posturas no son necesariamente incompatibles. China entiende los riesgos que conlleva una IA cada vez más potente. No obstante, también tiene enormes incentivos estratégicos y económicos para seguir avanzando en esta tecnología.

¿Por qué iba a frenar China voluntariamente mientras intenta reducir la brecha con Estados Unidos? ¿Y por qué iban a frenar materialmente los laboratorios estadounidenses si creen que los chinos segui-rán avanzando? Este es el principal obstáculo en el debate sobre la moderación del ritmo. Ninguna de las partes tiene grandes incentivos para detenerse si la otra sigue avanzando. Esto hace poco probable una pausa global sostenida.

El punto de equilibrio más plausible: todo el mundo sigue corriendo, al tiempo que gasta más para que la carrera sea más segura.

Una carrera con más mecanismos de control

Cada vez pensamos más que esto se desarrollará a través de cuatro etapas que se refuerzan mutuamente.

Se destina más ingeniería y capacidad de computación a la armonización, la interpretabilidad, la eva-luación, la ciberseguridad y el control. Terceros independientes desempeñan un papel más relevante en la evaluación de los modelos de frontera. El nivel de exigencia para el lanzamiento de sistemas cada vez más autónomos aumenta. Y la seguridad se convierte en otro nivel importante de la arquitectura tecnológica de la IA.

Esto también genera efectos secundarios.

• Los laboratorios de la frontera más grandes podrían obtener ventaja, ya que pueden asumir los   cuantiosos costes fijos de las infraestructuras de seguridad y de cumplimiento normativo. A los desa-  rrolladores de modelos más pequeños podría resultarles más difícil soportar esos costes.
• La ciberseguridad cobra más importancia a medida que los sistemas de IA adquieren mayor autono-  mía y acceso a herramientas y datos.
• Las cargas de trabajo de inferencia y evaluación adquieren mayor relevancia, ya que las empresas   dedican más tiempo a probar las capacidades de los modelos antes de desplegarlos de forma   generalizada.
• Y es posible que la demanda se desplace cada vez más desde las GPU utilizadas para entrenar   modelos hacia la infraestructura más amplia necesaria para operarlos, probarlos y protegerlos.

Nada de esto sugiere que el riesgo haya desaparecido.

Un incidente grave relacionado con la IA podría cambiar el entorno normativo muy rápidamente. Es posible que los gobiernos acaben considerando que la autorregulación es insuficiente. El enfoque político de EE. UU. también podría cambiar con una futura administración.

Sin embargo, se trata de riesgos que deben vigilarse, no de motivos para dar por sentado que el actual debate sobre la seguridad ponga fin necesariamente al ciclo de inversión en IA.

La cuestión que sigue siendo fundamental

Para los inversores a largo plazo, la pregunta fundamental sigue siendo la misma:

¿Aumentar las capacidades de la IA sigue generando valor económico?

Si los modelos dejan de mejorar, o si las empresas no logran con ellos aumentar significativamente la productividad, el ciclo de las infraestructuras terminará ralentizándose. Ningún entusiasmo puede com-pensar indefinidamente unos malos fundamentos económicos.

Pero si las capacidades siguen mejorando y los clientes continúan encontrando usos valiosos para la IA, cuesta imaginar que empresas o países decidan colectivamente que ya tienen suficiente inteligen-cia. Por el contrario, es probable que gastemos enormes cantidades de capital tratando de obtener los beneficios de una IA cada vez más potente y, al mismo tiempo, reducir sus riesgos.

Esto significa que el cambio importante podría tener menos que ver con la dirección del gasto en IA que con su composición e intensidad.

La primera fase de este ciclo de inversión estuvo dominada por la carrera para desarrollar más inteli-gencia. La siguiente fase se presenta más compleja.

Seguimos necesitando desarrollar inteligencia. Pero cada vez más, también necesitamos entenderla, probarla, protegerla y controlarla. Y todo ello requiere infraestructuras. Por tanto, tras observar la evolu-ción del debate durante los últimos días, llegamos a una conclusión algo más favorable que cuando empezó.

Es poco probable que la frontera deje de avanzar y que la carrera termine. La primera fase del ciclo de inversión en IA se centró principalmente en desarrollar más inteligencia. La próxima fase podría centrarse cada vez más en un reto mayor: desarrollar una inteligencia en la que podamos confiar.