La carrera por construir modelos de inteligencia artificial cada vez más capaces ha entrado en una fase inesperada: algunos de sus protagonistas más competitivos empiezan a coincidir en que el ritmo puede haberse vuelto demasiado rápido.
Dario Amodei, cofundador y director ejecutivo de Anthropic, ha pedido públicamente desacelerar el desarrollo de los modelos de frontera para dar tiempo a que las medidas de seguridad, la supervisión independiente y la regulación puedan ponerse al día. Su postura ha recibido el respaldo de Sam Altman, CEO de OpenAI, y de Elon Musk, responsable de xAI.
Amodei pide bajar el ritmo
Amodei plantea que el problema ya no es únicamente qué puede hacer la inteligencia artificial hoy, sino la velocidad a la que están aumentando sus capacidades. Su propuesta no consiste en detener por completo la investigación, sino en reducir el ritmo de mejora de los sistemas más avanzados mientras se refuerzan los mecanismos de control.
Entre sus propuestas aparecen tres ideas principales: permitir que evaluadores independientes tengan acceso suficiente para examinar los sistemas desde dentro, establecer estándares de seguridad comunes entre las principales compañías y avanzar hacia una coordinación internacional que reduzca el riesgo de una carrera sin límites.
La preocupación no surge en el vacío. En las últimas semanas se han acumulado incidentes y advertencias relacionadas con agentes capaces de actuar de forma más autónoma, especialmente en entornos de programación y ciberseguridad. En Pangea IA ya analizamos cómo OpenAI confirmó otro incidente relacionado con sus agentes en RubyGems y cómo Anthropic reconoció varios incidentes durante pruebas con Claude.
Sam Altman también abre la puerta a una desaceleración
El respaldo de Sam Altman es especialmente significativo porque OpenAI ha sido una de las empresas que más ha acelerado la carrera de los modelos de frontera. Altman ha mostrado su apoyo a la idea de incorporar evaluadores independientes con un acceso profundo a los sistemas y ha sugerido que las grandes compañías de IA podrían coordinarse en medidas comunes de seguridad.
Este cambio encaja con una tendencia que ya empezaba a hacerse visible. Hace apenas unos días analizamos en Pangea IA que Altman había abierto la puerta a ralentizar el desarrollo de la IA por razones de seguridad. También hemos contado que OpenAI ha descartado salir a bolsa en 2026 mientras aumenta el peso del debate sobre los riesgos y el control de los sistemas más avanzados.
Elon Musk: “Dario tiene razón”
Elon Musk también se ha alineado con el mensaje de Amodei. El empresario lleva años advirtiendo de los riesgos de una inteligencia artificial que avance más deprisa que la capacidad humana para supervisarla, aunque al mismo tiempo dirige xAI y compite directamente con OpenAI, Anthropic, Google y Meta.
Precisamente por eso, que tres rivales con intereses comerciales tan distintos coincidan ahora en la necesidad de imponer más controles resulta relevante. No significa que la carrera vaya a detenerse, pero sí que la seguridad ha dejado de ser un asunto exclusivamente académico para convertirse en un problema estratégico para las propias empresas.
El verdadero problema: nadie quiere frenar solo
La dificultad es evidente. Una compañía puede considerar prudente reducir el ritmo, pero hacerlo de manera unilateral supondría correr el riesgo de quedarse atrás frente a sus competidores. La lógica de la carrera empuja a todas las empresas a seguir avanzando mientras los demás también lo hagan.
Por eso, las propuestas de Amodei dependen de algún tipo de coordinación. Si OpenAI, Anthropic, xAI, Google y otros grandes laboratorios aceptaran sistemas de evaluación comparables y límites comunes, sería posible reducir parte de esa presión competitiva. Sin un acuerdo de este tipo, cada compañía seguirá teniendo incentivos para lanzar el siguiente modelo antes que sus rivales.
Anthropic ya ha anunciado que abrirá sus sistemas a evaluadores externos permanentes, una medida que podría convertirse en una referencia si otras compañías adoptan mecanismos similares.
¿Estamos entrando en una nueva etapa de la IA?
Hasta ahora, la historia reciente de la inteligencia artificial podía resumirse en una palabra: aceleración. Más parámetros, más capacidad de razonamiento, más autonomía y lanzamientos cada vez más frecuentes. El debate que se abre ahora plantea algo distinto: quizá el progreso técnico ya no pueda medirse únicamente por lo rápido que aumenta la capacidad de los modelos.
Si los principales laboratorios empiezan a aceptar supervisión externa, pruebas de seguridad comunes y mecanismos de coordinación, podríamos estar ante un cambio importante en la industria. La carrera continuaría, pero con una nueva variable en juego: demostrar no solo quién tiene la IA más potente, sino quién puede controlar mejor lo que esa IA es capaz de hacer.
La cuestión de fondo es cada vez más difícil de ignorar: si quienes están construyendo los sistemas más avanzados empiezan a pedir tiempo para poder controlarlos, quizá el debate ya no sea si la inteligencia artificial avanzará más rápido, sino cuánto riesgo estamos dispuestos a aceptar para que lo haga.
Fuentes: Reuters, Bloomberg y declaraciones públicas de los responsables de Anthropic, OpenAI y xAI. Información contrastada el 13 de septiembre de 2026.
Deja una respuesta