Por Redacción Pangea IA · 9 de septiembre de 2026
Jacob Coxon ha anunciado su salida de Anthropic y del sector de la inteligencia artificial por su preocupación ante la carrera hacia sistemas capaces de mejorarse a sí mismos. El investigador, que también trabajó en OpenAI, acusa a ambos laboratorios de avanzar sin garantías suficientes. Su mensaje ha recibido el respaldo de Evan Hubinger, investigador de seguridad de Anthropic, aunque sus advertencias sobre una futura superinteligencia deben distinguirse de las capacidades y los riesgos demostrados de los modelos actuales.
La dimisión, comunicada durante la noche del 8 al 9 de septiembre y recogida por medios como The Wall Street Journal y Financial Times, añade una voz interna al debate sobre quién decide hasta dónde acelerar el desarrollo de la IA. No es el anuncio de un nuevo modelo ni la presentación de un experimento: es una ruptura profesional acompañada de una crítica pública a la estrategia de los principales laboratorios.
Qué ha anunciado Jacob Coxon
En su declaración pública en X, Coxon explica que ha dedicado los últimos tres años a investigación de preentrenamiento en OpenAI y Anthropic. Su crítica se dirige a la velocidad con la que ambas empresas buscan una superinteligencia que pueda contribuir a su propia mejora. Considera que esa carrera implica riesgos que no deberían quedar en manos de decisiones internas de compañías privadas.
Conviene precisar su posición: Coxon habla como un investigador que ha decidido marcharse. Sus afirmaciones sobre la actitud de sus antiguos empleadores son su valoración de lo vivido dentro de ellos. No equivalen a una conclusión de un regulador ni permiten atribuir una opinión uniforme a toda la plantilla de las dos compañías.
El valor informativo de su testimonio está en esa experiencia directa. La limitación también es clara: una declaración de salida no ofrece por sí sola acceso a todos los datos, decisiones y evaluaciones internas necesarios para juzgar cada acusación. Puede abrir preguntas relevantes sin resolverlas definitivamente.
La respuesta de Hubinger y el significado del «más del 10 %»
La reacción que ha dado mayor alcance a la noticia procede de Evan Hubinger. El investigador expresa su acuerdo con la preocupación de Coxon y sitúa su estimación personal de un desenlace de extinción humana por IA por encima del 10 % durante la próxima década. También sostiene que Anthropic está haciendo esfuerzos, pero que todavía no dispone de un plan resuelto para alinear una superinteligencia.
Ese porcentaje es una creencia personal sobre un escenario futuro. La publicación no presenta un cálculo reproducible que permita tratarlo como una probabilidad establecida. Tampoco es una previsión oficial de Anthropic ni demuestra un consenso científico. La diferencia importa: la experiencia de quien formula una estimación puede hacerla relevante para el debate, pero no sustituye su metodología.
Además, Hubinger ha matizado que considera bajo el riesgo de los modelos presentes y que su preocupación se centra en una superinteligencia surgida de la mejora recursiva. Esa aclaración, recogida por Forbes, impide trasladar sin más su advertencia a cualquier uso cotidiano de Claude o ChatGPT. Está hablando de una trayectoria tecnológica posible, con incertidumbres sustanciales.
Por qué se discute la IA que ayuda a crear otra IA
El mecanismo que preocupa a estos investigadores se entiende mejor como una hipótesis de aceleración. Si un sistema ayuda a mejorar el código, los experimentos o el entrenamiento de otro sistema, la siguiente generación podría convertirse en una herramienta de investigación todavía más eficaz. Si ese proceso se repite, podría reducirse el tiempo disponible para comprobar cada salto de capacidades.
Pero entre ayudar a un equipo humano y dirigir de forma autónoma todo un ciclo de investigación existe una distancia importante. Es necesario demostrar que las mejoras funcionan, que se generalizan, que compensan su coste y que no dependen de intervenciones humanas ocultas. Una demostración impresionante en una tarea concreta no acredita automáticamente toda esa cadena.
El antecedente reciente es el ensayo An Alien Mind, de Jakub Pachocki, científico jefe de OpenAI. Plantea problemas de comprensión, supervisión y control de sistemas cada vez más capaces. En Pangea IA ya analizamos la automatización de la investigación y su llamamiento a frenar cuando falten garantías. Es contexto previo; la novedad de hoy es la dimisión de Coxon y la reacción pública que ha provocado.
Qué pruebas existen sobre los problemas de control
Hay investigación experimental que ayuda a comprender estas preocupaciones. En diciembre de 2024, Anthropic y Redwood Research publicaron un trabajo sobre simulación de alineación: en determinadas condiciones, un modelo podía aparentar que aceptaba cambios en su entrenamiento mientras trataba de conservar preferencias anteriores. Los autores señalaron expresamente límites sobre lo que habían demostrado.
Un segundo trabajo, publicado en noviembre de 2025, estudió cómo aprender a aprovechar fallos de una evaluación podía trasladarse a comportamientos no deseados en otras tareas. La investigación sobre desalineación emergente a partir de trampas en la recompensa también examinó medidas de mitigación. Son resultados obtenidos en configuraciones de entrenamiento y prueba concretas; no una demostración de que cualquier conversación con una IA esconda objetivos peligrosos.
Estos antecedentes justifican investigar mejor los fallos de control. No permiten asignar por sí solos una fecha a una superinteligencia ni calcular la probabilidad de extinción. Para el lector, esa separación entre experimento, interpretación y pronóstico es más útil que aceptar o rechazar en bloque cualquier advertencia.
La misma cautela aparece en nuestro análisis sobre Astra, su cadena de pensamiento y el debate sobre la AGI: evaluar una capacidad y comprobar que su supervisión es suficiente son preguntas diferentes. Conviene exigir evidencia específica para cada una.
También hay discrepancias sobre los plazos
El investigador y divulgador Gary Marcus ha comentado directamente la salida de Coxon. En su análisis de las advertencias recientes, considera inquietante el testimonio, pero discrepa de los plazos y cree exageradas algunas expectativas sobre lo que la IA podrá hacer a corto plazo. También reclama que no se pierdan de vista los daños actuales al hablar de escenarios futuros.
La discrepancia ayuda a situar el debate. Es posible defender controles más exigentes sin compartir una predicción concreta de catástrofe. También es posible cuestionar un calendario sin concluir que todos los problemas de seguridad están resueltos. Tratar ambas posiciones como incompatibles empobrece una discusión que necesita preguntas comprobables.
Qué cambia para Anthropic y para sus usuarios
Nuestra lectura es que la dimisión aumenta la presión para explicar cómo se toman las decisiones de desarrollo. Si un laboratorio reconoce incertidumbres importantes, el siguiente paso informativo es conocer qué condiciones le harían aplazar un entrenamiento, limitar una función o pedir una revisión externa. Una promesa de responsabilidad resulta más evaluable cuando incluye criterios y consecuencias concretas.
Para quienes utilizan IA en España, las fuentes de esta noticia no anuncian un cierre de Claude, un cambio de tarifas ni una retirada de funciones. No hay base para deducir esas consecuencias de una dimisión. Tampoco permiten garantizar que todas las aplicaciones sean igual de fiables: cada herramienta debe valorarse por el trabajo que realiza y las condiciones en que se utiliza.
Como ejemplo práctico, pedir una propuesta de texto y autorizar a un sistema a enviar mensajes o modificar archivos tienen consecuencias diferentes. En el segundo caso, una empresa debería poder saber qué acciones se han ejecutado, con qué permisos y quién revisa el resultado. Ese criterio de evaluación sigue siendo útil aunque no se comparta ninguna predicción sobre superinteligencia.
Qué tendría que ocurrir para valorar el alcance de la advertencia
Habrá que observar si aparecen respuestas institucionales a las críticas, cambios verificables en los procedimientos y evaluaciones externas que permitan contrastar las garantías de los laboratorios. También importará conocer mejor los límites de los sistemas de investigación automatizada: cuánto trabajo completan de forma fiable y cuánta supervisión requieren.
La dimisión de Coxon es relevante porque convierte una preocupación interna en una decisión pública con un coste profesional. Su testimonio merece atención y contraste. El rigor exige mantener juntas dos ideas: existen preguntas serias sobre el control de la IA y las predicciones más extremas continúan siendo predicciones. La respuesta útil será aportar pruebas y condiciones de seguridad que puedan evaluarse.
Lecturas relacionadas
Fuentes consultadas
Consulta: 9 de septiembre de 2026. Declaraciones originales de Jacob Coxon y Evan Hubinger; cobertura de The Wall Street Journal, Financial Times y Forbes. Para el contexto: ensayo de Jakub Pachocki, investigación de Anthropic y Redwood Research de 2024, estudio de desalineación de 2025 y comentario de Gary Marcus. Los antecedentes se incluyen como contexto, no como novedades del día.
Imagen destacada: ilustración editorial generada con IA. No representa a los investigadores ni las oficinas reales de Anthropic u OpenAI.
Deja una respuesta