Por Redacción Pangea IA · 13 de octubre de 2026
OpenAI y Anthropic defienden que sus modelos más avanzados deben someterse a evaluaciones externas, pero la independencia real de esas revisiones se ha convertido en motivo de disputa. El punto decisivo no es solo quién puede entrar en los laboratorios, sino quién decide qué resultados pueden hacerse públicos y qué partes quedan ocultas por seguridad, privacidad o secreto comercial.
Una investigación publicada este martes por Reuters sostiene, citando a personas conocedoras de las conversaciones, que OpenAI y Anthropic buscaban todavía a comienzos de octubre conservar un control amplio sobre la publicación de los informes elaborados por evaluadores externos. Ambas compañías han defendido públicamente después la independencia editorial de estos especialistas, aunque admiten redacciones para proteger información sensible.
La diferencia parece técnica, pero afecta a la credibilidad de todo el sistema de supervisión. Una evaluación puede detectar comportamientos peligrosos, vulnerabilidades o intentos de eludir controles; si el laboratorio examinado conserva la última palabra sobre el informe, el público no puede saber con certeza si está leyendo las conclusiones completas o una versión negociada.
Qué ha cambiado ahora
La novedad no es la existencia de evaluaciones externas. Organizaciones especializadas llevan años probando modelos antes y después de su lanzamiento. El cambio está en la propuesta de integrar a esos equipos dentro de las compañías, con un acceso parecido al de un empleado: observar procesos de entrenamiento, hablar con investigadores, analizar incidentes y estudiar medidas de seguridad antes de que un producto llegue al mercado.
Anthropic anunció el 18 de septiembre una colaboración con Faculty, la división especializada en IA de Accenture, como primer evaluador integrado. La empresa describió un acceso profundo a sus sistemas y afirmó que el acuerdo no sería exclusivo. OpenAI publicó cuatro días después sus principios para las evaluaciones de terceros y respaldó también un acceso amplio a información confidencial, procesos internos y sistemas de monitorización.
El problema aparece al definir la palabra «independiente». Reuters informa de que, durante las negociaciones, las compañías y algunos evaluadores discreparon sobre el alcance de las redacciones y sobre la capacidad de los laboratorios para retrasar o limitar la publicación. OpenAI y Anthropic sostienen ahora que el evaluador debe conservar el criterio editorial, mientras los laboratorios pueden solicitar que se oculten datos cuya difusión facilite ataques, revele información personal o exponga propiedad intelectual.
Es una tensión legítima. Publicar instrucciones detalladas para explotar una vulnerabilidad puede crear un riesgo nuevo. Ocultar en exceso, sin embargo, puede convertir una auditoría independiente en una certificación controlada por la empresa auditada.
Las condiciones que exigen más de 200 investigadores
El AI Evaluator Forum publicó en septiembre una carta con condiciones mínimas para estas revisiones. La han firmado más de 200 investigadores y especialistas, entre ellos Geoffrey Hinton. El documento reclama independencia organizativa, ausencia de pagos condicionados al resultado, acceso suficiente, comunicación directa con los órganos de supervisión de las compañías y libertad para publicar hallazgos y pruebas.
La carta no propone divulgarlo todo sin filtros. Acepta redacciones temporales y acotadas para proteger seguridad, privacidad, clientes e información comercial crítica. La diferencia está en el procedimiento: las excepciones deben estar definidas de antemano, justificarse y no permitir que la empresa suprima una conclusión simplemente porque sea negativa o incómoda.
- Acceso real: el evaluador necesita información suficiente para analizar no solo el producto final, sino también su entrenamiento, sus controles y los incidentes.
- Autonomía analítica: el laboratorio no debería imponer la metodología ni decidir qué conclusión es aceptable.
- Derecho a publicar: los resultados no pueden depender de una autorización comercial posterior.
- Redacciones limitadas: deben proteger riesgos concretos, no la reputación de la empresa.
- Conflictos transparentes: debe conocerse quién paga la evaluación y qué otras relaciones mantiene con el laboratorio.
Qué dicen OpenAI y Anthropic
OpenAI afirma en sus principios para evaluaciones de terceros que los examinadores deben conservar independencia editorial. También plantea políticas claras de redacción para que los laboratorios puedan pedir que se retire material sensible, pero permite que el evaluador deje constancia de las eliminaciones sustanciales y explique cómo afectan a sus conclusiones.
Anthropic, por su parte, presentó su acuerdo con Accenture como un paso hacia evaluaciones continuas y con acceso interno. Según la compañía, el examinador podría revisar modelos, salvaguardas y procedimientos, además de comunicar incidentes. La información pública inicial no detallaba con precisión el calendario de informes ni todos los derechos de publicación, uno de los vacíos que alimentó las dudas.
Estas posiciones no demuestran que se haya ocultado un resultado concreto. La noticia se refiere a las condiciones que se estaban negociando y al poder que cada parte reclama. Conviene separar este debate de incidentes ya documentados. Pangea IA explicó recientemente el choque entre OpenAI y tres investigadores de seguridad, así como la decisión de Reino Unido de reforzar las pruebas sobre agentes avanzados.
Por qué importa más que una auditoría convencional
Una auditoría financiera compara registros con normas relativamente estables. En la IA de frontera, el objeto examinado cambia rápidamente, puede reconocer que está siendo evaluado y a veces muestra conductas diferentes según el entorno. Además, los laboratorios guardan información que no pueden abrir completamente sin exponer datos, técnicas de ataque o secretos empresariales.
Por eso el acceso importa tanto como la publicación. Un equipo que solo recibe una interfaz limitada puede detectar fallos superficiales, pero quizá no vea cómo se entrenó el modelo, qué alertas generó o cómo actuó en pruebas internas. A la inversa, un evaluador con acceso privilegiado asume obligaciones de confidencialidad que pueden reducir su libertad para explicar lo encontrado.
La independencia no depende únicamente de la buena voluntad. También necesita reglas de financiación, protección frente a represalias, contratos que no condicionen el pago a un resultado favorable y un procedimiento para resolver discrepancias. Sin esas garantías, la expresión «evaluación externa» puede cubrir acuerdos muy diferentes.
Qué puede exigir Europa
El debate tiene una consecuencia directa para la Unión Europea. La Comisión ha estudiado los requisitos de cualificación e independencia de los evaluadores externos de modelos de propósito general con riesgo sistémico. El Reglamento de IA permite evaluaciones y acceso a información en determinados supuestos, pero la práctica todavía debe definir quién está capacitado, cómo se protegen los datos y qué parte de los resultados conoce la sociedad.
Para empresas españolas y europeas que contraten modelos avanzados, una etiqueta genérica de «auditado» no basta. Deberían preguntar quién realizó la prueba, qué acceso tuvo, quién la financió, cuándo se hizo, qué versión del modelo examinó y si el informe completo está disponible. También conviene saber si el proveedor puede modificar o bloquear las conclusiones.
Estas preguntas son especialmente relevantes en banca, salud, recursos humanos, infraestructuras y servicios públicos. Una evaluación sobre una versión anterior o sobre un entorno artificial puede no representar el sistema que una organización utiliza realmente. La auditoría debe actualizarse cuando cambian el modelo, sus herramientas, sus permisos o los datos a los que accede.
El riesgo de una independencia solo nominal
Los laboratorios tienen incentivos para demostrar que sus productos son seguros, pero también para lanzarlos antes que sus competidores y proteger información valiosa. Los evaluadores necesitan acceso y financiación, recursos que normalmente controla la propia empresa examinada. Esa dependencia no invalida automáticamente su trabajo, aunque obliga a publicar los posibles conflictos y las restricciones contractuales.
La prueba de credibilidad llegará cuando un evaluador encuentre algo grave. Si puede informar del problema, explicar sus límites y mostrar qué cambió antes del lanzamiento, el sistema habrá demostrado utilidad. Si el desacuerdo termina en silencio, retrasos indefinidos o informes sin detalles, la supervisión será difícil de distinguir de una operación de reputación.
La discusión coincide con un momento en que los agentes de IA reciben más autonomía y acceso a sistemas reales. La entrada de Pangea IA sobre cómo Anthropic estudia la posible autorreplicación en dispositivos domésticos muestra por qué las pruebas ya no pueden limitarse a comprobar respuestas incorrectas o sesgos: también deben examinar capacidad operativa, persistencia, ciberseguridad y mecanismos de contención.
Conclusión: el informe importa tanto como la prueba
OpenAI y Anthropic han dado un paso relevante al aceptar que equipos externos entren en sus procesos. Sin embargo, el valor público de esas evaluaciones dependerá de algo más difícil que abrir una puerta: establecer reglas que permitan comunicar resultados adversos sin divulgar información que cree riesgos adicionales.
La solución razonable no consiste en publicar cada detalle técnico ni en conceder al laboratorio un veto amplio. Requiere criterios previos, redacciones justificadas, constancia visible de lo eliminado y autonomía del evaluador para mantener sus conclusiones. Hasta que esos elementos sean verificables, conviene interpretar la palabra «independiente» como una afirmación que necesita pruebas, no como una garantía automática.
Lecturas relacionadas
- OpenAI y tres investigadores chocan por la seguridad de la IA
- Reino Unido prepara controles para los agentes de IA
- Anthropic estudia cómo la IA podría copiarse en dispositivos domésticos
Fuentes consultadas
- Reuters: disputa sobre la publicación de evaluaciones independientes de IA (13 de octubre de 2026; consulta: 13 de octubre de 2026).
- AI Evaluator Forum: condiciones mínimas para integrar evaluadores (18 de septiembre de 2026; consulta: 13 de octubre de 2026).
- OpenAI: principios para evaluaciones de terceros (22 de septiembre de 2026; consulta: 13 de octubre de 2026).
- Anthropic: colaboración con Accenture para evaluación integrada (18 de septiembre de 2026; consulta: 13 de octubre de 2026).
- Comisión Europea: requisitos para evaluadores externos de modelos con riesgo sistémico (12 de junio de 2026; consulta: 13 de octubre de 2026).
Deja una respuesta