Por Redacción Pangea IA · 15 de octubre de 2026
Anthropic ha incorporado a seis especialistas de METR a su entorno interno con equipos, espacio de trabajo y acceso comparable al de sus propios grupos de evaluación de riesgos. La organización podrá publicar sus conclusiones sin que la empresa tenga derecho de veto, aunque deberá respetar categorías de información previamente excluidas. El acuerdo convierte una discusión abstracta sobre auditorías independientes en un ensayo concreto, pero todavía no equivale a una supervisión pública ni resuelve por completo el problema de la independencia.
Qué ha cambiado realmente
La novedad no es que Anthropic trabaje por primera vez con evaluadores externos. METR ya había revisado informes de riesgo de la compañía y otros grupos, como SecureBio, habían participado en análisis más acotados. El salto cualitativo anunciado el 15 de octubre de 2026 está en la profundidad del acceso y en las reglas de publicación.
Según la explicación publicada por Anthropic, seis empleados de METR han recibido hardware de la empresa, espacio en sus oficinas y acceso a herramientas y sistemas internos aproximadamente equivalente al de los equipos que estudian los riesgos de Claude. La compañía anima además a sus trabajadores a compartir información con ellos como lo harían con un compañero dedicado al riesgo de alineamiento, salvo en un conjunto limitado de materias.
Reuters confirmó los elementos principales del acuerdo y situó el anuncio en el contexto de unas negociaciones que, según una fuente conocedora, se habían vuelto más abiertas. Esto importa porque, apenas dos días antes, el debate sobre las auditorías de OpenAI y Anthropic seguía centrado en quién podía controlar el informe final y qué información debía quedar fuera.
Qué podrán ver los evaluadores de METR
El acceso descrito va más allá de probar un modelo mediante una interfaz o recibir una versión anticipada. METR podrá observar procedimientos internos, herramientas de evaluación, incidentes y prácticas relacionadas con la medición de riesgos. Anthropic sostiene que el objetivo es reducir la distancia entre lo que sabe el laboratorio y lo que puede conocer un tercero.
El perímetro, sin embargo, no es ilimitado. Quedan excluidos los datos de clientes, la información protegida por el secreto profesional entre abogado y cliente y, como regla general, las arquitecturas de los modelos. Anthropic añade que podría compartir algún detalle arquitectónico si fuese muy relevante para una evaluación concreta, pero solo después de autorizaciones internas explícitas.
- Incluido: sistemas y herramientas internas vinculadas a la evaluación de riesgos, información sobre entrenamiento y funcionamiento de salvaguardas cuando resulte pertinente.
- Excluido por defecto: datos de clientes, comunicaciones legalmente privilegiadas y arquitectura de los modelos.
- Acceso restringido: solo el pequeño equipo de seis personas de METR queda integrado; el resto de la organización permanece separado de ese trabajo.
Esta separación intenta conciliar dos objetivos que chocan con facilidad: permitir una revisión profunda y evitar que secretos comerciales o información sensible circulen por toda la entidad evaluadora. También significa que “acceso como un empleado” no debe interpretarse como acceso universal a todos los sistemas de Anthropic.
Publicar sin veto, pero con redacciones
La parte más relevante del acuerdo afecta a la publicación. Anthropic afirma que no podrá impedir que METR difunda sus análisis sobre niveles de riesgo, incidentes o prácticas. Sí podrá exigir que se elimine información incluida en categorías estrechas y definidas de antemano.
METR conservará el derecho de explicar públicamente que se ha producido una redacción y de decir si, a su juicio, estaba justificada, siempre que no revele el contenido protegido. Ese mecanismo no elimina el conflicto entre transparencia y confidencialidad, pero hace más visible dónde se encuentra. Un lector podrá distinguir entre una ausencia de hallazgos y una limitación de acceso o publicación.
La distinción es importante. Un evaluador puede ser técnicamente competente y, aun así, producir un informe incompleto si la empresa decide qué puede observar o si existe una amenaza implícita de bloquear la publicación. El nuevo esquema reduce ese riesgo formal al retirar el veto, aunque mantiene a Anthropic como parte capaz de activar redacciones dentro de los límites pactados.
Los tres niveles de acceso de Anthropic
La compañía ha ordenado sus colaboraciones con evaluadores en tres niveles. El modelo permite empezar con un proyecto limitado y ampliar el acceso cuando ambas partes acreditan capacidad técnica, seguridad y una relación de trabajo estable.
| Nivel | Acceso | Publicación |
|---|---|---|
| 1 | Investigación estrecha; Anthropic decide qué información entrega | Requiere aprobación de Anthropic |
| 2 | Información más amplia | Sin aprobación previa, con redacciones para categorías definidas |
| 3 | Acceso similar al de empleados dedicados al riesgo | Como en el nivel 2; el evaluador puede cuestionar públicamente las redacciones |
METR ocupa el tercer nivel. SecureBio está por ahora en el primero y revisa el capítulo sobre armas químicas y biológicas del informe de riesgos de agosto de Anthropic. La empresa también trabaja con Accenture y Faculty en evaluaciones, ejercicios de ataque controlado y pruebas de salvaguardas, y mantiene conversaciones iniciales con otras organizaciones, entre ellas Hugging Face.
Anthropic presenta este sistema como un proceso de aprendizaje y dice que espera integrar a varios evaluadores en el nivel superior. Esa promesa todavía es una intención: no se conocen los nombres, los calendarios ni los criterios exactos para promover a futuros revisores.
Por qué el acuerdo no resuelve la independencia
El acceso profundo y la libertad de publicación son condiciones necesarias, pero no bastan para garantizar independencia. Reuters recoge una objeción central de expertos del sector: los propios laboratorios escogen a quienes los examinan. La empresa también financia o facilita parte del trabajo y define inicialmente el perímetro contractual.
La independencia deberá juzgarse por resultados observables. Entre las preguntas decisivas están si METR publica conclusiones desfavorables, si identifica información que no pudo verificar, si explica las redacciones y si conserva libertad para decidir qué riesgos merecen investigación. También será relevante saber cuánto duran los acuerdos y qué ocurre cuando evaluador y laboratorio discrepan.
Anthropic compara el modelo, con cautela, con los examinadores residentes que trabajan dentro de grandes bancos. La analogía ayuda a entender el valor de observar una organización desde dentro, pero tiene un límite esencial: un supervisor bancario actúa con autoridad pública y obligaciones legales. METR es una entidad privada invitada voluntariamente por la empresa evaluada.
Por tanto, este acuerdo no sustituye una regulación, una inspección oficial ni las obligaciones que puedan introducir Estados Unidos, la Unión Europea u otras jurisdicciones. Es un mecanismo privado de rendición de cuentas que puede aportar evidencia antes de que existan sistemas públicos equivalentes.
Qué riesgos intentan detectar
Los evaluadores de modelos de frontera estudian capacidades que pueden aparecer antes o después de un entrenamiento: ayuda para desarrollar armas, vulnerabilidades informáticas, autonomía operativa, engaño estratégico o capacidad para acelerar la investigación en inteligencia artificial. No se trata solo de medir si Claude responde bien a preguntas, sino de comprobar si las pruebas están diseñadas correctamente y si las salvaguardas resisten intentos deliberados de evasión.
El acceso interno puede ser especialmente útil cuando una evaluación externa produce un resultado ambiguo. Un comportamiento aparentemente seguro puede depender de filtros añadidos al final del proceso, de una instrucción oculta o de que el modelo detecte que está siendo examinado. Conocer el entrenamiento, los controles y los incidentes ayuda a separar una mejora real de una apariencia de seguridad.
También permite conectar pruebas aisladas con riesgos operativos. La investigación de Anthropic sobre la posible autorreplicación de sistemas de IA, por ejemplo, solo adquiere sentido completo cuando se examinan a la vez las capacidades del modelo, los permisos disponibles y las barreras técnicas que impedirían actuar fuera de un laboratorio.
Qué significa para empresas y usuarios europeos
El acuerdo no cambia hoy los precios, los planes ni la disponibilidad de Claude en España. Tampoco crea una certificación que una pyme pueda usar para demostrar cumplimiento. Su efecto inmediato es reputacional y de gobernanza: aporta un canal adicional para conocer riesgos que normalmente solo ve el proveedor.
Para organizaciones que compran servicios de IA, el precedente sugiere tres preguntas útiles en una evaluación de proveedores: qué terceros han revisado el sistema, qué acceso recibieron y si pudieron publicar sin aprobación. Una referencia genérica a una “auditoría independiente” dice poco si el revisor solo probó una interfaz o si la empresa pudo bloquear el informe.
En la Unión Europea, estas evaluaciones privadas pueden complementar —no reemplazar— la documentación, la gestión de riesgos y la supervisión previstas por la normativa aplicable. Las responsabilidades legales siguen recayendo en proveedores y desplegadores según su papel y el tipo de sistema. Un informe de METR podría convertirse en evidencia técnica relevante, pero no ofrece por sí solo conformidad regulatoria.
Las señales que conviene vigilar
El valor del experimento se podrá medir cuando METR publique sus primeros análisis con este nivel de acceso. Cuatro señales serán especialmente informativas:
- Alcance real: qué sistemas, incidentes y decisiones examina el equipo y qué queda fuera.
- Discrepancias: si el informe recoge desacuerdos entre METR y Anthropic sobre la gravedad de un riesgo.
- Redacciones: cuántas se aplican y si METR considera que estaban justificadas.
- Replicación: si otros laboratorios adoptan un acceso comparable y permiten publicar bajo reglas similares.
También habrá que observar si Anthropic eleva a SecureBio u otros evaluadores a los niveles superiores y si publica criterios comparables entre socios. Sin esa información, el sistema podría convertirse en una colección de acuerdos distintos difíciles de comparar.
Un avance concreto, todavía incompleto
La integración de seis evaluadores de METR supone un avance verificable respecto al modelo habitual de pruebas puntuales. Combina acceso interno, capacidad de publicación y un mecanismo para hacer visibles las redacciones. Por primera vez, Anthropic ha descrito con suficiente detalle cómo pretende graduar sus relaciones con revisores externos.
El resultado, sin embargo, dependerá menos del anuncio que de los informes posteriores. La prueba decisiva llegará cuando METR encuentre algo incómodo: si puede investigarlo, explicarlo y defender su interpretación sin perder acceso, el mecanismo ganará credibilidad. Si los límites contractuales impiden comprender asuntos relevantes, la apariencia de auditoría será más fuerte que la supervisión real.
Lecturas relacionadas
- OpenAI y Anthropic chocan por quién controla las auditorías de IA
- Anthropic estudia cómo la IA podría copiarse en dispositivos domésticos
- Anthropic factura 16.800 millones: claves de su salto
Fuentes consultadas
- Anthropic: “An update on independent evaluators”, 15 de octubre de 2026. Consulta: 15 de octubre de 2026.
- Reuters: Anthropic grants outside evaluator METR employee-level access, 15 de octubre de 2026. Consulta: 15 de octubre de 2026.
- Financial Times: cobertura sobre el acceso concedido a METR, 15 de octubre de 2026. Consulta: 15 de octubre de 2026.
- METR: propuestas y actividad reciente sobre evaluación independiente de modelos. Consulta: 15 de octubre de 2026.
Deja una respuesta