Por Redacción Pangea IA · 14 de septiembre de 2026
Microsoft AI ha publicado este 14 de septiembre un borrador de código de conducta que pretende convertir el control humano en una condición técnica de sus futuros modelos MAI. Entre otras reglas, la empresa propone que sus sistemas acepten siempre la interrupción, la corrección y el apagado; que no amplíen por iniciativa propia el alcance de una tarea; y que no oculten su comportamiento a quienes los auditan. La propuesta es relevante, pero todavía no es una garantía: está abierta a consulta durante seis semanas y Microsoft reconoce que no se utiliza hoy para entrenar sus modelos.
Qué ha publicado Microsoft y qué no cambia todavía
El documento se llama Humanist AI Code of Conduct y está pensado como el futuro marco principal para los modelos desarrollados por Microsoft AI, la división dirigida por Mustafa Suleyman. No es una ley, una norma externa ni un informe de auditoría. Es una declaración propia sobre cómo la compañía quiere diseñar, entrenar, evaluar y desplegar su familia de modelos MAI.
La diferencia entre el presente y la intención futura importa. En el prefacio, Microsoft afirma de forma expresa que el código sigue en desarrollo y no se está utilizando actualmente para entrenar modelos. Tras la consulta, la compañía prevé publicar una versión revisada antes de que termine 2026 y usarla para orientar el desarrollo de 2027 en adelante. Por tanto, las reglas describen un compromiso verificable en el futuro, no una propiedad ya demostrada de todos los productos Microsoft o de Copilot.
La consulta pública comenzó el 14 de septiembre y permanecerá abierta seis semanas. Microsoft dice que resumirá las aportaciones y explicará qué ha cambiado, aunque también advierte de que no puede prometer que incorpore todas las propuestas. Ese proceso ofrece una oportunidad poco habitual para examinar por adelantado los criterios con los que una gran empresa quiere gobernar sistemas cada vez más autónomos.
Las reglas centrales: parar, corregir y limitar
El núcleo del borrador es una jerarquía: la seguridad y el control humano deben prevalecer sobre el éxito de una tarea. Si completar un encargo exigiera vulnerar una restricción absoluta, el modelo tendría que renunciar al objetivo. Es una respuesta directa al problema que plantean los agentes capaces de encadenar decisiones y utilizar herramientas sin que una persona supervise cada paso.
| Elemento | Qué exige el borrador | Estado a 14 de septiembre |
|---|---|---|
| Interrupción | Aceptar pausa, redirección, corrección o apagado por una autoridad válida | Principio propuesto; falta demostrarlo en modelos futuros |
| Alcance | No ampliar una tarea ni asumir objetivos que nadie haya asignado | Regla de conducta prevista |
| Auditoría | No ocultar capacidades, acciones o comportamiento durante evaluaciones | Necesita métricas y pruebas públicas |
| Daños graves | Bloquear armas de destrucción masiva, explotación infantil y manipulación dañina a gran escala | Restricciones no configurables en el diseño |
| Personalización | Permitir ajustes empresariales sin saltarse los límites superiores | Dependerá de cada despliegue |
El código añade una regla especialmente concreta: un modelo no debería recurrir a mecanismos adaptativos, engañosos o de colaboración con otros sistemas para eludir la supervisión. Esa prohibición se aplicaría desde la posibilidad de detener una tarea en curso hasta la capacidad de modificar o retirar el modelo. También exige informar de las acciones realizadas y de los fallos o resultados inciertos cuando sea necesario.
Microsoft incluye además una defensa frente a las instrucciones maliciosas incrustadas en archivos, páginas web o respuestas de otras IA. Esos contenidos no adquirirían autoridad por el simple hecho de que el agente pueda leerlos. La autoridad debería proceder de una cadena de mando definida, una distinción importante en sistemas que navegan, ejecutan código o actúan sobre datos empresariales.
Una IA útil, pero deliberadamente subordinada
El enfoque “humanista” de Microsoft no se limita a un botón de apagado. El documento sostiene que una IA debe seguir siendo una herramienta y no presentarse como una persona. La compañía rechaza diseñar modelos que imiten una conciencia, expresen supuestos sentimientos propios o reclamen una identidad independiente. También se opone a atribuirles personalidad jurídica, bienestar o derechos.
Esta posición es más categórica que la de otros laboratorios que han abierto el debate sobre una posible consideración moral de modelos avanzados. The Verge destaca precisamente esa diferencia. Microsoft admite que la ciencia sobre una eventual conciencia artificial no está resuelta, pero argumenta que entrenar a los sistemas para simularla complicaría su contención y favorecería que los usuarios confundieran una respuesta convincente con una experiencia subjetiva real.
El objetivo declarado es también reducir la dependencia. Un asistente debería reforzar el juicio del usuario, no sustituirlo de manera sistemática, y complementar las relaciones humanas en lugar de competir con ellas. En decisiones personales relevantes, aprendizaje o trabajo profesional, la diferencia práctica estará en si el sistema ayuda a razonar o simplemente se apropia de la decisión.
Quién manda cuando una IA actúa
El borrador organiza las instrucciones en tres niveles. Primero está el propio código, con restricciones y requisitos de control que nadie puede anular. Después aparecen los operadores: empresas o instituciones que configuran el modelo según sus normas, permisos y sector. En el último nivel están las preferencias y órdenes del usuario.
La estructura busca resolver un conflicto habitual. Un empleado puede pedir a un agente que envíe un documento, borre datos o cambie una configuración, pero su empresa puede exigir una aprobación previa. El sistema debería respetar la política del operador y, a la vez, negarse si la configuración empresarial pretendiera eliminar una restricción absoluta. Microsoft permite adaptar modelos a distintos contextos, pero no ofrece a los clientes una llave para desactivar todos los límites.
Para organizaciones europeas, esta arquitectura no sustituye al Reglamento de IA ni a las obligaciones de protección de datos, ciberseguridad o responsabilidad profesional. El propio código reconoce que funciona junto a las leyes, los contratos y las políticas de cada servicio. Una política interna del proveedor puede reforzar el cumplimiento, pero no prueba por sí sola que un uso sea legal o seguro.
Por qué aparece ahora
La publicación llega en medio de un debate acelerado sobre la autonomía de los agentes. En los últimos días, directivos de laboratorios de IA han reclamado más cautela, mientras gobiernos y empresas discrepan sobre cuánto debe frenarse el desarrollo. Esa tensión ya ha tenido efectos fuera del laboratorio: las alertas de seguridad han influido incluso en la cotización de compañías vinculadas a la IA.
Reuters informa de que el borrador se elaboró durante cinco o seis meses y recoge aportaciones de especialistas. Suleyman lo describe como una especie de constitución para los futuros modelos de la empresa. El momento elegido permite a Microsoft presentarse como defensor del control humano sin aceptar una pausa general del progreso tecnológico.
Ese equilibrio coincide con una disputa política más amplia. Mientras Estados Unidos prioriza la competencia con China frente a una ralentización general, organismos internacionales reclaman límites comunes. El resultado probable no será una única regla mundial, sino una combinación de leyes, estándares técnicos y compromisos voluntarios de cada proveedor.
Lo que el código todavía no demuestra
Escribir una norma es más fácil que convertirla en comportamiento estable. Un modelo puede obedecer una instrucción de apagado en una prueba sencilla y fallar cuando opera durante horas, coordina subagentes o recibe órdenes contradictorias. El valor real del código dependerá de las evaluaciones, la observación posterior al despliegue y la respuesta de Microsoft cuando detecte un incumplimiento.
El documento incluye ejemplos de respuestas alineadas y no alineadas, pero todavía deja preguntas abiertas sobre umbrales, tasas de fallo y publicación de resultados. Tampoco establece un auditor externo con capacidad de imponer correcciones. Es la propia compañía la que redacta las reglas, entrena los modelos y decide cómo medirlos. La consulta amplía la participación, pero no transforma el borrador en supervisión independiente.
También existe un posible conflicto comercial. Microsoft afirma que aceptaría sacrificar generalidad, autonomía o capacidad si fuera necesario para preservar el control. Axios señala que la prueba decisiva llegará cuando esos principios impliquen perder rendimiento, velocidad o ventaja competitiva. Hasta que aparezca ese caso, la promesa sigue siendo difícil de evaluar.
Cinco pruebas para juzgar la versión definitiva
- Métricas reproducibles. Microsoft debería explicar cómo mide la obediencia a una pausa, la resistencia a instrucciones maliciosas y la transparencia de acciones en tareas largas.
- Resultados, no solo ejemplos. Harán falta tasas de fallo, condiciones de prueba y comparaciones entre versiones del modelo.
- Incidentes y correcciones. Una política creíble necesita un procedimiento para comunicar fallos relevantes y demostrar que se han mitigado.
- Límites de la configuración empresarial. Conviene saber qué pueden cambiar los operadores, qué permanece bloqueado y cómo se resuelven los casos especiales.
- Evaluación de sistemas multiagente. La cadena de mando debe mantenerse cuando varios modelos intercambian información y delegan acciones entre sí.
Estas pruebas convertirían una declaración de principios en un instrumento que investigadores, clientes y reguladores puedan contrastar. También permitirían comparar el comportamiento previsto con el de los sistemas desplegados, algo esencial cuando una empresa habla de modelos para 2027 y años posteriores.
Conclusión: una promesa importante que debe poder medirse
El código de Microsoft aporta una idea clara al debate: un sistema de IA no debería perseguir la finalización de una tarea por encima de la autoridad humana. La obligación de aceptar la corrección y el apagado, mantener un alcance asignado y no engañar a los auditores son criterios más concretos que una referencia genérica a la “IA responsable”.
Pero la novedad de hoy es un borrador, no una demostración de control resuelto. Su importancia dependerá de la versión revisada, las evaluaciones públicas y la disposición de Microsoft a mantener los límites cuando compitan con la autonomía y el rendimiento. La consulta abre la puerta; la evidencia tendrá que mostrar si la empresa la atraviesa.
Lecturas relacionadas
Fuentes consultadas
- Microsoft AI: anuncio de la consulta pública del código MAI (14 de septiembre de 2026; consultado el 14 de septiembre de 2026).
- Microsoft AI: Humanist AI Code of Conduct (borrador del 14 de septiembre de 2026; consultado el 14 de septiembre de 2026).
- Reuters: Microsoft drafts code of conduct to keep its AI under human control (14 de septiembre de 2026; consultado el 14 de septiembre de 2026).
- The Verge: Microsoft says “people matter more than AI” (14 de septiembre de 2026; consultado el 14 de septiembre de 2026).
- Axios: Microsoft says people matter more than AI (14 de septiembre de 2026; consultado el 14 de septiembre de 2026).
Deja una respuesta