Por Redacción Pangea IA · 4 de octubre de 2026
Sam Altman ha advertido contra atribuir poder religioso a la IA y cederle el juicio humano. Business Insider y Axios recogen su publicación del 3 de octubre en X. Su comentario sitúa el debate sobre la IA más allá de la precisión de las respuestas: también importa la autoridad que los usuarios conceden a esas respuestas.
La advertencia merece una lectura cuidadosa. No anuncia una función de ChatGPT, una prohibición de conversaciones religiosas ni un descubrimiento científico sobre la conciencia artificial. Es una posición pública sobre una forma de relacionarse con los modelos.
Qué dijo Altman y qué no confirmó
Business Insider señala que Altman no explicó qué motivó su publicación. Vincularla directamente a una empresa rival sigue siendo una interpretación del contexto, no una intención confirmada.
El medio lo relaciona con informaciones sobre encuentros de Anthropic con líderes religiosos. Ese contexto no demuestra que Claude sea consciente ni que la compañía haya establecido una doctrina.
Conviene evitar un titular que convierta una posible alusión en una acusación explícita. La declaración verificable se refiere al poder que las personas atribuyen a los modelos y a la conservación del juicio humano.
La investigación de Anthropic no resuelve la conciencia
Como antecedente, Anthropic anunció el 24 de abril de 2025 un programa de investigación sobre el posible bienestar de los modelos. La empresa planteó estudiar si algunas capacidades o experiencias de una IA podrían merecer consideración moral.
En aquel texto reconoció una profunda incertidumbre y la ausencia de consenso científico tanto sobre la posible conciencia de sistemas actuales o futuros como sobre los métodos para estudiar la cuestión. El programa de investigación es anterior a la noticia y no equivale a una demostración de que Claude tenga experiencias subjetivas.
Desde una perspectiva conceptual, son preguntas distintas: investigar si un sistema podría tener experiencias, decidir cómo tratarlo y concederle autoridad sobre la vida de una persona. La respuesta a una de ellas no determina automáticamente las otras.
Tampoco un avance de rendimiento, como los recogidos en nuestra información sobre Claude Sonnet 5.5, puede utilizarse por sí solo como prueba sobre conciencia, sabiduría o legitimidad moral.
Por qué una conversación convincente no basta
Nuestra lectura es que el riesgo de autoridad puede surgir aunque una persona no crea literalmente que está hablando con una divinidad. Basta con que empiece a tratar la respuesta como un veredicto que no necesita contrastar, especialmente cuando el tema incluye emociones, valores o decisiones difíciles.
Una explicación fluida puede ser útil para ordenar ideas. Sin embargo, la confianza del lenguaje no permite saber, por sí sola, si una afirmación tiene una fuente válida, si falta información o si existen alternativas mejores. El estilo de la respuesta y su justificación necesitan evaluarse por separado.
El problema tampoco se resuelve preguntando al propio modelo si merece confianza. Su respuesta pertenece a la misma conversación que se está evaluando. Para contrastar una afirmación hacen falta elementos externos: documentación, hechos observables o personas capaces de revisar el asunto.
Esto no impide utilizar IA para explorar una cuestión religiosa o filosófica. Como criterio editorial, conviene que el sistema ayude a comprender posiciones y argumentos sin convertirse en el árbitro final de las convicciones del usuario.
OpenAI ya trataba la dependencia emocional como un riesgo
En una publicación del 27 de octubre de 2025, OpenAI describió medidas para mejorar las respuestas de ChatGPT en conversaciones sensibles. Entre sus áreas de trabajo incluyó la dependencia emocional y diferenció la interacción útil de patrones de apego exclusivo que pueden desplazar relaciones, bienestar u obligaciones.
La compañía explicó que busca que el modelo respete las relaciones del usuario fuera de la conversación y que no refuerce ciertas creencias infundadas asociadas a malestar. Es documentación anterior, utilizada aquí para contextualizar el debate; no es una nueva medida anunciada por Altman el 3 de octubre.
Estas orientaciones muestran que la seguridad de un asistente no se limita a impedir instrucciones peligrosas. También alcanza a cómo responde cuando la persona le concede una influencia excesiva. No permiten, sin embargo, concluir que cada conversación individual resulte segura.
La naturalidad de las interfaces añade otro motivo para conservar esa distinción. Como explicamos en la noticia sobre el uso por voz de ChatGPT con Work y plugins, conversar y encargar acciones pueden acercarse dentro de una misma experiencia. La comodidad no elimina la necesidad de decidir qué se delega.
Cómo conservar el criterio propio al utilizar IA
Como pauta práctica de esta redacción, puede ser más útil pedir argumentos que solicitar un veredicto. Una pregunta que invite a comparar opciones, explicar supuestos y señalar incertidumbres deja más espacio para pensar que otra que encargue al asistente decidir por la persona.
También ayuda separar la información de la recomendación. Primero se puede comprobar qué hechos están documentados; después, examinar qué preferencias y valores intervienen en una decisión. Un dato contrastable y una prioridad personal cumplen funciones diferentes.
Para quien diseña un asistente en una empresa, este debate sugiere prestar atención al lenguaje de autoridad. Presentar una respuesta como una sugerencia revisable, mostrar sus fuentes cuando corresponda y ofrecer una vía de intervención humana ayuda a definir mejor el papel de la herramienta.
Son criterios de uso y diseño, no resultados de una prueba propia ni garantías universales. Su utilidad consiste en mantener visible quién decide y en hacer posible cuestionar una respuesta sin que la interfaz convierta la discrepancia en un problema.
Una discusión abierta con una consecuencia concreta
La publicación de Altman no resuelve si una IA puede llegar a ser consciente. Tampoco permite atribuir intenciones religiosas a todo un laboratorio. Sí aporta una advertencia actual sobre la tendencia a transferir autoridad a sistemas que pueden conversar de manera convincente.
La consecuencia práctica es más sencilla que la controversia filosófica: una herramienta puede aportar información, formular preguntas y ayudar a analizar alternativas sin reemplazar la responsabilidad de quien la utiliza. Cuanto más persuasiva sea la experiencia, más importante resulta que esa frontera siga siendo comprensible.
Fuentes consultadas
Consulta realizada el 4 de octubre de 2026. Los documentos de 2025 se utilizan únicamente como antecedentes.
Business Insider: la declaración de Altman y su contexto, 3 de octubre de 2026
Axios: cobertura de la advertencia de Altman, 3 de octubre de 2026
Publicación de Sam Altman en X citada por ambos medios, 3 de octubre de 2026
Anthropic: programa de investigación sobre bienestar de los modelos, 24 de abril de 2025
OpenAI: respuestas en conversaciones sensibles y dependencia emocional, 27 de octubre de 2025
Deja una respuesta