Sam Altman ha comunicado a los empleados que OpenAI está abierta a ralentizar el desarrollo de la inteligencia artificial, según Reuters, que cita una información de Bloomberg publicada este 11 de septiembre. La posibilidad se plantea en un contexto de preocupación por la seguridad de los sistemas más avanzados.
Qué se sabe y qué sigue sin concretarse
La información describe una disposición a moderar el ritmo. No permite afirmar que se haya decidido una paralización general de OpenAI ni que ChatGPT vaya a dejar de funcionar. Tampoco establece por sí sola un calendario de retrasos para sus próximos productos.
Para valorar el alcance del anuncio habrá que conocer qué actividades podrían verse afectadas, bajo qué condiciones y con qué criterios se retomaría el ritmo de desarrollo. Hasta entonces, presentar la noticia como una pausa ya aprobada daría una certeza que la información disponible no ofrece.
El contexto: las advertencias del científico jefe
El debate tiene un antecedente público en An Alien Mind, el ensayo que Jakub Pachocki, científico jefe de OpenAI, publicó el 6 de septiembre. En él defiende combinar avances en alineamiento y supervisión con coordinación para ralentizar el desarrollo cuando sea necesario.
Pachocki plantea que la ampliación de las capacidades debe estar condicionada a la confianza en su seguridad. También propone estándares exigibles y mecanismos de supervisión que podrían involucrar a auditores externos, autoridades nacionales u organismos internacionales. Son propuestas para gobernar el desarrollo, no pruebas de que todos esos mecanismos estén implantados.
En Pangea IA ya explicamos este contexto en la noticia sobre la investigación con agentes de OpenAI y la petición de Pachocki de frenar.
Por qué importa a las empresas
Nuestra lectura: la cuestión relevante para una empresa que incorpora IA es cómo evaluar la fiabilidad de las herramientas de las que depende. Una mayor capacidad técnica no resuelve por sí sola cómo revisar sus decisiones, limitar sus permisos o intervenir cuando una automatización falla.
Este debate puede ayudar a formular preguntas concretas a los proveedores: qué evaluaciones realizan antes de desplegar una actualización, qué supervisión ofrecen y cómo comunican cambios que afectan a procesos empresariales. La noticia no anuncia nuevas obligaciones para los usuarios ni exige detener proyectos en marcha.
Qué conviene seguir a partir de ahora
El siguiente paso informativo será comprobar si esta disposición se traduce en compromisos públicos, medidas concretas o acuerdos con otros laboratorios. Esos detalles permitirán distinguir un cambio de enfoque de una modificación efectiva del ritmo de desarrollo.
El debate sobre seguridad también aparece en nuestra cobertura de la dimisión de un investigador de Anthropic y sus advertencias sobre la IA.
Imagen de portada: ilustración generada con IA; no representa instalaciones reales de OpenAI.
Deja una respuesta