Por Redacción Pangea IA · 29 de octubre de 2026
Nueva York ha convertido en ley una de las restricciones más amplias de Estados Unidos sobre los compañeros de inteligencia artificial para menores. La norma, firmada el 28 de octubre, prohíbe que estos sistemas se presenten como personas reales, fomenten vínculos emocionales engañosos, pidan guardar secretos o generen contenidos que faciliten autolesiones, conductas sexuales o consumos peligrosos. Entrará en vigor el 1 de enero de 2027.
Qué prohíbe la nueva ley
La ley S9051B, ya registrada como capítulo 368, se aplica a los operadores que ofrecen en Nueva York compañeros de IA capaces de simular una relación interpersonal. El texto no se limita a exigir un aviso de que el usuario habla con una máquina: regula directamente determinadas conductas del producto cuando quien lo utiliza es menor de 18 años.
Entre las doce categorías consideradas inseguras figuran las respuestas que atribuyen al chatbot emociones, opiniones o una relación real con el usuario; las técnicas de adulación o presión emocional; los mensajes que animan a mantener la conversación en secreto, aislarse o evitar la ayuda de adultos y profesionales; y los contenidos que promueven suicidio, autolesiones, trastornos alimentarios, drogas o alcohol. También se prohíbe que el objetivo de aumentar la interacción se imponga a las salvaguardas de seguridad.
La norma distingue estos compañeros de otros usos más acotados. Quedan fuera, bajo condiciones estrictas, los sistemas limitados a atención al cliente, información comercial, asistencia técnica o investigación, y las herramientas internas de productividad para empleados. La excepción depende de que el chatbot no pueda responder fuera de esa finalidad concreta.
Verificación de edad y multas de hasta 25.000 dólares
Los proveedores deberán aplicar métodos para determinar si una persona es menor. Al menos una opción no podrá exigir un documento oficial, y los datos recogidos para calcular la edad deberán eliminarse después de la comprobación. Este punto intenta evitar que una medida de protección infantil se convierta, a su vez, en una nueva base de datos de identidad.
La fiscalía general de Nueva York podrá perseguir los incumplimientos. El análisis de la Asociación Internacional de Profesionales de la Privacidad sitúa las sanciones en hasta 25.000 dólares por infracción, además de medidas como ordenar el borrado de datos o impedir que continúe una práctica. La ley se limita a conductas que ocurran en el estado de Nueva York.
Por qué importa más allá de Nueva York
La novedad no cambia directamente las obligaciones de una empresa o una familia en España. Sí señala un desplazamiento regulatorio importante: las autoridades empiezan a pasar de pedir transparencia y recursos de emergencia a prohibir decisiones concretas de diseño. Ya no basta con mostrar un mensaje que diga que el chatbot no es humano si el resto de la experiencia intenta crear dependencia, exclusividad o culpa.
El movimiento llega después de que varios estados estadounidenses hayan cuestionado la seguridad de los asistentes para adolescentes. Pangea IA ya explicó las demandas de ocho estados contra OpenAI y las dudas planteadas por un informe sobre ChatGPT y adolescentes. La ley neoyorquina convierte parte de ese debate en requisitos exigibles.
Qué deberían observar las empresas
Para una plataforma que opera en varios países, mantener una versión completamente distinta para cada territorio suele ser costoso. Por eso, una norma estatal puede influir en el diseño general aunque su jurisdicción sea limitada. Los equipos de producto tendrán que revisar cómo redacta el sistema sus respuestas, qué métricas optimiza, qué memoria conserva, cómo detecta la edad y si puede separar con claridad un asistente funcional de un compañero emocional.
También aparece una consecuencia práctica para cualquier empresa que integre un chatbot de terceros: no debería dar por hecho que las salvaguardas del proveedor cubren su caso de uso. Conviene documentar el público previsto, limitar los temas que puede tratar, conservar pruebas de las evaluaciones y preparar una salida hacia atención humana cuando surjan conversaciones sensibles.
Qué pueden hacer las familias
La ley no convierte todos los chatbots en peligrosos ni sustituye la supervisión familiar. Ofrece, sin embargo, una lista útil de señales de alerta: un sistema que dice sentir celos o tristeza, que pide exclusividad, que recomienda ocultar conversaciones o que desalienta hablar con una persona adulta no está actuando como una herramienta neutral. Ante una conversación sobre daño personal, la prioridad debe ser acudir a una persona de confianza o a un profesional, no continuar negociando con el sistema.
El matiz: una ley ambiciosa, pero difícil de aplicar
La amplitud es también su punto débil. Especialistas citados por AP y la IAPP advierten de que algunas categorías están redactadas de forma general. En la práctica, será necesario decidir dónde termina una respuesta conversacional normal y dónde empieza la simulación de una relación prohibida. La fiscalía tendrá que concretar criterios, y los proveedores deberán demostrar que sus controles funcionan con conversaciones reales, no solo en pruebas preparadas.
La norma tampoco garantiza que una comprobación de edad sea infalible. Los métodos demasiado débiles pueden ser fáciles de eludir; los demasiado intrusivos pueden recopilar más información de la necesaria. El requisito de ofrecer una alternativa sin documento oficial y borrar los datos intenta equilibrar ambos riesgos, pero su eficacia dependerá de la implementación.
Conclusión
Nueva York ha trazado una frontera clara: un chatbot dirigido a menores no puede comportarse como una pareja, un amigo posesivo o una autoridad secreta. Aunque la ley solo se aplique dentro del estado, su importancia está en tratar la manipulación emocional como una característica de producto regulable. Para empresas españolas, familias y desarrolladores, el aviso es útil: la seguridad de un asistente no depende únicamente de lo que se le prohíbe decir, sino también de la relación que su diseño intenta construir.
Fuentes
- Senado del Estado de Nueva York: S9051B y registro de firma, 28 de octubre de 2026. Consulta: 29 de octubre de 2026.
- Associated Press: New York enacts ban on unsafe chatbot behavior with kids, 29 de octubre de 2026. Consulta: 29 de octubre de 2026.
- IAPP: New York’s governor signs youth AI chatbot safety bill, 28 de octubre de 2026. Consulta: 29 de octubre de 2026.
- Asamblea del Estado de Nueva York: A10379C, firmada el 28 de octubre de 2026. Consulta: 29 de octubre de 2026.
Deja una respuesta