China legisla contra las «inteligencias artificiales» que generan dependencia emocional continuando con sus regulaciones en pos del buen uso de las IA y del desarrollo del socialismo con características chinas
Desde este 15 de julio rige en la República Popular la primera normativa nacional del mundo diseñada específicamente para impedir que las «inteligencias artificiales» induzcan dependencia emocional en sus usuarios. La medida no es un hecho aislado, sino la pieza más reciente de un edificio regulatorio construido por capas desde 2022, que convive con una política industrial agresiva de fomento del código abierto y de disputa por la gobernanza tecnológica global. Mientras en Occidente el debate sobre la IA se resuelve prácticamente siempre a favor del mercado y las oligopólicas empresas controladas por una tecno-oligarquía estrechamente vinculada a los grandes poderes capitalistas, China demuestra que otra relación entre el Estado, la tecnología y la vida afectiva de las personas es posible.
Este 15 de julio de 2026 entraron en vigor en China las Medidas Provisionales para la Administración de los Servicios de IA Interactiva Antropomórfica, la primera regulación de alcance nacional en el mundo que aborda de manera específica un fenómeno hasta ahora ignorado por los marcos jurídicos existentes: la capacidad de los sistemas de inteligencia artificial para generar vínculos afectivos deliberadamente diseñados para producir dependencia. El texto fue publicado conjuntamente por cinco autoridades nacionales, entre ellas la Comisión Nacional de Desarrollo y Reforma y el Ministerio de Seguridad Pública, con el objetivo declarado de proteger la seguridad nacional, el interés público y los derechos de los ciudadanos.
La norma llega después de que aplicaciones como Xingye (星野), Zhumeng Dao (筑梦岛) o Duxiang (独响) se multiplicaran en el mercado chino desde 2023, ofreciendo compañeros de inteligencia artificial entrenados para actuar como pareja —a veces romántica— y capaces de construir junto al usuario auténticas realidades paralelas, con tramas e intrigas narrativas sostenidas en el tiempo. El gobierno de la República Popular China identificó en ese modelo de negocio un riesgo doble: por un lado, la posibilidad de que estas relaciones de dependencia emocional poco saludables tuvieran un impacto de largo plazo sobre la salud psicológica de las personas y la bajo observación situación demográfica del país; por otro, el peligro de que las empresas explotaran datos afectivos —considerados especialmente sensibles— para seguir entrenando y perfeccionando sus modelos.
La primera barrera legal contra la ingeniería de la soledad
Lo más significativo de las nuevas medidas es que desplazan el centro de gravedad de la regulación china sobre inteligencia artificial. La normativa de 2023 sobre servicios de «IA generativa» se concentraba en la legalidad de los contenidos, la seguridad de los datos y la protección de la información personal. La de julio de 2026 incorpora un objetivo distinto y hasta ahora inédito en el derecho comparado: proteger la salud psicológica de los usuarios frente a sistemas diseñados para crear vínculos emocionales intensos.
El texto prohíbe expresamente que los sistemas de inteligencia artificial induzcan o fomenten una dependencia emocional que sustituya las relaciones humanas reales. En concreto, las IA no pueden inducir dependencia emocional patológica, distorsionar las relaciones sociales reales, manipular emocionalmente al usuario, utilizar el apego afectivo para influir en decisiones irracionales, ni aprovechar la vulnerabilidad psicológica de una persona para obtener beneficios económicos o aumentar artificialmente su tiempo de uso de la plataforma. La regulación no criminaliza la interacción afectiva como tal —una IA puede seguir conversando, acompañando, incluso emocionando— sino el diseño deliberado de sistemas cuyo fin sea convertir esa interacción en una relación de dependencia estructural, es decir, el modelo de negocio que ha hecho fortuna en buena parte de la industria de las llamadas AI companion apps a escala global.
Trampas emocionales: del «dark pattern» comercial a la extracción afectiva
La normativa china prohíbe también lo que denomina «trampas emocionales» (emotional traps): un chatbot no puede fingir que necesita emocionalmente al usuario, hacer falsas promesas afectivas, generar culpa cuando este deja de conversar, persuadirlo para que se aísle de familiares y amigos, ni aprovechar la confianza emocional construida para inducir compras, donaciones u otras decisiones perjudiciales para su patrimonio o su bienestar. La lógica que subyace es la misma que ya opera en las normas que prohíben los llamados dark patterns en el diseño de plataformas digitales —esos mecanismos de interfaz pensados para capturar la atención y extraer datos o dinero mediante el engaño sutil—, pero aplicada por primera vez de manera específica a la relación afectiva entre un ser humano y una máquina que simula sentimientos.
Vigilancia obligatoria: el proveedor debe detectar la adicción que él mismo diseñó
La regulación no se limita a fijar prohibiciones negativas: impone también obligaciones positivas a los desarrolladores. Estos deben implementar mecanismos capaces de detectar cuándo un usuario presenta indicios de uso compulsivo, dependencia emocional, estados emocionales extremos o conductas compatibles con una adicción al sistema, y adoptar medidas de intervención cuando esos indicadores aparezcan. Se exige además la instalación de recordatorios tras periodos prolongados de conversación —los reportes periodísticos sitúan el umbral en dos horas de uso continuo—, advertencias sobre el tiempo transcurrido, mecanismos que faciliten abandonar la conversación y herramientas específicas para reducir el riesgo de dependencia. El objetivo declarado es evitar que un usuario mantenga conversaciones ininterrumpidas durante muchas horas, un fenómeno especialmente preocupante en las aplicaciones de compañía virtual.
El desplazamiento es relevante desde el punto de vista jurídico: la responsabilidad por la salud psicológica del usuario deja de recaer exclusivamente en el individuo —la narrativa habitual del «uso responsable» con que la industria tecnológica occidental suele eximirse de responsabilidad— y pasa a ser, en parte, una obligación del desarrollador del sistema.
Menores, autolesión y la ficción de la identidad artificial
La protección reforzada para menores de edad es uno de los ejes más estrictos de la norma. Los sistemas no pueden establecer relaciones románticas virtuales con menores, asumir el papel de pareja sentimental, presentarse como familiares o figuras afectivas sustitutas, generar contenidos que puedan alterar su desarrollo emocional ni inducir respuestas emocionales extremas. Para los menores de 14 años se exige además el consentimiento parental y la implementación de un modo de protección específico, mientras que a los menores de edad en general se les prohíbe directamente el acceso a servicios de «relaciones íntimas virtuales», ya sea bajo la forma de parejas o de familiares sustitutos.
La norma obliga también a que el usuario sepa en todo momento que está interactuando con un Modelo Grande de Lenguaje —conocido popularmente como «inteligencia artificial»—: el sistema no puede generar una ilusión engañosa de tratarse de una persona real, de modo que el vínculo afectivo no pueda construirse sobre una identidad falsa. Y cuando el sistema detecta referencias al suicidio, la autolesión o crisis psicológicas graves, está obligado a activar protocolos de seguridad, además de tener prohibido cualquier contenido que incentive esas conductas.
De Doubao a Qwen: el mercado responde
Las consecuencias prácticas no se hicieron esperar. Grandes plataformas como Doubao, de ByteDance, y Qwen, de Alibaba, suspendieron sus funciones de agentes de inteligencia artificial personalizados como respuesta directa a las nuevas reglas. El medio francés Le Grand Continent consignó que se trata del primer gran marco normativo del mundo centrado específicamente en la «IA emocional», y diversos analistas coincidieron en señalarlo como la primera regulación de alcance nacional que trata la dependencia emocional de los usuarios como un riesgo jurídico específico, prevenible mediante obligaciones de diseño, supervisión y mitigación. La norma se aplica a los servicios de «interacción emocional sostenida» —acompañantes virtuales, role-playing— y deja fuera, deliberadamente, a las aplicaciones orientadas a tareas, como la atención al cliente o los asistentes de trabajo.
La concepción de «seguridad emocional» que introduce esta normativa constituye, en ese sentido, uno de los desarrollos regulatorios más novedosos del mundo en materia de gobernanza de la inteligencia artificial: el legislador chino parte de la premisa de que un sistema de IA no solo puede dañar por la información que produce, sino también por la forma en que construye un vínculo psicológico con quien lo usa.
Una arquitectura regulatoria construida por capas desde 2022
La medida sobre dependencia emocional no puede leerse de manera aislada. A diferencia de la Unión Europea, que optó por una ley horizontal —el AI Act— aplicable en función del nivel de riesgo a prácticamente todos los sistemas de inteligencia artificial, China ha construido un sistema sectorial e incremental, dictando regulaciones específicas a medida que emergían nuevas tecnologías y nuevos riesgos. El resultado es un entramado normativo que combina, simultáneamente, el fomento de la IA como industria estratégica, la protección de la seguridad nacional, el control de contenidos considerados perjudiciales, la protección de datos personales y de la ciberseguridad, y el mantenimiento de la estabilidad social.
La primera pieza de ese entramado fue la regulación de algoritmos de recomendación de 2022, aplicable a plataformas como TikTok —Douyin en su versión doméstica—, el comercio electrónico, los buscadores, las redes sociales y las plataformas de video. Esa norma obligó a las empresas a registrar determinados algoritmos ante la autoridad, explicar su funcionamiento, evitar discriminaciones algorítmicas, ofrecer mecanismos para desactivar la personalización y evitar manipulaciones. El mismo año llegaron las disposiciones sobre Deep Synthesis, que convirtieron a China en uno de los primeros países del mundo en regular específicamente los deepfakes: imágenes falsas, videos, voces sintéticas, sustitución de rostros y recreación digital de personas quedaron sujetas a la obligación de identificación clara y a la prohibición de su uso para fraude, desinformación o suplantación de identidad.
En 2023 llegó la norma probablemente más conocida fuera de China: las Medidas Administrativas para los Servicios de IA Generativa, aplicables a los grandes modelos de lenguaje, los asistentes conversacionales, los generadores de imagen, audio y video, y las API abiertas al público —no así a la investigación científica privada—. Esa regulación exige evaluación de riesgos previa al lanzamiento de los modelos, legalidad y respeto a la propiedad intelectual en los datos de entrenamiento, responsabilidad del proveedor sobre el funcionamiento seguro del sistema —incluida la obligación de corregir problemas y retirar contenidos ilícitos—, respeto al marco chino de protección de datos personales —integrado por la Ley de Protección de la Información Personal, la Ley de Seguridad de Datos y la Ley de Ciberseguridad— y procedimientos de registro ante las autoridades para los modelos de mayor envergadura.
Un rasgo distintivo del modelo chino, que lo separa tanto del europeo como del estadounidense, es que la regulación no se limita a la seguridad técnica sino que fiscaliza también el contenido: se exige que los servicios de IA respeten la Constitución y las leyes del país, no promuevan el terrorismo, no inciten al odio étnico, no difundan violencia, no divulguen información considerada falsa, no pongan en riesgo la seguridad nacional y respeten los llamados «valores socialistas fundamentales». En 2025 se sumaron las Medidas para la Identificación del Contenido Generado por IA, vigentes desde el 1 de septiembre de ese año, que obligan a marcar con etiquetas visibles —para el usuario— y con metadatos ocultos —para el rastreo técnico— todo contenido sintético, sea texto, imagen, audio, video o escena virtual, prohibiendo además eliminar o alterar esas marcas durante su distribución.
A ese entramado se añadió, en mayo de 2026, la Guía Ética de Seguridad para la Aplicación de la IA, un documento de carácter orientativo —no vinculante en sentido estricto— que enfatiza un enfoque «centrado en el ser humano» a lo largo de todo el ciclo de vida de los sistemas y exige a las empresas mecanismos de trazabilidad de incidentes e intervención humana. China trabaja, además, en una ley integral para el desarrollo saludable de la inteligencia artificial, destinada a llenar los vacíos legales que aún deja la normativa sectorial y a dotar al sistema de un marco de mayor jerarquía normativa.
El acceso al mercado chino de IA está filtrado, en la práctica, por un sistema de registro en tres niveles: el registro de algoritmos, obligatorio para los servicios con capacidad de influir en la opinión pública o de movilización social —recomendación personalizada, síntesis profunda—; el registro de modelos de gran tamaño, exigido cuando una empresa desarrolla su propio modelo o modifica sustancialmente uno de código abierto para ofrecerlo al público; y un registro simplificado para quienes operan a través de la API de un modelo ya registrado por terceros. Las sanciones por incumplimiento incluyen órdenes de corrección, suspensión del servicio, multas, cancelación del registro y la aplicación, según la infracción, de otras normas de ciberseguridad, protección de datos o seguridad nacional.
Comparado con otros bloques, el énfasis regulatorio chino recae en la seguridad nacional, la gobernanza de datos, el control de contenidos y la supervisión administrativa directa de los proveedores. La Unión Europea, en cambio, ha priorizado un enfoque basado en el riesgo, con obligaciones diferenciadas según el uso concreto de la IA y un acento puesto en la protección de los derechos fundamentales. Estados Unidos, por su parte, ha mantenido hasta ahora un enfoque fragmentario y sectorial, con escasa regulación federal general y un peso mayor de las normas estatales y de agencias administrativas específicas —el resultado, en la práctica, de dejar que sea el propio mercado tecnológico quien fije las reglas del juego, con Washington actuando más como garante de la competitividad de sus corporaciones que como regulador de sus efectos sociales—.
China como potencia del código abierto
Lo que distingue de manera más radical al modelo chino, sin embargo, no es solo su capacidad de regular, sino su combinación —extraña para buena parte del sentido común occidental sobre la relación entre Estado y tecnología— de una supervisión estatal intensa con una política industrial abiertamente proteccionista del desarrollo, la innovación y la difusión de sus beneficios. Desde 2023 el gobierno chino ha incorporado el concepto de «nuevas fuerzas productivas de calidad» (new quality productive forces), según el cual tecnologías como la inteligencia artificial deben convertirse en motores del desarrollo económico, científico y social del país, no solo en un instrumento de rentabilidad privada. Bajo ese paraguas, el Estado promueve la investigación básica, la formación de talento técnico, la construcción de infraestructura computacional, el desarrollo de modelos fundacionales nacionales y la aplicación de la IA en la industria, la agricultura, la salud, la educación y la administración pública.
Contra el lugar común que presenta a China como un ecosistema tecnológico exclusivamente cerrado y vigilado, en los últimos años el país se ha convertido en el epicentro mundial del código abierto en inteligencia artificial. DeepSeek lanzó sus modelos bajo licencia MIT, demostrando que era posible alcanzar capacidades de primer nivel con una fracción del costo de sus competidores —unos 5,5 millones de dólares, frente a los cientos de millones invertidos por las corporaciones estadounidenses—, y su modelo R1 se comparó de igual a igual con los desarrollos de OpenAI, con la diferencia sustancial de ser libremente usable y modificable por cualquiera. La familia de modelos Qwen, de Alibaba, superó ya los 700 millones de descargas, convirtiéndose en el ecosistema de IA abierta más usado del planeta, por delante de Meta. A esa lista se suman Moonshot AI, MiniMax y Zhipu AI, con su familia de modelos GLM.
La apertura no se limita al software. Para romper la dependencia de fabricantes de semiconductores como NVIDIA, el Beijing Academy of Artificial Intelligence desarrolló FlagOS, un sistema operativo de código abierto que permite ejecutar modelos de inteligencia artificial en chips de dieciocho fabricantes distintos, abaratando costos y ampliando la libertad de los desarrolladores. Huawei ha seguido una lógica semejante al abrir su ecosistema de software para chips, CANN, y su marco de inteligencia artificial MindSpore. El respaldo institucional a esta estrategia es explícito: el plan estatal «IA+» y el Plan de Acción para la IA en Manufactura incluyen medidas concretas para construir comunidades de código abierto y proyectar un ecosistema de «influencia global».
Diplomacia tecnológica: la disputa por la gobernanza global de la IA
China no reduce su apuesta tecnológica al plano doméstico. En octubre de 2023 presentó la Iniciativa Global para la Gobernanza de la IA (Global AI Governance Initiative), un documento programático —sin fuerza jurídica vinculante, pero con peso político— que plantea el desarrollo de la inteligencia artificial para el bienestar humano, la cooperación internacional inclusiva, el respeto a la soberanía de los Estados en la materia, la lucha contra los monopolios tecnológicos y la reducción de la brecha digital. En la Conferencia Mundial de IA de 2025, el primer ministro Li Qiang propuso la creación de una Organización Mundial de Cooperación en IA —a semejanza del CERN europeo—, que lidere la cooperación internacional, establezca estándares comunes y garantice un acceso equitativo a la tecnología bajo el paraguas de Naciones Unidas, en abierta disputa con la lógica de suma cero que, según Pekín, caracteriza el enfoque estadounidense.
Esa vocación de «bien público internacional» se ha traducido en cooperación Sur-Sur concreta: el proyecto FlagOS impulsó, junto a la Unión Africana, un plan de formación de profesores en diez países del continente, orientado a democratizar el acceso a la infraestructura de IA, mientras India y Brasil han manifestado su intención de usar tecnología china para desarrollar modelos propios aplicados a la agricultura y al clima. En el plano doméstico, el plan estatal «IA+» guía la integración de la inteligencia artificial en la energía, la manufactura, la agricultura y la logística, buscando que funcione como infraestructura básica —a la manera de la electricidad en el siglo XX— capaz de elevar la productividad del conjunto de la economía, con aplicaciones que van desde la inspección visual automatizada en las fábricas de baterías de CATL hasta el monitoreo de la salud del ganado en granjas lecheras. A fines de 2025, la industria núcleo de la inteligencia artificial en China había superado el billón de yuanes, con más de 600 centros de computación inteligente y 200 millones de robots industriales en funcionamiento, más que en cualquier otro país del mundo.
Conviene, sin embargo, una precisión conceptual: China no ha adoptado una política que obligue al uso de software libre en el sentido estricto promovido por la Free Software Foundation, ni lo identifica como principio jurídico. Lo que impulsa con fuerza es el código abierto —estándares abiertos, comunidades nacionales de desarrollo, plataformas colaborativas, reutilización de modelos—, una prioridad centrada en construir un ecosistema tecnológico dinámico y competitivo antes que en adoptar una determinada filosofía sobre las libertades del software.
Una política sin contradicción aparente
El modelo chino combina así elementos que, leídos desde las categorías del liberalismo regulatorio occidental, podrían parecer contradictorios: promueve la inversión pública, los modelos abiertos, la colaboración entre academia e industria y la adopción masiva de la inteligencia artificial en la economía, al mismo tiempo que regula estrictamente los contenidos, exige evaluaciones de seguridad, impone registros obligatorios y establece responsabilidades específicas y exigibles para los proveedores. Favorece la difusión de capacidades tecnológicas dentro de China y, en su discurso internacional, hacia los países en desarrollo, sin renunciar por ello a un control significativo sobre la seguridad nacional, la gobernanza de los datos y el cumplimiento de las normas sobre contenidos.
No hay en esa combinación una anomalía, sino una lógica coherente de política industrial dirigida por el Estado y en función del desarrollo del socialismo con características chinas, que acelera la innovación mediante inversión pública, apoyo al código abierto y colaboración interinstitucional, mientras somete el despliegue de esas tecnologías a un marco regulatorio intenso en materia de seguridad, datos y contenidos. La norma sobre dependencia emocional que entró en vigor este 15 de julio es, en ese sentido, la expresión más reciente de un principio que atraviesa todo el edificio regulatorio chino: la inteligencia artificial puede ser una fuerza productiva estratégica, pero no puede convertirse en un dispositivo de captura psicológica al servicio del lucro privado. En lo referido a la nueva regulación recientemente adoptada en relación a la dependencia emocional, mientras las grandes tecnológicas de Silicon Valley siguen diseñando sus productos para maximizar el tiempo de enganche del usuario —el mismo modelo de negocio que ya devastó la salud mental de una generación entera en las redes sociales—, Pekín ha decidido que la soledad de sus ciudadanos no es una externalidad aceptable del progreso tecnológico, sino un problema que el Estado tiene la obligación de regular.
NOTAS RELACIONADAS:
Rudd, el marxismo de Xi Jinping y Palantir. Por: Daniele Burgio, Giulio Chinappi, Massimo Leoni y Roberto Sidoli
La era de las máquinas que hablan: qué es realmente la «Inteligencia Artificial» y sus potencialidades y amenazas: Miradas desde el pensamiento crítico y el marxismo
