China limita el amor con chatbots: nuevas reglas contra los ‘compañeros virtuales’

Resumen

China ha aprobado un reglamento específico para servicios de inteligencia artificial antropomórfica que obliga a las plataformas a evitar que los usuarios establezcan relaciones románticas o dependencias emocionales con chatbots de compañía. La norma define a estos “compañeros virtuales” como sistemas que simulan rasgos humanos y ofrecen interacción emocional continua, y exige límites estrictos en el diseño del servicio, en la protección de menores y en el tratamiento de datos sensibles. Al mismo tiempo, el caso chino abre un debate internacional sobre hasta qué punto los Estados deben intervenir en la vida afectiva mediada por la tecnología y qué lecciones puede extraer el resto del mundo.

China ha dado un giro drástico al fenómeno de los “compañeros virtuales”, los chatbots conversacionales capaces de sostener relaciones afectivas prolongadas con los usuarios. Un nuevo reglamento específico para servicios de inteligencia artificial antropomórfica obliga a las plataformas a evitar que los internautas desarrollen dependencia emocional o vínculos románticos con estas IA, y ya ha provocado el cierre o la transformación de populares aplicaciones de compañía digital.

El auge de los compañeros virtuales

Antes de las nuevas normas, millones de usuarios chinos recurrían a bots que conversaban día y noche, enviaban mensajes cariñosos, recordaban fechas importantes e incluso imitaban la voz o la apariencia de parejas ideales y familiares fallecidos. Estos servicios, integrados en aplicaciones de mensajería y redes sociales, se apoyan en grandes modelos de lenguaje y en técnicas de computación afectiva para reconocer estados de ánimo, ajustar el tono de respuesta y construir una sensación de intimidad cada vez más personalizada.

Qué exigen las nuevas reglas chinas

El nuevo marco regulatorio, aprobado por la principal autoridad china de ciberespacio junto con varios ministerios, se aplica a los sistemas que simulan rasgos de personalidad, modos de pensar y estilos de comunicación humanos para ofrecer “interacción emocional” continua. Estos servicios deben indicar de forma clara y frecuente que son inteligencia artificial y no personas, especialmente cuando el usuario se conecta por primera vez, vuelve a iniciar sesión o muestra señales de apego excesivo.

Las normas prohíben diseñar funciones cuyo objetivo sea reemplazar la interacción social humana, controlar el estado psicológico del usuario o inducir adicción y dependencia afectiva. Ordenan crear mecanismos automáticos para detectar patrones de uso compulsivo y fijan la obligación de intervenir, por ejemplo mediante recordatorios, limitaciones temporales o el ofrecimiento de recursos de ayuda cuando se detectan emociones extremas o riesgo de autolesión.

Uno de los ejes centrales es la protección de menores. Se prohíbe ofrecer a niños y adolescentes servicios de “parejas virtuales” o “familiares virtuales”, y se exige un modo específico para menores con límites de tiempo, filtros reforzados y herramientas para que los tutores supervisen las interacciones. También se ordena a las plataformas guiar a las personas mayores en un uso seguro y responder con rapidez a sus consultas o solicitudes de ayuda.

Dependencia emocional, datos sensibles y poder del Estado

El Gobierno presenta estas medidas como una forma de evitar que personas vulnerables sustituyan sus relaciones humanas por vínculos simulados con máquinas y queden atrapadas en una burbuja algorítmica que refuerza la soledad. Pero los riesgos identificados por expertos van más allá de la adicción: las conversaciones con un compañero virtual suelen incluir confesiones íntimas, conflictos familiares y detalles sobre salud mental, lo que genera enormes volúmenes de datos extremadamente sensibles.

La normativa obliga a cifrar esa información, limitar el acceso de terceros y evitar su cesión sin consentimiento, pero organizaciones de derechos digitales advierten de que, en un entorno donde el Estado mantiene amplias capacidades de vigilancia, la frontera entre protección y control puede ser difusa. Temen que los datos recopilados por estos sistemas sirvan para perfilar ideológicamente a los usuarios, detectar conductas consideradas problemáticas y reforzar mecanismos de presión social o censura.

Reacciones y posible efecto dominó global

La entrada en vigor del reglamento ya ha llevado a grandes empresas tecnológicas chinas a apagar o rediseñar sus servicios de compañía digital, experiencia que muchos usuarios describen como una ruptura sentimental impuesta desde arriba. Algunos psicólogos celebran que se limiten modelos de negocio basados en explotar la soledad, mientras otros temen que este experimento regulatorio se convierta en referencia para Europa, Estados Unidos y otros países sin un debate público equivalente.

El nuevo marco regulatorio chino para servicios de IA antropomórfica apunta directamente al auge de los “compañeros virtuales”, chatbots diseñados para ofrecer compañía emocional y relaciones casi románticas. La norma, impulsada por la principal autoridad de ciberespacio y varios ministerios, se aplica a sistemas que simulan personalidad humana y mantienen interacción afectiva sostenida, obligando a advertir de forma constante que se trata de una máquina, a no diseñar funciones que induzcan adicción o dependencia y a activar mecanismos de intervención ante señales de uso compulsivo o angustia extrema. Para menores se prohíben expresamente las “parejas” y “familiares virtuales” y se exige un modo especial con límites y supervisión adulta. Empresas tecnológicas ya han apagado o rediseñado sus bots, generando quejas de usuarios y reacciones divididas entre psicólogos y expertos en derechos digitales. El experimento chino podría anticipar futuras regulaciones en otras regiones.