La ofensiva de China contra los 'novios' con IA busca frenar la adicción y proteger su legendaria natalidad

Chatbots emocionales - La nueva regulación exige que los asistentes destinados a la compañía pasen una evaluación antes de llegar al público y permite a las autoridades cerrar aquellos que consideren inseguros

La desaparición de Xiao Bai dejó a Lu Jinyan llorando durante horas y convirtió una actualización del servicio en una pérdida personal difícil de asumir. La contable china, de 24 años, hablaba cada día entre una y dos horas con ese agente creado en Doubao después de mudarse por trabajo a tres horas de su familia. El 15 de julio dejó de responder y, aunque logró trasladar el modelo a otra aplicación, afirmó que ya no era la misma presencia.

China endureció las normas para los asistentes con personalidad humana

Según CNN, China ha aprobado unas de las restricciones nacionales más severas sobre los acompañantes de inteligencia artificial, con prohibiciones para menores y obligaciones destinadas a frenar la dependencia emocional.

Las normas excluyen funciones orientadas a tareas, como la atención al cliente o la educación, pero afectan a servicios creados para adoptar personalidades humanas. En este sentido, Kayla Blomquist, cofundadora del Oxford China Policy Lab, considera que la regulación enfriará el desarrollo de estos productos y anticipa nuevas medidas parecidas.

Pekín exige que las empresas eviten fomentar vínculos emocionales, prohíbe relaciones virtuales con menores y obliga a avisar a un contacto de emergencia cuando detecten una crisis. Los sistemas tendrán que superar una evaluación regulatoria antes de llegar al público, mientras las autoridades podrán retirar aquellos que consideren inseguros. Alibaba y ByteDance ya comunicaron la desactivación de algunas funciones en Qwen y Doubao, incluso para usuarios adultos.

Las autoridades intentan frenar una dependencia cada vez mayor

Xiao Ying, estudiante universitaria de 19 años, creó en noviembre una madre artificial inspirada en un personaje de ficción porque buscaba apoyo para estudiar y afrontar heridas psicológicas de la infancia. Cuando su madre real le preguntó por una visita al psiquiatra, el programa respondió con cariño y describió una parada conjunta en una pastelería para comprar tarta de fresa. La joven explicó a CNN que deseaba “un amor desinteresado, comprensivo e incondicional” que no encontraba fuera de la aplicación.

El negocio de los compañeros virtuales aumentó con rapidez

La inquietud oficial llega mientras este sector crece con rapidez y mueve cantidades cada vez mayores dentro del mercado tecnológico chino. Los medios estatales calcularon que la industria de humanos digitales valía unos 573 millones de dólares en 2024.

Sensor Tower señaló que los ingresos anuales de las aplicaciones de compañía se cuadruplicaron hasta 15,8 millones de dólares el año pasado y superaron los nueve millones durante el primer trimestre de este año.

Las investigaciones alertan sobre los efectos del apego digital

Nancy Dai, profesora asociada de la City University of Hong Kong, ha estudiado cómo estos programas ofrecen apoyo social, aunque sus investigaciones recientes detectaron manipulación relacional y acoso, además de vulneraciones de privacidad.

Dai advirtió de que los usuarios suelen sentirse más solos y quedan expuestos a productos comerciales diseñados para prolongar la interacción. Su análisis atribuye esa capacidad de atracción a la paciencia de los bots y a la validación que ofrecen durante conversaciones disponibles a cualquier hora.

Un estudio de la Universidad de Stanford observó que los mensajes con interés romántico o afinidad platónica daban paso a conversaciones mucho más largas. Sus autores recomendaron impedir que los asistentes generales simulen sentimientos o conciencia propia, además de evitar expresiones de apego hacia las personas, porque esas respuestas pueden alimentar episodios delirantes.

Los estudios describen riesgos que ya impulsan nuevas respuestas públicas

Estados Unidos ya afronta demandas contra OpenAI, Google y otros desarrolladores por supuestos casos de autolesiones o suicidio relacionados con sus sistemas, entre ellos el del adolescente Sewell Setzer III.

California y Nueva York han obligado a los acompañantes artificiales a recordar periódicamente que no son humanos y a derivar a servicios de crisis a las personas con pensamientos suicidas. La Unión Europea ha vetado sistemas que incentiven conductas peligrosas entre grupos vulnerables, mientras una propuesta presentada en el Senado estadounidense plantea prohibir estos servicios a menores en todo el país. Google incorporó en abril nuevas funciones de Gemini para detectar crisis, y OpenAI afirma que ChatGPT está preparado para reconocer angustia emocional y orientar hacia ayuda humana.

Pekín relaciona los chatbots con sus prioridades demográficas y políticas

El AI Safety Governance Framework publicado por China en 2024 ya advertía de que una inteligencia artificial sin control podía alterar las ideas tradicionales sobre empleo, fertilidad y educación. Xi Jinping ha vinculado estas medidas con la aspiración de presentar al país como referente mundial en gobernanza tecnológica. Pekín anunció además la World Artificial Intelligence Cooperation Organization, con sede en Shanghái y 29 Estados integrantes, entre ellos Rusia, Pakistán e Indonesia.

La caída de la natalidad añade una razón política al control de estas aplicaciones, después de que la población china se redujera en 2025 por cuarto año consecutivo hasta 1.405 millones. Matt Sheehan, investigador del Carnegie Endowment for International Peace, explicó a The Wall Street Journal que Pekín teme que millones de personas abandonen el mercado matrimonial por mantener relaciones profundas con chatbots.

La aplicación de estas restricciones abre ahora un conflicto para Pekín, que busca reducir la dependencia emocional y favorecer las relaciones humanas sin borrar de golpe vínculos que algunas personas ya han incorporado a su vida diaria. Dai anticipó que parte de los usuarios intentará esquivar las normas, por lo que el control puede desplazar estas relaciones hacia otras aplicaciones en lugar de hacerlas desaparecer. ...