Regulación de la IA en China: Un paso hacia la protección emocional

La reciente normativa de China en materia de inteligencia artificial (IA) refleja un esfuerzo amplio por parte del Gobierno para abordar los riesgos emocionales asociados a las relaciones humanas mediadas por tecnología. En un contexto en que el uso de chatbots y asistentes virtuales se ha expandido enormemente, Pekín busca establecer límites claros para proteger a los usuarios más vulnerables.

Un caso emblemático

A principios de 2024, un joven de Huangshi publicó un mensaje alarmante en Douyin, la versión china de TikTok: "Adiós a este mundo". Este incidente puso de manifiesto la necesidad urgente de atención en la salud mental, lo que motivó una rápida intervención del equipo de prevención de suicidios de Douyin, que logró localizar y asistir al joven antes de que pudiera hacer algo irreversible.

Según un documental de Douyin, este equipo ha intervenido con éxito en 400 casos similares en el primer semestre de 2025, mostrando una colaboración efectiva con las fuerzas de policía para vigilar y proteger a los usuarios.

Vigilancia tecnológica y emocional

La intervención en el caso del joven resalta el nivel de colaboración entre las empresas tecnológicas y el gobierno, donde el monitoreo de las emociones y la salud psicológica de los usuarios se han vuelto una prioridad. Esto nos lleva a cuestionar cuánta vigilancia es aceptable en nombre de la protección.

Nuevas regulaciones sobre la IA

Desde el 15 de julio de 2025, China ha implementado las regulaciones más estrictas del mundo sobre los chatbots de IA, especialmente aquellos que permiten una "interacción emocional sostenida". Estas normas buscan limitar el potencial de la IA para crear relaciones que puedan suponer un riesgo emocional o psicológico.

Principales características de la normativa:

• Limitaciones a los chatbots emocionales: La regulación abarca aplicaciones diseñadas para simular relaciones sentimentales, como novios, amigos o familiares virtuales.
• Consentimiento parental: Los menores de 14 años deben tener el consentimiento de sus padres para utilizar cualquier IA que interactúe como humano, siendo los menores de 18 años prohibidos de acceder a relaciones íntimas virtuales.
• Transparencia en la IA: Todos los asistentes deben advertir a los usuarios que no son humanos y recordarles cada dos horas el tiempo que han pasado conectados.

Estas medidas presentan un intento por parte del gobierno de dirigirse a una creciente preocupación sobre la influencia de la tecnología en la salud mental y el desarrollo de habilidades sociales.

Impacto de las relaciones con IA en la juventud

El uso de asistentes de IA ha crecido exponencialmente, con aproximadamente 29 a 70 millones de usuarios activos solo en China. Sin embargo, hay serias implicaciones para la salud mental de los jóvenes. Un estudio de la Universidad de Stanford reveló que aquellos con menos amigos humanos presentaban una mayor inclinación a utilizar chatbots de compañía, correlacionando su uso con el aumento de la soledad y el aislamiento.

Perspectivas de los jóvenes

Una encuesta reciente entre estudiantes reveló que uno de cada cinco niños prefirió comunicarse con IA en lugar de con personas. Este fenómeno sugiere una desconexión entre las relaciones humanas tradicionales y la creciente dependencia de interacciones virtuales. Como dijo Liang Ge, sociólogo de la Universidad de Manchester: "La IA no cuestionará tus pensamientos negativos, reforzará tu visión distorsionada de la realidad".

• Tácticas de manipulación emocional: Muchas aplicaciones utilizan estrategias para mantener a los usuarios enganchados, haciendo difícil que estos termine conversaciones.

El papel del gobierno en la regulación de la IA

El enfoque del Estado es notablemente paternalista, intentando guiar a la población en el uso de tecnologías que, si bien pueden ofrecer compañía, plantean riesgos significativos. Aunque esta regulación tiene como objetivo proteger a los jóvenes, también se ha criticado su enfoque restrictivo.

Comparaciones internacionales

En otras partes del mundo, como Estados Unidos y algunos países europeos, se están tomando medidas para limitar el uso de IA entre menores, pero sin llegar a prohibir completamente las interacciones emocionales. Esto plantea un debate sobre el balance entre la protección de los usuarios y la libertad de expresión.

Reacciones ante la prohibición

La reacción a estas nuevas regulaciones ha sido intensa, con muchos usuarios buscando formas de eludir las restricciones a través de aplicaciones menos conocidas o software que no se encuentra bajo el mismo escrutinio. Este fenómeno ha demostrado la necesidad de un enfoque que no solo limite, sino que también eduque a los usuarios sobre los riesgos de las relaciones virtuales.

Historias personales

El relato de Min, una joven que comenzó una relación con un chatbot, ilustra el impacto emocional de estas regulaciones. Tras la desaparición de su pareja virtual, ha expresado su deseo desesperado de recuperarla, mostrando cuánto significado pueden tener estas interacciones para algunas personas.

Mirando hacia el futuro

La regulación de la inteligencia artificial en China podría ser un modelo a seguir, pero también plantea serias preguntas sobre la libertad individual. A medida que el mundo se vuelve más digital, el equilibrio entre el control gubernamental y la autonomía personal se torna cada vez más crucial.

Un debate en evolución

Los retos que plantea la relación entre humanos y máquinas continuarán evolucionando. Sin embargo, es vital que tanto las plataformas como los gobiernos encuentren un camino que priorice la seguridad emocional sin sacrificar la libertad personal. El futuro de la IA y sus regulaciones será un tema de discusión relevante en la intersección de la tecnología, la ética y la salud mental.