El gobierno de China presentó un proyecto de normas para regular los servicios de inteligencia artificial que imitan la comunicación humana y mantienen interacciones emocionales con los usuarios.
La propuesta, publicada por el regulador cibernético chino, se encuentra abierta a consulta pública y refleja el esfuerzo del país por establecer controles éticos y de seguridad ante el crecimiento acelerado de la IA orientada al consumidor.
Las reglas estarían dirigidas a productos y plataformas de IA que actúan como “personalidades digitales”, es decir, sistemas capaces de simular rasgos de comportamiento humano, estilos de comunicación y vínculos emocionales mediante texto, imagen, audio, video u otros formatos.
Según el documento, los proveedores deberán garantizar el uso seguro del servicio durante todo su ciclo de vida y crear mecanismos internos para auditar algoritmos, proteger los datos personales y supervisar la seguridad.
Intervención ante adicción y riesgos emocionales
Uno de los puntos más destacados del proyecto es la obligación de los proveedores de intervenir si detectan comportamientos de adicción o emociones extremas en los usuarios.
La norma plantea también que se deberá advertir sobre el uso excesivo del servicio y monitorear el estado emocional del público para prevenir dependencia psicológica.
El texto remarca que las herramientas de IA no pueden generar contenido que amenace la seguridad nacional, promueva violencia, difunda rumores, ni incluya material sexual u obsceno. Además, marca líneas rojas de conducta para evitar que estas tecnologías influyan de manera negativa o manipulen a las audiencias.
Un paso más en el control digital del país
Con este proyecto, Pekín busca dar forma al despliegue de la IA en la vida cotidiana, especialmente en aplicaciones que funcionan como acompañantes virtuales, asistentes con personalidad propia o plataformas capaces de sostener vínculos emocionales con las personas.
Si las normas se aprueban, China avanzaría en uno de los marcos regulatorios más estrictos del mundo en torno a la IA emocional, con énfasis en ética, seguridad psicológica y protección social, en un sector tecnológico que continúa expandiéndose a gran velocidad.
