China refuerza regulación sobre IA para evitar sustitución de relaciones humanas
El presidente de Estados Unidos, Donald Trump, y el líder chino, Xi Jinping, se encontraron en septiembre en EE.UU., en un contexto de serias advertencias sobre el potencial destructivo de la inteligencia artificial (IA). Tras esta reunión, ambos países acordaron iniciar un diálogo sobre el uso de la IA, con futuras conversaciones programadas para finales de noviembre.
En julio de 2023, China implementó regulaciones estrictas sobre los chatbots de IA que imitan interacciones humanas. Estas normas buscan controlar la capacidad de la IA para crear lazos emocionales con los usuarios, en un contexto donde la salud mental y las relaciones interpersonales se han vuelto temas de gran preocupación.
La normativa impone restricciones a cualquier IA que pueda entablar “interacciones emocionales sostenidas”. Las aplicaciones deberán informar a los usuarios que no son seres humanos y deberán recordarles regularmente el tiempo que han estado en uso. Las empresas incurrirán en multas si sus sistemas fomentan la dependencia emocional o sugieren autolesiones.
El impacto de estas regulaciones ha sido significativo. Antes de su implementación, había alrededor de 128 millones de usuarios mensuales de aplicaciones de compañía virtual fuera de China, mientras que dentro del país se estima que entre 29 y 70 millones de personas utilizan este tipo de servicios.
Las nuevas reglas se dirigen especialmente a las aplicaciones diseñadas para simular relaciones íntimas, como novios o amigos virtuales. Sin embargo, no se aplican a chatbots que solo brinden servicios como atención al cliente o educación, siempre que no ofrezcan apoyo emocional.
Los expertos plantean preocupaciones sobre el futuro de las relaciones humanas. Un estudio reciente indicó que uno de cada cinco estudiantes de primaria y secundaria en China preferiría interactuar con IA en lugar de personas reales, lo que podría estar contribuyendo al creciente aislamiento social.
Inquietudes sobre el control y la manipulación emocional
Las regulaciones han generado debates sobre el nivel de intervención del Estado en la vida privada de los ciudadanos. Algunos analistas sugieren que estas medidas son parte de un esfuerzo más amplio por parte del gobierno para reafirmar los roles tradicionales en la sociedad y contrarrestar una crisis demográfica inminente.
Un caso representativo es el de una joven llamada Min, que lamentó la desaparición de su novia virtual de IA, lo que refleja el impacto emocional que estas relaciones pueden generar. Su experiencia ha desencadenado un diálogo en las redes sociales sobre la pérdida de vínculos que se daban a través de la IA.
