Los chatbots ya no podrán actuar como parejas o amigos para menores
Durante los últimos años, numerosas empresas tecnológicas chinas habían incorporado funciones que permitían personalizar los asistentes de IA para que actuaran como amigos, parejas sentimentales, psicólogos o incluso recreaciones digitales de familiares fallecidos o personajes famosos. Estas experiencias conversacionales, impulsadas por los avances en inteligencia artificial generativa, buscaban ofrecer respuestas cada vez más naturales y personalizadas, hasta el punto de generar una sensación de cercanía con el usuario, sin embargo, las autoridades chinas consideran que este tipo de interacciones pueden afectar especialmente a los menores de edad, favoreciendo vínculos emocionales con sistemas de inteligencia artificial en detrimento de las relaciones personales.
Por ello, la nueva regulación prohíbe expresamente que los chatbots establezcan relaciones afectivas con menores o generen contenidos que puedan debilitar los vínculos sociales y familiares en el entorno real, la normativa busca evitar que este tipo de asistentes virtuales sustituyan o deterioren las relaciones personales en el mundo real, limitando el grado de humanización de las aplicaciones basadas en inteligencia artificial.
Alibaba, Tencent y ByteDance modifican sus plataformas
La entrada en vigor de estas normas ya ha tenido consecuencias directas para algunas de las principales empresas tecnológicas del país, según recoge Bloomberg, varias compañías han optado por eliminar o limitar determinadas funciones para garantizar el cumplimiento de la regulación.
Entre los cambios más relevantes, ByteDance ha cerrado el servicio Doubao, mientras que Alibaba ha desactivado las opciones de personalización de sus compañeros virtuales de inteligencia artificial, otras marcas como Tencent también ha restringido funciones similares en Yuanbao. Aunque la normativa no prohíbe completamente que los asistentes tengan rasgos humanizados, las empresas han decidido reducir sus capacidades al considerar que resulta complejo supervisar el uso que realizan los usuarios y garantizar que no incumplen la legislación.
La decisión forma parte de la estrategia del Gobierno chino para aumentar el control sobre el desarrollo y uso de la inteligencia artificial dentro del país y en los últimos años, Pekín ha aprobado diversas regulaciones dirigidas a supervisar los modelos generativos, los algoritmos de recomendación y las aplicaciones de IA, especialmente aquellas que pueden influir en el comportamiento de los usuarios o generar riesgos para menores de edad.
Con estas nuevas restricciones, China refuerza su apuesta por una inteligencia artificial sometida a una supervisión más estricta, obligando a las empresas tecnológicas a adaptar sus productos para cumplir con las exigencias regulatorias del país.
Si (
No(
