El uso poco ético de la inteligencia artificial preocupa a los consumidores

El informe revela que a medida que las marcas adoptan la inteligencia artificial (IA) para aumentar la eficiencia y satisfacer las expectativas crecientes de los clientes, casi tres cuartas partes de estos están preocupados por el uso poco ético de la tecnología.

Esta edición muestra que los consumidores están menos dispuestos a utilizar la IA en comparación con el año pasado. Aunque el 73% de los compradores empresariales y el 51% de los consumidores (54% en España) están abiertos a utilizar la IA para mejorar sus experiencias, estas cifras han disminuido significativamente desde la encuesta realizada en 2022, donde se obtuvo un 82% y un 65%, respectivamente. Es importante destacar que la encuesta de 2022 fue realizada antes del auge de ChatGPT y la IA Generativa. Por lo tanto, las empresas tienen la oportunidad de cerrar esta brecha implementando directrices éticas y proporcionando una mayor transparencia sobre cómo se aplica la tecnología.

Salesforce lanza Starter, su nuevo CRM para pymes

Leer más

El informe también destaca nuevas influencias en las decisiones de compra y lo que los clientes buscan en las interacciones de marketing, comercio, ventas y servicio. Además, se han observado cambios en la lealtad de los compradores hacia las marcas: el 66% de los españoles afirma haber cambiado al menos una de las marcas que consumían durante el último año, en comparación con el 75% en la edición anterior de este informe en 2022. El motivo principal para el cambio es encontrar una oferta mejor, seguido de la calidad del producto y la variedad.

Los datos revelan una clara diferencia entre la confianza de los clientes en las empresas en general y la confianza en las empresas que utilizan inteligencia artificial (IA). Mientras que el 76% de los clientes confía en que las empresas hagan declaraciones honestas sobre sus productos y servicios, solo el 57% confía en que las empresas utilicen la IA de manera ética.

Es sorprendente porque el 68% de los clientes afirma que los avances en IA hacen que sea aún más importante que las empresas sean confiables. Por lo tanto, recae en las marcas la responsabilidad de demostrar que la IA generativa puede ser utilizada de manera responsable.

Las marcas están tratando de aprovechar los beneficios de la IA generativa, ya que tiene el poder de transformar el marketing, el comercio, las ventas y el servicio al cliente con contenido generado automáticamente, interfaces conversacionales, chatbots más inteligentes, entre otros. Sin embargo, sus clientes exigen un enfoque cauteloso al adoptar esta tecnología, basado en la seguridad y la ética.

Finalmente, Kathy Baxter, Principal Architect, Responsible AI & Tech de Salesforce, ha dicho que "la ética en la IA es una preocupación urgente tanto para nuestros clientes como para los clientes de nuestros clientes. Hacerlo bien requiere un enfoque centrado en la ética. Esto implica recopilar datos de manera transparente y con consentimiento, entrenar algoritmos con conjuntos de datos diversos y nunca almacenar información de los clientes de forma insegura".