Además de estas medidas, la empresa dirigida por Sam Altman está trabajando para que ChatGPT sea más receptivo ante situaciones de malestar mental o emocional. El objetivo es que el chatbot pueda responder de forma adecuada y derivar a los usuarios hacia recursos fiables y basados en la evidencia cuando sea necesario.
"Queremos que la IA sea más personal y atenta a las necesidades humanas"
“Queremos que la IA sea más personal y atenta a las necesidades humanas. Si un ser querido acudiera a ChatGPT en busca de ayuda, ¿nos sentiríamos tranquilos? Conseguir un sí rotundo es nuestra labor”, ha explicado OpenAI.
Con el fin de avanzar en este propósito, la compañía colabora con más de 90 médicos de más de 30 países para analizar conversaciones complejas, y también con investigadores y profesionales clínicos especializados en interacción persona-computadora (HCI). Estas colaboraciones buscan perfeccionar los métodos de evaluación y asegurar que la herramienta responde con sensibilidad y rigor.
Asimismo, OpenAI ha convocado a un grupo asesor compuesto por expertos en salud mental, desarrollo juvenil y HCI, que velará por alinear estos avances con las mejores prácticas y con las investigaciones más recientes.
Por último, la empresa ha confirmado que próximamente implementará un nuevo enfoque en el comportamiento del chatbot, centrado en ayudar a los usuarios a tomar decisiones personales. En lugar de limitarse a ofrecer respuestas, ChatGPT invitará a la reflexión mediante preguntas y valoraciones de los pros y contras de cada opción.
Una evolución que busca situar a la IA como un acompañante más humano, consciente y seguro para quienes interactúan con ella.