ChatGPT ha introducido una nueva característica para proteger la salud mental de sus usuarios con la función de contactos de confianza, que avisa a un allegado cuando las conversaciones denotan que existe un peligro para la persona.
Según datos de OpenAI, aproximadamente el 10% de la población mundial utiliza ChatGPT a diario, y se comparte mucha información con ella, por lo que las conversaciones con esta herramienta de inteligencia artificial pueden ser muy valiosas para prevenir y anticipar casos de autolesiones.
La nueva función de contactos de confianza de ChatGPT permite que los adultos elijan a otra persona, como un familiar, amigo o cuidador, de una forma similar a lo que pasa en una emergencia médica o cuando viajas, como explica la compañía de Sam Altman en un comunicado.
Si los sistemas automáticos de OpenAI detectan en las conversaciones con el usuario que la persona hablar sobre autolesiones de una forma que indique un peligro serio, ChatGPT notifica a la persona asignada de que su ayuda es necesaria.
El funcionamiento es similar a lo que ya hacía ChatGPT con usuarios adolescentes, a los que sus mecanismos de control parental ya avisan cuando detectan que por una de sus conversaciones que el menor está en riesgo físico.
Cómo añadir un contacto de confianza en ChatGPT
Los usuarios pueden añadir a un amigo o familiar como contacto de confianza a través de los ajustes de ChatGPT. El único requisito es que sea otro adulto mayor de 18 años.
Una vez designada la persona y sus datos, ChatGPT envía una invitación en la que explica su función como contacto de confianza. Hasta que este no acepta, con un plazo máximo de una semana, este vínculo no queda habilitado.
Cuando el usuario tiene conversaciones con ChatGPT que indican riesgo de autolesiones o incluso de suicidio, se envía una alerta al contacto de confianza, aunque la herramienta de IA también aconsejará al afectado que hable con este allegado.
La notificación que se envía es limitada, y solo da una noción general del riesgo, pero no se adjuntan detalles de la conversación ni capturas de pantalla con información personal. Lo que sí que se incluye es enlaces a expertos para saber cómo gestionar el problema lo mejor posible.
OpenAI ha asegurado que también dispone de un pequeño grupo de revisores de contenido que analizará manualmente estas situaciones para indicar si existe un riesgo real para el usuario en función de sus conversaciones con el chatbot.
Deja una respuesta