Los chatbots de AIS están en el centro de atención de sus posibles riesgos en la salud mental, especialmente en ChatGPT. Recientemente profundizamos este problema después de las acusaciones de que Chatgpt fue el culpable de causar delirios e incluso el suicidio de un adolescente En los Estados Unidos. Aunque ya vimos eso La realidad es mucho más compleja que un simple «la falla es ai», OpenAi ha respondido a la ola de críticas y ya ha Un paquete de medidas que se integrará en ChatGPT Para evitar casos más similares.

Plan de Openai. En respuesta a la controversia después del caso de Adam Raine, OpenAi ha detallado las medidas que alcanzarán el CHATGPT, que se centrarán en facilitar el acceso a los servicios de emergencia, contactar a personas confiables y reforzar las medidas de protección centradas en los adolescentes. La compañía pone un período de 120 días para integrar estas novedades, aunque advierte que algunos tomarán un poco más que otros.

Modelos de razonamiento. GPT-5 Elija el mejor modelo automáticamente dependiendo de las necesidades. Una de las soluciones propuestas por OpenAI para conversaciones que toman una dirección preocupante es dirigirlas automáticamente a su modelo de razonamiento, independientemente del usuario seleccionado.

Control parental. Llegará el próximo mes y la edad mínima de uso será de 13 años. Los padres pueden vincular la cuenta de sus hijos con la suya y pueden desactivar funciones como la memoria de chat y la historia. Además, recibirán una notificación si detecta que su hijo «está en un momento de angustia aguda».

Colaboración con expertos. Operai asegura que todas estas mejoras se implementarán bajo la supervisión de expertos en salud mental. Durante algún tiempo tienen expertos en bienestar e inteligencia artificial que se ha ampliado con expertos en adicciones, trastornos alimentarios y salud de los adolescentes.

La demanda. No es el primer caso en el que ChatGPT se considera responsable de una crisis de salud mental, sino una de las más populares. Los padres de Adam Raine Demandaron a Openai después del suicidio de su hijoAfirmar que ChatGPT validó sus «pensamientos más dañinos y autodescetivos». En algunas de sus conversaciones vino a discutir detalles sobre cómo hacer el nudo en la cuerda con la que planeaba suicidarse.

Salvaguardas débiles. En su Informe de amigos falsosEl ‘Centro para la Lucha contra el Odio Digital’ ya ha verificado que las salvaguardas de los chatbots son muy frágiles y el caso de Adam Raine lo corrobora. ChatGPT detectó varias veces que había un riesgo de autoinyectores e insistió en llamar a la línea de prevención del suicidio, Adam logró esquivar estos mensajes simplemente diciéndole que estaba buscando información para una historia de ficción. El nuevo control parental suena como la primera medida más fuerte contra este problema.

Imagen | Kaboomps, a través de Pexels

En | En 2011 alguien publicado en Reddit «A858». Catorce años y miles de mensajes después, el misterio sigue desanimado