Psicosis por IA o delirios mesiánicos: las consecuencias del uso de los chatbots como terapeutas o consejeros, comenta Alejandra Rossi

“El concepto de ‘psicosis por IA’ está saliendo como un tema de interés en salud mental aunque aún no tiene un reconocimiento clínico formal, ni figura como diagnóstico en los manuales como el DSM-5 o la CIE-11. Pero sí está comenzando a aparecer en la literatura, principalmente a través de estudios de caso y reportes anecdóticos. La ‘psicosis por IA se refiere a situaciones en las que personas con algún tipo de predisposición incorporan elementos de la inteligencia artificial en sus construcciones delirantes”.

“Existe la posibilidad de que algunas personas atribuyan a la IA un nivel de autoridad equiparable al de un profesional de la salud mental, sin saber o tener en cuenta las limitaciones intrínsecas de esta. Por último, están las cuestiones de privacidad y seguridad. Muchas plataformas de IA no han sido diseñadas teniendo en cuenta algún estándar de confidencialidad y protección de información/datos que son esenciales en la práctica terapéutica”.

“¿No deberíamos exigir que estos sistemas cuenten con mecanismos de detección de palabras claves relacionadas con riesgos como el suicidio, la autolesión o la violencia?’ Y cuando se detecten, ‘¿no sería lo más apropiado que hubiera una derivación inmediata a líneas de ayuda profesional?’. Además, es importante que se establezcan límites claros. Estos chatbots no son terapeutas, no pueden dar diagnósticos. Debemos asegurarnos de que los usuarios comprendan exactamente qué pueden y qué no pueden hacer estas herramientas“.