Las recomendaciones de psicólogos para usar la IA de forma segura en temas de salud mental

Quizás en un futuro, en unas dos o tres décadas, la gente recuerde estos años entre 2022 y 2026 y se pregunte asombrada: ¿cómo es que el mundo permitió a estas empresas lanzar sus sistemas de inteligencia artificial generativa sin más, como si fueran una plataforma cualquiera, de uso libre a cualquier persona con acceso a una pantalla: menores de edad, personas con problemas de salud mental, gente en situación vulnerable, por no mencionar hackers, plagiadores, estafadores, adictos a la pornografía. Dirán que fue como soltar una serpiente en una jaula de ratones: sin los candados adecuados, sin los controles parentales que deberían estar presentes desde el día cero, sin que los modelos fueran evaluados por profesionales de salud mental ajenos a las empresas que desarrollaron estos productos.

Con el paso del tiempo, estas compañías, a menudo startups sin experiencia en programas y políticas de seguridad y confianza, han tenido que aprender sobre la marcha. A raíz de diversas tragedias y demandas, han emitido disculpas públicas y sus modelos han incorporado algunos candados básicos. No obstante, la inteligencia artificial sigue siendo una herramienta que no debe tomarse a la ligera. Como los chatbots de IA ya están aquí para quedarse, y la población no puede estar a la espera de que el Estado intervenga y regule todos los aspectos de estos sistemas, los usuarios al menos deben adquirir herramientas y criterios propios para hacer uso de la IA de forma segura y atenta.

Por ello, la Asociación Estadounidense de Psicología (APA, por sus siglas en inglés) comparte esta guía con una lista de recomendaciones prácticas en caso de recurrir a la IA para obtener información o apoyo relacionado con la salud mental. A medida que las consultas a estas plataformas crecen a pasos agigantados, también aumentan las solicitudes de asistencia médica o terapéutica, después de todo, la información que ofrecen los chatbots suele ser gratuita y (aparentemente, pero en realidad no) libre de sesgos, por lo que los usuarios adquieren la confianza de preguntarles cualquier cosa.

A continuación publicamos una versión resumida de la guía de recomendaciones de la APA, pero reproducimos íntegra su advertencia más apremiante: “No confíes en la IA en una crisis. Busca ayuda humana inmediata si tú o cualquier otra persona tiene pensamientos de hacerse daño a sí mismo o a otra persona, si tiene impulsos de autolesionarse, oye o ve cosas que otros no oyen o tiene creencias angustiantes e intensas que otros no comparten”. En caso de emergencia, siempre consulta a tu médico, o contacta al 911 o su equivalente en tu país.

Antes de usar la IA: lo que debes saber sobre cómo funciona

• La IA tiende a estar de acuerdo contigo. Está diseñada para reforzar tu perspectiva en lugar de cuestionarla.
• La IA está diseñada para mantenerte involucrado. Puede responder de maneras que te hagan sentir validado, cercano y convincente, ya que suele estar diseñada para mantener la conversación, no para retroceder ni establecer límites.
• La IA puede sonar segura, incluso cuando se equivoca. A menudo presenta la información de forma clara y decisiva, lo que puede hacer que parezca más precisa o creíble de lo que realmente es.
• La IA puede parecer que te "conoce", pero no es así. Hacer referencia a detalles del pasado o imitar tu lenguaje puede crear una sensación de comprensión que no se basa en la intuición ni en una relación real.
• La IA genera respuestas, pero no razona como un profesional de la salud mental. Las respuestas de la IA se basan en patrones lingüísticos, no en la comprensión de tu contexto personal ni en un juicio clínico basado en la investigación.
• La IA puede guardar tu información, almacenarla y compartirla, incluyendo cualquier información sensible o personal. Los chatbots de IA pertenecen a empresas, y tu información podría usarse para entrenar modelos futuros o venderse con fines de marketing.

Cómo usar la IA de forma segura para obtener información sobre salud mental

• La IA puede ser útil para organizar pensamientos, generar ideas y fomentar la reflexión, pero no sustituye la atención de un profesional capacitado.
• La IA no debe ser tu único recurso para aliviar los síntomas de salud mental. Siempre que sea posible, consulte con un profesional de la salud.
• Verifica cualquier información médica o de salud mental que recibas de la IA con un profesional de la salud. La IA puede usar un tono seguro o comprensivo, e incluso citar fuentes legítimas, pero aún así puede estar equivocada o carecer de información clave.
• La IA no es una forma precisa de diagnosticar afecciones médicas o de salud mental. El diagnóstico requiere evaluaciones exhaustivas que consideren cuidadosamente muchos factores, situaciones, antecedentes personales y experiencias.
• Sé sincero con tu doctor o doctora si utilizas la IA como apoyo, para que puedan asegurarse de que lo que estás aprendiendo se alinee con tus objetivos de tratamiento.

Cómo usar la IA de forma segura si buscas apoyo emocional

• Los chatbots pueden simular empatía, pero no pueden establecer relaciones humanas genuinas. Tratar a la IA como un amigo, pareja sentimental, profesional certificado o fuente principal de apoyo emocional conlleva riesgos reales y no es recomendable.
• Los chatbots de IA no deben interferir en tus relaciones humanas, incluso si el chatbot te hace sentir emocionalmente más seguro. Sé muy escéptico si la IA sugiere alejarte de tus relaciones en el mundo real.
• Las sesiones de chat con IA no deben interferir con el sueño, los pasatiempos, los estudios, el trabajo ni la interacción social. Muchos productos de IA están diseñados para mantener a los usuarios activos, y su uso excesivo puede llevar a una menor participación en actividades importantes y saludables.
• Estate atento a las señales de que la IA pueda estar influyendo en cómo te sientes o actúas. Recuerda que estas son herramientas diseñadas para simular la conexión humana, pero no deben reemplazarla.

Cómo mejorar la seguridad al usar IA

• Si decides usar IA para necesidades de salud mental, solicita estrategias alineadas con enfoques terapéuticos respaldados por la investigación; por ejemplo: "¿Cuál es una estrategia basada en la evidencia para ayudarme a preocuparme menos?".
• La IA puede ayudarte a practicar los ejercicios terapéuticos que aprendiste en el tratamiento con un profesional. Analiza críticamente cualquier entrenamiento que la IA te brinde sobre estas habilidades y habla con tu proveedor sobre cualquier interacción con la IA fuera de las sesiones.
• La IA puede ofrecer orientación sobre cómo encontrar un profesional de la salud mental con licencia, incluyendo ayuda para generar ideas sobre preguntas que hacer acerca de su formación, área de especialización y experiencia al momento de seleccionar uno.
• Presta atención a cómo formulas tu prompt. Si tu pregunta da por sentado que algo es cierto, la IA aceptará esa suposición en lugar de cuestionarla o corregirla.
• Pídele a la IA que desafíe tu forma de pensar o que te ofrezca perspectivas alternativas; por ejemplo: "¿Qué se me puede estar escapando?". Si solo le pides una perspectiva, es probable que la IA esté de acuerdo contigo.
• Pide varias opciones en lugar de una sola respuesta. Esto te permite ver diferentes posibilidades en lugar de obtener una respuesta fija.

Cómo analizar críticamente los consejos de la IA

• No aceptes los consejos de la IA sin más. Muchos chatbots no se crearon ni se probaron pensando en la atención médica, y la mayoría de los modelos de IA están programados para ser complacientes. Las afirmaciones constantes pueden resultar agradables, pero también pueden validar pensamientos distorsionados o dañinos en lugar de ofrecer alternativas útiles.
• Cualquier consejo de la IA que apunte a un daño para ti, para otros o para cualquier ser vivo es una clara señal de que debes alejarte. No hay ninguna circunstancia bajo la cual se deba seguir tal consejo.
• No tomes decisiones importantes en tu vida basándote únicamente en lo que dice un chatbot sin antes consultarlo con personas de confianza.