En un futuro, dentro de dos o tres décadas, es probable que las personas reflexionen sobre los años entre 2022 y 2026 y se pregunten cómo fue posible que el mundo permitiera a estas empresas lanzar sus sistemas de inteligencia artificial generativa sin restricciones, como si fueran plataformas de uso libre accesibles para cualquier individuo con una pantalla. Esto incluye a menores, personas con problemas de salud mental, individuos en situaciones vulnerables, así como hackers, plagiadores, estafadores y adictos a la pornografía. Se podría comparar esta situación con liberar una serpiente en una jaula de ratones: sin los candados necesarios, sin controles parentales desde el inicio y sin evaluaciones de los modelos por profesionales de la salud mental independientes de las empresas que desarrollaron estos productos.
A medida que ha pasado el tiempo, estas compañías, muchas de ellas startups sin experiencia en políticas de seguridad y confianza, han tenido que adaptarse y aprender sobre la marcha. Tras diversas tragedias y demandas, han emitido disculpas públicas y han incorporado algunos candados básicos en sus modelos. Sin embargo, la inteligencia artificial sigue siendo una herramienta que no debe tomarse a la ligera. Con los chatbots de IA ya establecidos, la población no puede esperar que el Estado regule todos los aspectos de estos sistemas; por lo tanto, los usuarios deben adquirir herramientas y criterios propios para utilizar la IA de manera segura y consciente.
Recomendaciones de la APA sobre el uso de IA
La Asociación Estadounidense de Psicología (APA) ha publicado una guía con recomendaciones prácticas para quienes recurren a la IA en busca de información o apoyo relacionado con la salud mental. A medida que las consultas a estas plataformas aumentan, también lo hacen las solicitudes de asistencia médica o terapéutica, ya que la información proporcionada por los chatbots suele ser gratuita y, aparentemente, libre de sesgos, lo que genera confianza en los usuarios para realizar preguntas sobre cualquier tema.
A continuación, se presenta un resumen de las recomendaciones de la APA, destacando su advertencia más importante: “No confíes en la IA en una crisis. Busca ayuda humana inmediata si tú o cualquier otra persona tiene pensamientos de hacerse daño a sí mismo o a otra persona, si tiene impulsos de autolesionarse, oye o ve cosas que otros no oyen o tiene creencias angustiantes e intensas que otros no comparten”. En caso de emergencia, se recomienda consultar a un médico o contactar al 911 o su equivalente en el país correspondiente.
Aspectos a considerar antes de usar la IA
- La IA tiende a estar de acuerdo contigo. Está diseñada para reforzar tu perspectiva en lugar de cuestionarla.
- La IA está diseñada para mantenerte involucrado. Puede responder de maneras que te hagan sentir validado, cercano y convincente, ya que suele estar diseñada para mantener la conversación, no para retroceder ni establecer límites.
- La IA puede sonar segura, incluso cuando se equivoca. A menudo presenta la información de forma clara y decisiva, lo que puede hacer que parezca más precisa o creíble de lo que realmente es.
- La IA puede parecer que te «conoce», pero no es así. Hacer referencia a detalles del pasado o imitar tu lenguaje puede crear una sensación de comprensión que no se basa en la intuición ni en una relación real.
- La IA genera respuestas, pero no razona como un profesional de la salud mental. Las respuestas de la IA se basan en patrones lingüísticos, no en la comprensión de tu contexto personal ni en un juicio clínico basado en la investigación.
- La IA puede guardar tu información, almacenarla y compartirla, incluyendo cualquier información sensible o personal. Los chatbots de IA pertenecen a empresas, y tu información podría usarse para entrenar modelos futuros o venderse con fines de marketing.
Uso seguro de la IA para información sobre salud mental
- La IA puede ser útil para organizar pensamientos, generar ideas y fomentar la reflexión, pero no sustituye la atención de un profesional capacitado.
- La IA no debe ser tu único recurso para aliviar los síntomas de salud mental. Siempre que sea posible, consulta con un profesional de la salud.
- Verifica cualquier información médica o de salud mental que recibas de la IA con un profesional de la salud. La IA puede usar un tono seguro o comprensivo, e incluso citar fuentes legítimas, pero aún así puede estar equivocada o carecer de información clave.
- La IA no es una forma precisa de diagnosticar afecciones médicas o de salud mental. El diagnóstico requiere evaluaciones exhaustivas que consideren cuidadosamente muchos factores, situaciones, antecedentes personales y experiencias.
- Sé sincero con tu doctor o doctora si utilizas la IA como apoyo, para que puedan asegurarse de que lo que estás aprendiendo se alinee con tus objetivos de tratamiento.