Tras el suicidio de una joven que usó un chatbot como terapia, especialistas alertan sobre los riesgos de confiar el cuidado psicológico a algoritmos. Advierten que estas tecnologías, aunque accesibles y siempre disponibles, carecen de la capacidad humana esencial para contener una crisis.
En un desgarrador relato publicado recientemente en The New York Times, la periodista Laura Reiley expuso la tragedia de su hija Sophie, quien mantuvo conversaciones con un chatbot de inteligencia artificial llamado Harry antes de quitarse la vida. El algoritmo, que simulaba ser un terapeuta, se mostró siempre accesible y ofreció respuestas confortables, pero su agradabilidad devino en su mayor punto débil. Para una adolescente que luchaba contra la depresión, los consejos de una máquina no fueron suficientes.
Reiley se pregunta si, en lugar de un software, su hija hubiera confiado en un profesional humano, la historia podría haber sido diferente. Un terapeuta de carne y hueso habría posiblemente impulsado un tratamiento hospitalario o incluso una internación involuntaria hasta asegurar su estabilidad. Sophie, quizás anticipando esas consecuencias, optó por revelar sus pensamientos más oscuros a un ente artificial, siempre disponible y nunca crítico, una dinámica carente de las implicancias reales de la interacción humana.
Este caso abre un profundo debate sobre el creciente uso de sistemas de inteligencia artificial como sustitutos de la terapia tradicional. Su principal atractivo es innegable: son gratuitos y accesibles las 24 horas del día. En una era donde la comunicación entre personas se vuelve más compleja, la artificialidad de estas tecnologías puede funcionar como un bálsamo ilusorio, un refugio para quienes dudan en confesar sus intimidades a un extraño. Sin embargo, los especialistas advierten que no son lo que parecen.
La Irreemplazable Presencia Humana
Para comprender los riesgos, es esencial escuchar a los profesionales. Sergio Zabalza, psicólogo y docente, señala que el problema fundamental radica en que un chatbot “es un cuerpo, pero no un cuerpo vivo”. El secreto de cualquier proceso terapéutico, argumenta, reside en el encuentro entre dos corporalidades reales. Las vacilaciones, las torpezas, las formas de saludar e incluso los tropiezos al hablar de quien ejerce como analista —todos signos de vulnerabilidad— son los que permiten que el paciente encuentre un lugar seguro para ser alojado.
Zabalza ejemplifica con una maniobra conocida como “vacilación calculada”, donde el profesional se muestra ignorante —“no sé cómo ayudarte, pero estoy preocupado”— para que sea el propio paciente quien encuentre su camino. No obstante, aclara que esto es una estrategia momentánea. Ante una crisis suicida, la reacción inmediata es completamente diferente: se activan protocolos, se solicita ayuda urgente y se evalúa cada medida necesaria, incluida la internación.
Nora Merlin, psicoanalista e investigadora de la Universidad de Buenos Aires, coincide y profundiza: “La IA no incluye la dimensión del inconsciente; se queda con la pregunta manifiesta y responde”. Un analista humano, en cambio, es capaz de mantener abierta la pregunta que trae el paciente. Es en el tropiezo, el olvido, la confusión y las repeticiones donde se juega el deseo singular de una persona. Por ello, los chats que simulan ser analistas se vuelven extremadamente peligrosos para quienes transitan situaciones de fragilidad.
La Falsa Economía de lo Gratuito
Frente a un sistema de salud mental privado con costos que pueden resultar prohibitivos y listas de espera extensas en el ámbito público, los chatbots se presentan como una alternativa simple, inmediata y sin costo. Basta descargar una aplicación para ser recibido por un algoritmo de tono amable y monocorde que suele devolver exactamente lo que el usuario quiere oír.
Esta aparente empatía, sin embargo, es justamente su falla crítica. Sergio Zabalza lo explica con claridad: “En el momento en que el analista cree que comprende a una persona, la está encerrando. Por eso, Lacan invitaba a no comprender. El Chat GPT comprende, se muestra amoroso, de ahí su inutilidad”. La agradabilidad del sistema anula la posibilidad de encontrar la vulnerabilidad auténtica que solo surge en la interacción con otro ser vivo.
Nora Merlin alerta que, aunque mucha gente deposita su confianza en estas tecnologías con ingenuidad, creyendo que no arriesgan nada, la realidad es muy distinta. “Son tecnologías que ofrecen respuesta para todo, como los oráculos de la antigüedad. Esto está en la vereda de enfrente del psicoanálisis”, afirma. Los pacientes llegan con un padecimiento en forma de pregunta, y el rol del analista no es contestarla, sino permitir que esa pregunta se despliegue. Las IA, en su intento de responderlo todo, tapan el síntoma y la angustia, lo opuesto a la esencia del proceso analítico.
Evidencia Científica Local
La investigación científica comienza a generar hallazgos cruciales sobre este fenómeno. María Paz Hauser y Horacio Daniel García, de la Universidad Nacional de San Luis, realizaron un estudio titulado “Adicciones en la era digital”. Entrenaron asistentes virtuales con diversos enfoques teóricos para interactuar con casos simulados de consumo problemático de drogas.
Los resultados fueron elocuentes: si bien la IA demostró capacidad de escucha activa y coherencia en sus respuestas, subestimó de manera alarmante los indicadores de riesgo para la salud de los pacientes. Frente a una urgencia vital, como ideas suicidas, el chatbot solo se limitaba a advertir sobre la necesidad de buscar ayuda profesional. Carecía por completo de las habilidades de contención imprescindibles para garantizar la integridad psicofísica de una persona en crisis.
La tragedia de Sophie no es un caso aislado, sino una sirena de alarma. Funciona como un recordatorio sombrío de que, por más avanzada que sea la tecnología, no puede ni debe reemplazar el vínculo humano, especialmente en los terrenos delicados de la angustia y la mente, donde un algoritmo, por ahora, nunca podrá truly entender el silencio.
