Inteligencia Artificial y salud mental: ¿Puede ChatGPT sustituir a tu psicólogo?
¿Puede un algoritmo con sesgo tener validez diagnóstica y de tratamiento en el terrero de la salud mental?
Con esta curiosa pregunta las comunicadoras Nuria Prieto y Núria Teuler daban inicio a un nuevo episodio de sus MetaTalks en LinkedIn, en este caso, enfocada en la relación entre la salud mental y la inteligencia artificial (IA).
La presencia de sesgos en estas tecnologías es innegable y constituye un tema crítico y ampliamente debatido en su desarrollo. Diversos factores contribuyen a esta problemática, entre ellos, el uso de conjuntos de datos de entrenamiento sesgados y las decisiones tomadas durante el diseño de algoritmos.
Un caso particularmente polémico en los últimos años ha sido la hipersexualización presente en los avatares generados por la aplicación Lensa AI. La periodista Melissa Heikkila resaltó en un artículo de MIT Technology Review que, mientras los hombres recibían versiones animadas de sus rostros como políticos o superhéroes, las mujeres obtenían representaciones hipersexualizadas, especialmente si tenían rasgos asiáticos.
La aplicación había sido entrenada para crear avatares a partir de imágenes de mujeres en Internet, las cuales ya reflejaban los sesgos de género existentes hoy en día en la sociedad. De este modo, la IA replicó estas desigualdades en el ámbito virtual.
En el área de la salud mental, la validez de la IA se basa en la posibilidad de ofrecer grandes cantidades de resultados precisos y equitativos. No obstante, la utilización de algoritmos con sesgos presenta riesgos de discriminación, aumentando la probabilidad de diagnósticos incorrectos o tratamientos inapropiados para grupos específicos. Pero, ¿son estas herramientas tan poderosas como para reemplazar a profesionales de la salud?
Durante la interesante conversación, pudimos escuchar diferentes posturas ante esta pregunta gracias a expertos como Pedro Lozano, cofundador de Imascono; Nati Chichón, CEO de Mential.io Fem Tech; el senior advisor Jaime del Barrio y la psicóloga e investigadora de Factor Humano en IA Helena García.
En especial, hubo tres ideas que llamaron poderosamente mi atención:
1️⃣¿Cuál es el papel de la tecnología? La influencia de la IA en nuestras vidas ha generado un amplio debate, desde la perspectiva de que la inteligencia artificial podría restarnos empleos hasta la visión optimista que la considera el mejor invento jamás creado.
Los ponentes destacaron que la tecnología puede desempeñar un papel crucial como complemento, no como sustituto. De esta manera, confirmaban la idea que nos explicaba hace apenas unas semanas en el blog la experta en tecnología XR Jimena Tormo: es importante concebir la tecnología no como una sustitución de la humanidad o nuestras habilidades, sino como una herramienta complementaria que busca liberarnos de tareas rutinarias y facilitar nuestro progreso.
La liberación de algunas de estas obligaciones nos permitiría centrarnos en aspectos más complejos de nuestro trabajo. Pero, en todo caso, sin sustituir la labor que realizamos como personas.
💡IDEA: La tecnología es una herramienta de colaboración, no de sustitución
2️⃣¿Quién controla nuestros datos? A pesar de sus ventajas, uno de los aspectos críticos que surgió fue el control de los datos. Las inteligencias artificiales operan dentro del marco empresarial, convirtiéndose en un producto.
Por ello, surge la interrogante sobre quién tiene el control de los datos generados por la IA. En su mayoría, son las empresas del ámbito privado las que cuentan con el capital, los recursos y la motivación para explorar y desarrollar estas tecnologías, impulsando su crecimiento y potencial.
Por el contrario, las administraciones públicas, como se ha evidenciado en los últimos años, suelen quedarse rezagadas en la adopción de estas tecnologías (al menos en aquellas más recientes).
Es cierto que, tanto las empresas públicas como las privadas deben proporcionar una rigurosa protección de datos en beneficio de los usuarios.
Pero en un momento en el que la regulación de la inteligencia artificial no abarca todos estos aspectos, la inseguridad sobre la gestión y seguridad de estos datos plantea barreras a superar, especialmente dada la historia de brechas de seguridad y explotación de datos con fines lucrativos por parte de empresas privadas.
💡IDEA: La pregunta no es solo quién controla los datos, sino cómo se garantiza la seguridad de los pacientes en un mundo cada vez más impulsado por la IA
3️⃣Diferentes perspectivas según la generación. La respuesta a la pregunta inicial sobre si ChatGPT puede desempeñar el papel de psicólogo puede variar notablemente según la generación considerada.
Las generaciones más jóvenes tienden a mostrar una mayor aceptación y disposición para confiar en la IA. Como nativos digitales, perciben la IA como una herramienta eficaz y accesible para resolver sus dudas, lo que podría facilitar el considerar esta tecnología como una herramienta complementaria (no sustitutiva) para obtener apoyo emocional.
No es la primera vez que estas generaciones digitales utilizan las nuevas tecnologías con fines más sociales o personales. En 2021, investigué durante mi trabajo de grado el establecimiento de Twitch y Discord como nuevos medios de acompañamiento para jóvenes de 15 a 25 años, con el objetivo de mitigar la soledad.
Los resultados revelaron un aumento de la soledad entre los jóvenes, confirmando el papel social tradicional de la radio y la televisión como medios acompañantes. Además, se ratificó el aumento del uso de nuevas tecnologías, especialmente Twitch y Discord en la juventud con el mismo objetivo.
En contraste, las generaciones mayores son menos propensas a confiar en entidades digitales para cuestiones emocionales, influenciadas por experiencias y valores diferentes.
Es curioso como, mientras que nuestras abuelas sintonizaban la radio y nuestras madres encienden la televisión, nuestra generación recurre cada vez más a las redes sociales y nuevas tecnologías, aprovechando las inteligencias artificiales disponibles para conectarse.
💡IDEA: la diferencia generacional implica una percepción muy diferente en el empleo de la IA como un recurso psicológico
Después de varios días meditando esta información, aún no tengo una conclusión cerrada sobre los temas tratados durante la conferencia. Apoyo la idea de que la IA puede ofrecer muchas ventajas en nuestro entorno laboral, sin sustituir nuestra labor ni juicio.
Sin embargo, enfocado al campo de la salud mental, creo que todavía es necesario un gran desarrollo y una mayor investigación para averiguar cómo esta tecnología puede actuar verdaderamente como un suplemento, una ayuda, a los profesionales de la salud, de manera ética, justa y, ante todo, profesional.
❓¿Qué opinas tú? ¿Crees que la IA podría ayudar en el campo de la psicología?
Únete a la comunidad
Recibe el contenido más cool directamente en tu bandeja de entrada❤️🔥