Salud Mental IA - ChatGPT - Implicaciones éticas, sociales e individuales

Introducción

Hace poco fui a un evento en el que varias startups presentaban sus productos. De las casi 15 empresas que había, 12 o 13 de ellas hablaban sobre Inteligencia Artificial.

El servicio que me hizo saltar las alarmas del pensamiento crítico fue un servicio que quiere ofrecer un psicólogo virtual en forma de chatbot. Me saltan un montón de preguntas.

Inteligencia Artificial Generativa

En los discursos se mencionaba Inteligencia Artificial. Todos los emprendedores se referían a la Inteligencia Artificial Generativa. No lo decían explícitamente, pero se podía intuir por el contexto.

¿Qué es la Inteligencia Artificial Generativa (IA gen)?

Vayamos a ver qué dice AWS en su página web sobre la IA generativa:

La IA generativa, o IA gen, es un tipo de inteligencia artificial (IA) capaz de crear nuevos contenidos e ideas, como imágenes y videos, así como de volver a utilizar aquello que sabe para resolver nuevos problemas.

La definición describe que la IA generativa es capaz de crear nuevos contenidos e ideas. Es decir, es capaz de crear contenido de la nada. ¿Cómo es posible?

¿Qué es la Inteligencia Artificial?

La definición que más me convence de todas las que he buscado es la definición que se encuentra en la Wikipedia: Wikipedia - Inteligencia artificial

En el contexto de las ciencias de la computación, es una disciplina y un conjunto de capacidades cognoscitivas e intelectuales expresadas por sistemas informáticos o combinaciones de algoritmos cuyo propósito es la creación de máquinas que imiten la inteligencia humana para realizar tareas, y que pueden mejorar conforme recopilen información.

La definición explica que es una ciencia que se encarga de crear algoritmos que imiten la inteligencia humana con el fin de realizar tareas y que puedan mejorar.

¿Cómo se generan estos algoritmos?

La Inteligencia Artificial tiene origen humano

La IA no es un producto que sale de la nada. Es un producto que necesita de datos de entrada. En base a esos datos, se entrena un modelo que es capaz de realizar tareas que un humano puede hacer

**En algún momento el humano ha tenido que hacer una tarea similar en el mundo material para que la IA pueda aprenderlo.

Del proceso creativo que usa la inteligencia humana, se ha abstraído la lógica racional para que una máquina pueda imitar ese proceso.**

Posteriormente, hemos ido mejorando modelos existentes para que sean más eficientes y rápidos. La parte de mejora parece que es innata a lo largo de la humanidad. Siempre intentamos mejorar lo que ya tenemos. A veces con mayor o menor fortuna tanto para la sociedad como para el individuo.

Polarización

La IA ha llegado en un momento donde las grandes tecnológicas han conseguido polarizar a la sociedad.

Vender nuestro tiempo a cambio de ver publicidad ha salido gratis. Ahora estamos devolviendo ese tiempo con intereses.

¿Las redes sociales han polarizado a la sociedad o la sociedad ha polarizado a las redes sociales?

No sé responderte la verdad. Esta pregunta me recuerda a la pregunta de qué es antes, el individuo o la sociedad, tratado por varios autores a lo largo de la historia como Jean-Jacques Rousseau, Thomas Hobbes o Friedrich Nietzsche.

Si te apetecen estos temas puedes ver la entrevista al filósofo José Carlos Ruiz en el vídeo Filosofía para cuestionar el mundo que nos rodea. Algunos ejemplos como el mito de Narciso los saco de la entrevista.

Redes Sociales

Las redes sociales han abierto un paradigma donde por primera vez en la historia de la humanidad, podemos crear un nuevo contexto e intentar crear un yo diferente. Al menos de cara a los demás.

Creamos un avatar que nos representa en la red. Un yo idealizado de lo que creemos que podemos ser para que otros nos perciban de esa forma. Ganamos seguidores. Ganamos likes. Ganamos dinero. Ganamos poder. A veces huimos de la realidad material para refugiarnos en la realidad virtual.

Pero, ¿qué pasa si perdemos todo eso? ¿Y si perdemos la conexión con la realidad? ¿Perdemos la conexión con nosotros mismos?

Para responder a esta pregunta vayamos a ver el mito de Narciso.

El mito de Narciso

Liríope era una ninfa de gran belleza que habitaba en un río y fue seducida por Céfiso. De su unión nació Narciso, un joven de belleza extraordinaria.

Preocupada por el destino de su hijo, Liríope consultó al famoso adivino Tiresias para saber si Narciso viviría una vida larga. Tiresias profetizó:

Vivirá hasta una edad avanzada, siempre y cuando no se conozca a sí mismo.

Narciso creció y se convirtió en un joven de gran belleza. Muchas ninfas y donceles se enamoraron de él, pero él los rechazó a todos.

Un día se encontró con la ninfa Eco en el bosque. Eco era una ninfa que había sido castigada por Hera por hablar demasiado. Hera le había quitado la capacidad de hablar y solo podía repetir las últimas palabras de lo que alguien le decía.

La comunicación fue imposible con Narciso. Aun así, Eco se enamoró de Narciso y él la rechazó. Eco se retiró a las montañas y se consumió de amor hasta que solo quedó su voz.

En la versión de Ovidio, hay un joven rechazado por Narciso que suplica a los dioses que Narciso sienta lo mismo que él. Los dioses escuchan su súplica y hacen que Narciso se enamore de la primera persona que vea y no sea correspondido.

Narciso se acerca a un lago y se enamora del reflejo de sí mismo. Se queda mirando su reflejo hasta que muere de hambre y sed. Según José Carlos Ruiz, Narciso se ahoga en su propio reflejo en algunas versiones del mito.

¿Qué podemos aprender del mito de Narciso?

La primera lección es que nuestra imagen virtual puede acabar atrapándonos. Podemos acabar cegados por el reflejo de nosotros mismos y no ver más allá del reflejo virtual. Cuando desconectemos de la parte virtual nos sentiremos tan vacíos en el mundo físico que lo compensamos contemplando nuestro avatar.

La segunda lección es que debemos ser capaces de empatizar con los demás. Inconsciente e incapaz de conectar con la realidad más allá de su egocentrismo, Narciso causó dolor. Aunque no seamos conscientes, nuestras acciones tienen una repercusión en los demás.

La tercera lección es la idealización del yo puede llevarnos a la autodestrucción. Podemos acabar cayendo en la trampa de la perfección,un ideal fundamentalista que nos aleja de la esencia de nosotros mismos.

La soledad no buscada

Desde mi percepción es un sentimiento complejo que puede tener muchas causas. Alerta, no lo describo desde un punto de vista de un profesional de la salud mental. No lo soy. Lo describo desde mi punto de vista de observación y subjetiva.

En mi caso percibí la soledad de forma muy leve cuando tenía 27 años:

Falta de conexión con los demás. Paradójicamente, estaba desconectado conmigo mismo.
Es una percepción que genera la mente y es una percepción subjetiva.
La soledad no buscada es un sentimiento que puede llevar a la depresión.
Hay que diferenciarla de la soledad objetiva y buscada. Eso es un momento de introspección y reflexión.

Dicho esto, la soledad no buscada es una realidad cada vez más patente. Si necesitas argumentos objetivos, te dejo:

La soledad no se soluciona con más tecnología. La soledad se soluciona con más humanidad.

Chatbot psicólogo

Character.ai o Chates un servicio que te permite crear personajes e interactuar con ellos mediante un chat.

Lo preocupante viene de un artículo que afirma que Un bot ha recibido 78 millones de mensajes en menos de un año de usuarios que buscan ayuda con su salud mental.

La noticia confirma que la salud mental es un problema actual. Hay demanda de servicios de salud mental y hay oferta: psicología, coaching, mindfulness, meditación, yoga, libros de autoayuda…

Salud Mental CON ChatGPT para la salud mental

Es preocupante que un bot pueda recibir 78 millones de mensajes en menos de un año. Algunas preguntas desafiantes:

¿Qué pasa si el bot no entiende el problema?
¿Qué pasa si el bot responde con sesgo?
¿Son éticos los valores de los parámetros del bot?
¿Queremos como sociedad delegar la salud mental a las máquinas?
¿Qué hacemos como individuos para paliar todo esto?

Diagnóstico prematuro o urgente

Un bot detecta que una persona tiene tendencias suicidas. ¿Qué debería hacer el bot? ¿Cuál es el protocolo de actuación? ¿Debería avisar a las autoridades? ¿Debería avisar a la familia? ¿Debería avisar a un profesional de la salud mental?

Ni mucho menos pretendo desarrollar un protocolo de actuación. Solo lanzo preguntas para que alguien más capacitado venga y las resuelva.

Un planteamiento subjetivo inicial podría empezar como: La IA no puede sustituir a un profesional de la salud mental. Debe ser una herramienta de apoyo para que la persona pueda realizar su trabajo de forma más eficiente.

Mi base subjetiva es la siguiente:

Las decisiones humanas deben ser tomadas por humanos.
El cuadro clínico de una persona no es 1 o 0.
No podemos reducir la salud mental a un diagnóstico.
El diagnóstico puede ser erróneo si no se tiene en cuenta el contexto.
La IA no puede entender la parte emocional de una persona.

Para un diagnóstico prematuro o urgente estoy a favor del uso de la IA. Eso sí, con un criterio supervisado por un profesional humano y que respeta el tratamiento de datos legal y éticamente.

Cumplir con la legalidad es un mínimo necesario pero no suficiente. El criterio será suficiente si cumple con la ética.

No me gustaría que los datos de la gente fueran usados para vendernos viajes para desconectar, que el seguro de turno no me cubra X dolencia o que me ofrezcan zapatillas de deporte para estar en contacto con la naturaleza.

La IA no debe dar respuesta al contexto

Me considero una persona racional y quiero entender cómo funcionan las cosas desde la ciencia y un punto de vista lógico y materialista.

Sin embargo, quedarse solo con un punto de vista materialista hace que perdamos la mitad del juicio en la toma de decisiones.

La parte emocional es aquella que experimentamos cuando nos enamoramos, enfadamos, entristecemos, alegramos… ¿Cómo se explica esto desde el punto de vista material?

Los racionales puros te dirán que es una reacción química en el cerebro: causa y efecto. Yo opino que es una respuesta generalista, necesaria y no suficiente. Le falta su media naranja porque no explica la singularidad de cada individuo.

Parecido a lo que ocurre en programación. Las abstracciones son necesarias para entender problemas similares. Sin embargo, no podemos quedarnos solo con la abstracción. Necesitamos entender el contexto para poder resolver el problema y realizar una implementación. Un caso individual.

Las emociones solo pueden acabarse de entender desde la parte emocional y subjetiva. No pueden ser entendidas solo desde la parte racional. La parte racional debe ser un apoyo para medir desde el materialismo y luego entender la parte emocional.

Buscamos una respuesta racional. Si no la encontramos, generamos una respuesta escéptica fundada en un racionalismo puro que bloquee un criterio emocional. Nos creemos nuestra propia mentira y no resolvemos el problema.

No niego que la parte racional ayude a entender qué nos está pasando. Solo lo hace si tenemos conocimiento científico y asi hay diagnóstico o pruebas materiales.

En conclusión, la IA que es de base racional no puede darnos respuestas desde la emoción. Puede dar respuestas emocionales, ¿nos sirven respuestas emocionales de un ente no emocional?

Creo que va a dar respuestas de blanco o negro y se perderá en los grises.

Redefinir el modelo de sociedad

Imagina un flotador en una piscina. Era firme y hace unas semanas se ha empezado a hundir. La causa son pinchazos por estar en contacto con el agua. El agua ha ido mermando el estado del flotador.

¿Qué haces? ¿Lo sacas del agua? ¿Lo inflas primero? ¿Buscas la fuga? ¿Lo reparas o lo tiras a la basura?

Bajando la analogía:

El flotador es el individuo.
El agua es la sociedad.
La piscina son las reglas y límites sociales.
Los pinchazos son los efectos de la sociedad en el individuo.

Hemos prometido al individuo que la sociedad nos sustentará y nos hará flotar. La realidad es que la sociedad nos está hundiendo.

Sus presiones por todas partes acaban desquiciándonos. Nuestro aire se escapa en forma de soledad, depresión, ansiedad, estrés, burnout…

Al flotador le ponemos parches y lo devolvemos al agua. Cuando ya no se aguanta lo tiramos y otro nuevo.

Reinventar el flotador

Hemos olvidado cómo era el flotador:

Los mayores ya no son sabios. Son viejos.
La naturaleza ya no es nuestra madre. Es un recurso.
La comunidad ya no es un grupo de pertenencia. Es un grupo de interés.
Preferimos un viaje a pasar tiempo con nuestros seres queridos.
Buscamos respuestas en el exterior y no en el interior.
Si no piensas como yo, estás equivocado.

Hemos olvidado al individuo por falsa creencia de superioridad de nuestro tiempo, individualismo extremo, falta de pensamiento crítico y falsa sensación de abundancia. Delegamos responsabilidades sociales a la tecnología y ahora le toca el turno a la IA.

Debemos empezar a pensar cómo era el flotador. El primer paso es sacarlo de la piscina. No queremos que entre más agua. Una vez en suelo, lo secamos y buscamos la fuga.

Es momento para darnos cuenta que debemos reinventar el flotador. No queremos que se hunda más. Queremos que flote. ¿Qué tal si hacemos que sea un globo con helio en vez de aire? De esta forma va a poder flotar por sí mismo sin necesidad del agua de la piscina.

Para reparalo mi propuesta es volver a los orígenes humanos:

Escuchar y aprender la sabiduría de los mayores.
Respetar la naturaleza.
Transformar la comunidad en grupo de pertenencia.
Pasar tiempo con los seres queridos.
Buscar respuestas en el interior.
Aceptar la diversidad de pensamiento.
Ver la tecnología como herramienta y no como solución en sí mismo.

Cambiar la naturaleza intrínseca del individuo, permitirá escapar de la sociedad actual y

dar espacio para pensar en una sociedad diferente.