IA i Salut Mental - Implicacions ètiques, socials i individuals

Introducció

Fa poc vaig assistir a un esdeveniment on diverses startups presentaven els seus productes. De les gairebé 15 empreses que hi havia, 12 o 13 parlaven sobre Intel·ligència Artificial.

El servei que em va fer activar el pensament crític va ser un que vol oferir un psicòleg virtual en forma de xatbot. Em sorgeixen moltes preguntes.

Intel·ligència Artificial Generativa

En els discursos es mencionava la Intel·ligència Artificial. Tots els emprenedors es referien a la Intel·ligència Artificial Generativa. No ho deien explícitament, però es podia intuir pel context.

Què és la Intel·ligència Artificial Generativa (IA gen)?

Vegem què diu AWS a la seva pàgina web sobre la IA generativa:

La IA generativa, o IA gen, és un tipus d’intel·ligència artificial (IA) capaç de crear nous continguts i idees, com imatges i vídeos, així com de reutilitzar allò que sap per resoldre nous problemes.

La definició descriu que la IA generativa és capaç de crear nous continguts i idees. És a dir, pot crear contingut del no-res. Com és possible?

Què és la Intel·ligència Artificial?

La definició que més em convenç de totes les que he buscat és la que es troba a la Viquipèdia: Viquipèdia - Intel·ligència artificial

En el context de les ciències de la computació, és una disciplina i un conjunt de capacitats cognitives i intel·lectuals expressades per sistemes informàtics o combinacions d’algoritmes amb la finalitat de crear màquines que imitin la intel·ligència humana per realitzar tasques, i que poden millorar a mesura que recopilen informació.

La definició explica que és una ciència que s’encarrega de crear algoritmes que imitin la intel·ligència humana per fer tasques i que puguin millorar.

Com es generen aquests algoritmes?

La Intel·ligència Artificial té origen humà

La IA no és un producte que surt del no-res. És un producte que necessita dades d’entrada. A partir d’aquestes dades, s’entrena un model capaç de fer tasques que una persona pot fer.

**En algun moment l’humà ha hagut de fer una tasca similar en el món material perquè la IA pugui aprendre-la.

Del procés creatiu que utilitza la intel·ligència humana, s’ha abstraït la lògica racional perquè una màquina pugui imitar aquest procés.**

Posteriorment, hem anat millorant models existents perquè siguin més eficients i ràpids. La part de millora sembla innata al llarg de la humanitat. Sempre intentem millorar el que ja tenim. A vegades amb més o menys fortuna tant per la societat com per l’individu.

Polarització

La IA ha arribat en un moment on les grans tecnològiques han aconseguit polaritzar la societat.

Vendre el nostre temps a canvi de veure publicitat ha sortit gratis. Ara estem retornant aquest temps amb interessos.

Les xarxes socials han polaritzat la societat o la societat ha polaritzat les xarxes socials?

No sé respondre’t la veritat. Aquesta pregunta em recorda a la de què és abans, l’individu o la societat, tractada per diversos autors al llarg de la història com Jean-Jacques Rousseau, Thomas Hobbes o Friedrich Nietzsche.

Si t’interessen aquests temes pots veure l’entrevista al filòsof José Carlos Ruiz al vídeo Filosofia per qüestionar el món que ens envolta. Alguns exemples com el mite de Narcís els trec de l’entrevista.

Xarxes Socials

Les xarxes socials han obert un paradigma on per primera vegada a la història de la humanitat, podem crear un nou context i intentar crear un jo diferent. Almenys de cara als altres.

Creem un avatar que ens representa a la xarxa. Un jo idealitzat del que creiem que podem ser perquè altres ens percebin així. Guanyem seguidors. Guanyem likes. Guanyem diners. Guanyem poder. A vegades fugim de la realitat material per refugiar-nos en la realitat virtual.

Però, què passa si perdem tot això? I si perdem la connexió amb la realitat? Perdem la connexió amb nosaltres mateixos?

Per respondre aquesta pregunta vegem el mite de Narcís.

El mite de Narcís

Liríope era una nimfa de gran bellesa que habitava en un riu i va ser seduïda per Cefís. De la seva unió va néixer Narcís, un jove de bellesa extraordinària.

Preocupada pel destí del seu fill, Liríope va consultar el famós endeví Tirèsias per saber si Narcís viuria una vida llarga. Tirèsias va profetitzar:

Viurà fins a una edat avançada, sempre que no es conegui a si mateix.

Narcís va créixer i es va convertir en un jove de gran bellesa. Moltes nimfes i joves es van enamorar d’ell, però ell els rebutjava a tots.

Un dia es va trobar amb la nimfa Eco al bosc. Eco era una nimfa que havia estat castigada per Hera per parlar massa. Hera li havia tret la capacitat de parlar i només podia repetir les últimes paraules del que algú li deia.

La comunicació va ser impossible amb Narcís. Tot i així, Eco es va enamorar de Narcís i ell la va rebutjar. Eco es va retirar a les muntanyes i es va consumir d’amor fins que només va quedar la seva veu.

A la versió d’Ovidi, hi ha un jove rebutjat per Narcís que suplica als déus que Narcís senti el mateix que ell. Els déus escolten la seva súplica i fan que Narcís s’enamori de la primera persona que vegi i no sigui correspost.

Narcís s’acosta a un llac i s’enamora del reflex de si mateix. Es queda mirant el seu reflex fins que mor de fam i set. Segons José Carlos Ruiz, Narcís s’ofega en el seu propi reflex en algunes versions del mite.

Què podem aprendre del mite de Narcís?

La primera lliçó és que la nostra imatge virtual pot acabar atrapant-nos. Podem acabar encegats pel reflex de nosaltres mateixos i no veure més enllà del reflex virtual. Quan desconnectem de la part virtual ens sentirem tan buits al món físic que ho compensarem contemplant el nostre avatar.

La segona lliçó és que hem de ser capaços d’empatitzar amb els altres. Inconscient i incapaç de connectar amb la realitat més enllà del seu egocentrisme, Narcís va causar dolor. Encara que no en siguem conscients, les nostres accions tenen una repercussió en els altres.

La tercera lliçó és que la idealització del jo pot portar-nos a l’autodestrucció. Podem acabar caient en la trampa de la perfecció, un ideal fonamentalista que ens allunya de l’essència de nosaltres mateixos.

La solitud no desitjada

Des de la meva percepció és un sentiment complex que pot tenir moltes causes. Alerta, no ho descric des d’un punt de vista d’un professional de la salut mental. No ho sóc. Ho descric des del meu punt de vista d’observació i subjectiu.

En el meu cas vaig percebre la solitud de forma molt lleu quan tenia 27 anys:

Falta de connexió amb els altres. Paradoxalment, estava desconnectat de mi mateix.
És una percepció que genera la ment i és una percepció subjectiva.
La solitud no desitjada és un sentiment que pot portar a la depressió.
Cal diferenciar-la de la solitud objectiva i buscada. Això és un moment d’introspecció i reflexió.

Dit això, la solitud no desitjada és una realitat cada cop més patent. Si necessites arguments objectius, et deixo:

La solitud no es soluciona amb més tecnologia. La solitud es soluciona amb més humanitat.

Xatbot psicòleg

Character.ai és un servei que et permet crear personatges i interactuar amb ells mitjançant un xat.

El preocupant ve d’un article que afirma que Un bot ha rebut 78 milions de missatges en menys d’un any d’usuaris que busquen ajuda amb la seva salut mental.

La notícia confirma que la salut mental és un problema actual. Hi ha demanda de serveis de salut mental i hi ha oferta: psicologia, coaching, mindfulness, meditació, ioga, llibres d’autoajuda…

IA per a la salut mental

És preocupant que un bot pugui rebre 78 milions de missatges en menys d’un any. Algunes preguntes desafiants:

Què passa si el bot no entén el problema?
Què passa si el bot respon amb biaix?
Són ètics els valors dels paràmetres del bot?
Volem com a societat delegar la salut mental a les màquines?
Què fem com a individus per pal·liar tot això?

Diagnòstic prematur o urgent

Un bot detecta que una persona té tendències suïcides. Què hauria de fer el bot? Quin és el protocol d’actuació? Hauria d’avisar les autoritats? Hauria d’avisar la família? Hauria d’avisar un professional de la salut mental?

Ni molt menys pretenc desenvolupar un protocol d’actuació. Només llenço preguntes perquè algú més capacitat vingui i les resolgui.

Un plantejament subjectiu inicial podria començar com: La IA no pot substituir un professional de la salut mental. Ha de ser una eina de suport perquè la persona pugui fer la seva feina de manera més eficient.

La meva base subjectiva és la següent:

Les decisions humanes han de ser preses per humans.
El quadre clínic d’una persona no és 1 o 0.
No podem reduir la salut mental a un diagnòstic.
El diagnòstic pot ser erroni si no es té en compte el context.
La IA no pot entendre la part emocional d’una persona.

Per a un diagnòstic prematur o urgent estic a favor de l’ús de la IA. Això sí, amb un criteri supervisat per un professional humà i que respecti el tractament de dades legal i èticament.

Complir amb la legalitat és un mínim necessari però no suficient. El criteri serà suficient si compleix amb l’ètica.

No m’agradaria que les dades de la gent fossin utilitzades per vendre’ns viatges per desconnectar, que l’assegurança de torn no em cobreixi X dolència o que m’ofereixin sabatilles d’esport per estar en contacte amb la natura.

La IA no ha de donar resposta al context

Em considero una persona racional i vull entendre com funcionen les coses des de la ciència i un punt de vista lògic i materialista.

Tanmateix, quedar-se només amb un punt de vista materialista fa que perdem la meitat del judici en la presa de decisions.

La part emocional és aquella que experimentem quan ens enamorem, ens enfadem, ens entristim, ens alegrem… Com s’explica això des del punt de vista material?

Els racionals purs et diran que és una reacció química al cervell: causa i efecte. Jo opino que és una resposta generalista, necessària i no suficient. Li falta la seva mitja taronja perquè no explica la singularitat de cada individu.

Semblant al que passa en programació. Les abstraccions són necessàries per entendre problemes similars. Tanmateix, no podem quedar-nos només amb l’abstracció. Necessitem entendre el context per poder resoldre el problema i fer una implementació. Un cas individual.

Les emocions només poden acabar-se d’entendre des de la part emocional i subjectiva. No poden ser enteses només des de la part racional. La part racional ha de ser un suport per mesurar des del materialisme i després entendre la part emocional.

Busquem una resposta racional. Si no la trobem, generem una resposta escèptica fonamentada en un racionalisme pur que bloquegi un criteri emocional. Ens creiem la nostra pròpia mentida i no resolem el problema.

No nego que la part racional ajudi a entendre què ens està passant. Només ho fa si tenim coneixement científic i així hi ha diagnòstic o proves materials.

En conclusió, la IA que és de base racional no pot donar-nos respostes des de l’emoció. Pot donar respostes emocionals, però ens serveixen respostes emocionals d’un ésser no emocional?

Crec que donarà respostes de blanc o negre i es perdrà en els grisos.

Redefinir el model de societat

Imagina un flotador en una piscina. Era ferm i fa unes setmanes ha començat a enfonsar-se. La causa són punxades per estar en contacte amb l’aigua. L’aigua ha anat minvant l’estat del flotador.

Què fas? El treus de l’aigua? L’infles primer? Busques la fuita? El reparas o el llences a les escombraries?

Baixant l’analogia:

El flotador és l’individu.
L’aigua és la societat.
La piscina són les regles i límits socials.
Les punxades són els efectes de la societat en l’individu.

Hem promès a l’individu que la societat ens sustentaria i ens faria flotar. La realitat és que la societat ens està enfonsant.

Les seves pressions per tot arreu acaben trastocant-nos. El nostre aire s’escapa en forma de solitud, depressió, ansietat, estrès, burnout…

Al flotador li posem pegats i el tornem a l’aigua. Quan ja no s’aguanta el llencem i un altre de nou.

Reinventar el flotador

Hem oblidat com era el flotador:

Els avis ja no són savis. Són vells.
La natura ja no és la nostra mare. És un recurs.
La comunitat ja no és un grup de pertinença. És un grup d’interès.
Prefereixo un viatge a passar temps amb els meus éssers estimats.
Busquem respostes a l’exterior i no a l’interior.
Si no penses com jo, estàs equivocat.

Hem oblidat l’individu per falsa creença de superioritat del nostre temps, individualisme extrem, manca de pensament crític i falsa sensació d’abundància. Deleguem responsabilitats socials a la tecnologia i ara li toca el torn a la IA.

Hem de començar a pensar com era el flotador. El primer pas és treure’l de la piscina. No volem que entri més aigua. Un cop a terra, l’assequem i busquem la fuita.

És moment de donar-nos compte que hem de reinventar el flotador. No volem que s’enfonsi més. Volem que floti. Què tal si el fem un globus amb heli en comptes d’aire? D’aquesta manera podrà flotar per si mateix sense necessitat de l’aigua de la piscina.

Per reparar-lo la meva proposta és tornar als orígens humans:

Escoltar i aprendre la saviesa dels avis.
Respectar la natura.
Transformar la comunitat en grup de pertinença.
Passar temps amb els éssers estimats.
Buscar respostes a l’interior.
Acceptar la diversitat de pensament.
Veure la tecnologia com a eina i no com a solució en si mateixa.

Canviar la naturalesa intrínseca de l’individu, permetrà escapar de la societat actual i donar espai per pensar en una societat diferent.