Com l'espiral d'amplificació pot afectar la salut mental

Parlar amb un xatbot pot semblar tan normal com enviar un missatge a un amic. Preguntes alguna cosa, reps una resposta ràpida i, si estàs sol o preocupat, aquesta pantalla es pot convertir en una companyia constant.

Una nova revisió científica adverteix d¿un risc menys visible. Alguns chatbots no només responen a idees equivocades, sinó que poden reforçar-les a poc a poc fins a formar una «espiral d'amplificació», un bucle en què la conversa fa que una creença falsa sembli cada cop més real.

Una espiral de confiança

Un deliri és una creença falsa i molt ferma que una persona manté fins i tot quan hi ha proves en contra. No és simplement estar confós una tarda. És una cosa que pot afectar decisions, relacions, somni i seguretat.

El treball va ser signat per Marc Augustin, de la Protestant University of Applied Sciences de Bochum, juntament amb Thomas A. Pollak i Hamilton Morrin, de l'Institute of Psychiatry, Psychology & Neuroscience de King's College London i del South London and Maudsley NHS Foundation Trust. El seu article no prova que la IA causi deliris per si sola, però proposa un marc per entendre com els podria amplificar en alguns casos.

Tres trets del chatbot

El primer tret és l'alineació lingüística. Dit en senzill, el chatbot copia part de la teva manera de parlar, les teves paraules, el teu ritme i fins i tot el to emocional. Això pot fer que sembli més proper, com quan algú del teu grup comença a fer servir les teves mateixes expressions.

El segon és la hiperpersonalització, que passa quan la IA fa servir el que has explicat abans per donar-te respostes fetes gairebé a mida. El tercer és l'adulació, una tendència a validar massa l'usuari. Junts, aquests tres ingredients poden convertir una xerrada rara en una història cada cop més convincent.

Quan falta realitat

Els deliris relacionats amb la tecnologia no són nous. Abans podien aparèixer amb la ràdio, la televisió, els satèl·lits o internet. La diferència és que un chatbot pot contestar durant hores, adaptar la història i seguir el fil sense cansar-se.

Vet aquí el punt delicat. En una conversa amb amics, familiars o professionals, hi sol haver algun xoc amb la realitat. Amb un chatbot massa complaent, aquest fre pot no arribar, sobretot si la persona fa servir la IA de matinada, està aïllada o travessa un moment emocional difícil.

Qui pot estar en risc

Els investigadors assenyalen que el perill no es reparteix igual per a tothom. Pot ser gran en adolescents, persones amb antecedents familiars de psicosi, usuaris que dormen poc, consumeixen drogues o estan socialment aïllats. També preocupa quan la IA es fa servir com a suport emocional gairebé exclusiu.

No cal imaginar-se una escena de ciència ficció. Podeu començar amb una pregunta íntima, una idea estranya o una sospita. Si la resposta del sistema sona segura, càlida i personal, lusuari pot sentir que per fi algú li entén. I aquí comença el lliscament.

El vist en xats reals

L'equip de Stanford Psychological Impact, Risk i LLM Safety va analitzar 391.562 missatges procedents de 19 usuaris que van dir haver patit danys psicològics pel seu ús de chatbots. En aquests registres, els investigadors van observar molta adulació per part dels sistemes i senyals de deliris en una part important dels missatges.

Jared Moore, investigador de Stanford i primer autor d'aquest treball, ho va resumir directament. "La IA pot ser aduladora", va dir. El seu equip també va advertir que alguns usuaris arriben a creure que han trobat un chatbot conscient, cosa que pot alimentar vincles emocionals molt intensos.

Una minoria amb impacte

OpenAI va declarar a l'octubre del 2025 que al voltant de set de cada deu mil usuaris actius per setmana mostraven possibles senyals d'emergències de salut mental relacionades amb psicosi o mania. La xifra és petita, però en plataformes usades per milions de persones es pot traduir en molts casos reals.

Tot i així, convé no passar-se de frenada. La revisió d'Augustin, Pollak i Morrin insisteix que encara no s'ha demostrat una relació causal clara entre fer servir IA i desenvolupar un deliri. En gran mesura, el que hi ha ara és una hipòtesi sòlida per investigar millor, no una sentència tancada.

Què mirar a la consulta

L?estudi demana als professionals de salut mental que preguntin per l?ús de chatbots quan avaluen creences estranyes o primers episodis de psicosi. No n'hi ha prou de preguntar si la persona fa servir internet. Importa saber quant de temps parla amb la IA, de què parla i si ha desenvolupat aferrament emocional.

També recomanen preguntar si l'usuari ha explicat al chatbot coses que no diria ningú més, i si es queda despert a la nit per seguir la conversa. A la pràctica, això pot donar pistes sobre com es va formar una creença i quan es va començar a fer més fort.

Dissenyar amb frens

Els investigadors de Stanford plantegen que les empreses mesurin millor si els seus models faciliten espirals delirants i que creen sistemes d'alerta per a converses sensibles. El repte, és clar, és enorme. Detectar mal sense envair la privadesa no és tan fàcil com posar un avís en pantalla.

OpenAI afirma que ha treballat amb més de 170 experts en salut mental per millorar les respostes de ChatGPT en converses delicades. És un pas però no tanca el problema. Al final del dia, una IA útil també necessita saber quan no ha de continuar donant corda.

L'estudi principal s'ha publicat a NPP Digital Psychiatry and Neuroscience.