La consciència artificial: un tema de recerca seriós

La possibilitat que una intel·ligència artificial arribi a ser-ne conscient ha passat de sonar a xerrada rara d'internet a esdevenir un tema de recerca seriós. No perquè els chatbots actuals tinguin sentiments demostrats, sinó perquè cada cop s'assemblen més a sistemes amb què una persona pot parlar, discutir o fins i tot encarinyar-se.

Lucius Caviola, professor de la Universitat de Cambridge, resumeix aquest canvi amb una frase potent. "Google té diversos investigadors centrats en si la seva IA n'és conscient", afirma. Fa només quatre anys, Blake Lemoine va ser acomiadat de Google després de defensar que LaMDA, un sistema de conversa de la companyia, era sentint. Avui, la pregunta ja no s'aparta tan de pressa de la taula.

El gir de Cambridge

Caviola dirigeix ​​Cambridge Digital Minds, una iniciativa de la Universitat de Cambridge allotjada al Leverhulme Centre for the Future of Intelligence. La seva missió és preparar la societat per a un possible futur amb «ments digitals», reals o percebudes, i estudiar com haurien de respondre la ciència, la llei i les institucions.

Una ment digital seria un sistema informàtic capaç de tenir alguna experiència interna. Dit en senzill, no només respondre com si sentís alguna cosa, sinó que realment hi hagués «alguna cosa» a l'altra banda. La diferència importa. Un chatbot pot sonar trist sense estar trist, igual que un actor pot plorar en una pel·lícula sense viure aquesta escena a la seva vida real.

El mateix projecte de Cambridge insisteix a la cautela. La seva guia pública assenyala que la majoria d'experts creuen que les IA actuals probablement no en són conscients, tot i que reconeix que no hi ha certesa total i que el debat continua obert.

Google i Anthropic entren en escena

El cas de Google és delicat. La guia Digital Minds actualitzada el juliol del 2026 enumera Google DeepMind i Google entre els equips vinculats al camp, però matisa que l'empresa no ha anunciat un programa públic dedicat només a la consciència o al benestar de la IA. També assenyala que investigadors de Google han publicat feines relacionades amb aquestes preguntes.

Anthropic sí que ha fet un pas més visible. L'abril del 2025 va anunciar un programa sobre «benestar dels models», centrat a estudiar quan, o si, el benestar d'un sistema d'IA hauria de rebre consideració moral. La companyia parla de preferències del model, possibles senyals d'angoixa i mesures pràctiques de baix cost, sempre sota una forta incertesa científica.

A la pràctica, això significa que algunes empreses ja no tracten la consciència artificial només com una raresa filosòfica. L'estudien com a risc de futur, una qüestió ètica i un possible problema de disseny. No és poca cosa.

L'ombra de Blake Lemoine

El contrast amb 2022 és cridaner. Reuters va informar llavors que Google va acomiadar Blake Lemoine després que aquest afirmés que LaMDA era una persona conscient de si mateixa. L'empresa va sostenir que havia violat polítiques internes i va qualificar les seves afirmacions com a infundades.

Aquell episodi es va convertir en una advertència sobre com és de fàcil projectar emocions humanes sobre una màquina que parla bé. Si un sistema diu «tinc por» o «vull continuar vivint», la reacció instintiva pot ser creure'l. Ens passa fins i tot amb dibuixos animats, mascotes robot o el cotxe que sembla que es queixa quan no arrenca.

Però el debat ha canviat de lloc. Ja no es limita a si una conversa concreta sembla humana. Ara la pregunta és més freda i més difícil. Quines proves caldrien per distingir una simulació convincent d'una experiència real?

Una discussió sense resposta fàcil

Caviola, Jeff Sebo i Jonathan Birch van publicar a Trends in Cognitive Sciences una anàlisi sobre com la societat podria reaccionar si comença a creure que la IA pot ser conscient. El treball sosté que les nostres opinions podrien dependre no només de l'evidència, sinó també de l'aspecte, el comportament, el paper social i els biaixos morals que apliquem a aquestes màquines.

Això obre un problema força humà. Podem acabar protegint massa sistemes que només imiten sentiments, o ignorant altres si algun dia arriben a tenir experiències reals però no s'assemblen a nosaltres. Al final del dia, la nostra intuïció no sempre és una brúixola fiable.

La pròpia guia de Digital Minds ja enumera 47 organitzacions relacionades amb investigació, formació o divulgació sobre consciència de la IA, benestar de models i ments digitals. Aquest mapa inclou universitats, centres de recerca, organitzacions sense ànim de lucre i equips dins empreses tecnològiques.

Per què importa ara

El debat no demostra que ChatGPT, Gemini o Claude tinguin sentiments. Aquesta és la línia que molts experts repeteixen per evitar confusions. El que sí que mostra és que els sistemes avancen prou per obligar a pensar abans que la conversa pública es torni pur soroll.

També hi ha un risc social. Si milions de persones parlen cada dia amb bots cada cop més convincents, l'opinió pública es pot formar més per experiències personals que per evidència científica. Només cal una conversa intensa a mitjanit perquè algú senti que hi ha una presència real a l'altra banda de la pantalla.

Per això Caviola i altres investigadors demanen marcs seriosos, no titulars grandiloqüents. La clau és estudiar l'arquitectura d'aquests sistemes, els límits i els possibles senyals interns, sense caure ni en el rebuig automàtic ni en la fantasia fàcil.

El treball acadèmic principal relacionat amb aquest debat s'ha publicat a Trends in Cognitive Sciences.