“Hi ha coses que van molt més enllà de les dades. Que un pacient deixi de tenir por dependrà molt del professional en qui confiï”

“La IA no depèn només de què, tècnicament, sigui correcta, també depèn de l’expertesa de qui la fa servir i de les dades que l’alimenten”

“Hem de saber ponderar bé el que ens diu la IA. La medicina sempre es basa en l’opció més prudent i més ponderada. Sabem que massa medicina pot fer mal”

“Amb la IA, ens caldrà saber dialogar amb els pacients i generar confiança, per tant, necessitem metges molt ben formats en raonament i criteri clínic”

Montserrat Esquerda (Lleida, 1969) és pediatra a l’Hospital Sant Joan de Déu Terres de Lleida, presidenta de la Comissió de Deontologia del Consell de Col·legis de Metges de Catalunya (CCMC) i degana de la Facultat de Ciències de la Salut de Blanquerna – Universitat Ramon Llull (URL). Esquerda ha coordinat el document Recomanacions deontològiques sobre l’ús de la intel·ligència artificial en medicina, publicat el juny passat pel CCMC. En aquesta entrevista reflexiona sobre els reptes que la IA planteja als professionals en la pràctica diària i sobre l’impacte d’aquesta tecnologia en els principis ètics i deontològics de l’exercici de la medicina.

Es parla molt de tot el que pot aportar la IA a la medicina, però potser s’ha posat poca atenció en l’impacte que té des del punt de vista de l’ètica i la deontologia?

Sí, parlem molt d’IA de desenvolupament, de precisió, d’entrenament de dades… de com aconseguim les dades, etc. Aquests són aspectes tècnics i és bo que, com a metges, els coneguem. Però es parla menys de tot el que hem de preveure i de quin impacte pot tenir la IA a les nostres consultes i en el dia a dia dels nostres pacients. I això és fonamental. Aquí cal que hi siguem els metges i metgesses, perquè som els que coneixem més les nostres consultes i els nostres processos. Kranzberg ja va dir que la tecnologia no és bona ni dolenta, ni tampoc neutral. Hi ha molta gent que diu que la IA serà bona si l’apliquem bé. Ara bé, encara que l’apliquem bé, tindrà un impacte i modificarà allò que fem. Per tant, no és neutra. El fet d’introduir tecnologia en qualsevol procés, de la medicina o de la vida, canviarà aquest procés. El més important és poder controlar aquest canvi, perquè s’ajusti al que ens agradaria que fos des dels punts de vista ètic i deontològic.

Hi ha qui afirma sense embuts que la IA substituirà el metge. Fins i tot hi ha algun estudi en què s’ha comparat l’empatia de la IA amb la del professional… Què en penses?

L’historiador israelià Yuval Noah Harari va popularitzar una frase: “La IA substituirà els metges, però no les infermeres”. I afegeix que els metges el que fan és recollir dades, interpretar patrons i donar resultats. La meva sensació és que Harari no coneix l’àmbit sanitari. És veritat que hi ha una part d’allò que fa el metge que podem automatitzar mitjançant la IA. Però la tasca completa del metge no es podrà substituir de cap manera. Perquè hi ha molts aspectes que són relacionals, que van molt més enllà de les dades. És important el vincle i la confiança que puc tenir amb un metge empàtic per explicar-li-ho tot. Tots sabem que la IA és literal, però les persones no ho són. La IA podrà substituir una part d’allò que fem i això fins i tot serà positiu perquè arriba un punt que no podem controlar certa quantitat de dades. Però la funció del metge no la podrà substituir mai.

Hi ha metges que miren poc als ulls del pacient perquè sempre escriuen a l’ordinador. Aquesta és una queixa freqüent. Vist amb perspectiva, molts metges comenteu que no vau estar prou presents en el procés de digitalització i que el resultat ha estat aquesta burocratització. Què voleu dir exactament? Pot repetir-se aquesta absència davant la introducció de la IA?

La història clínica digitalitzada ens ha portat moltes millores: seguretat del pacient, coordinació, reducció d’errors, etc. Però es va desenvolupar sense tenir en compte el procés i això és el que hem d’evitar amb la IA. Recordo l’època en què ens van dir: “La història clínica digital alliberarà temps”. Després hem vist que col·locar una història et modifica la consulta: el temps que tenim i els clics que hem d’anar revisant ens modifica la relació amb el pacient. Hi ha moltes persones que fan el comentari “El metge no em va mirar la cara, només mirava l’ordinador”. I això parteix d’un error que no podem repetir amb la IA. Es va incorporar la història a les consultes com un producte, sense tenir en compte tot allò que modificaria dins de la interacció amb el pacient. Si s’haguessin fet proves i estudis de com incorporar-la, segurament aquest desplegament hauria estat millor. Necessitem els metges que s’han format en IA i, segurament, en necessitem més, perquè ajuden a desenvolupar el producte. Però, després, necessitem que el metge de base s’incorpori a aquests processos. Metges que, sense conèixer tan a fons què és una IA i com funciona, rebin el producte a la seva consulta i el testegin. La IA s’ha d’incorporar com a procés, perquè així podrem afinar una part dels erros que pugui plantejar. I això significa que necessitem metges implicats en això.

La IA, com qualsevol altre producte, s’ha d’avaluar. Aquesta és una assignatura pendent?

La revista Nature va analitzar 4.000 eines d’IA en salut i la conclusió va ser que molt poques estaven testejades. Normalment, una IA s’entrena amb un pool de dades i l’avalues amb unes dades que has guardat d’aquest mateix pool. Però això és una obvietat, perquè les IA són bones amb les bases de dades que les han entrenat. Si canviem aquestes bases de dades, podem començar a trobar dificultats. Per això, les IA s’han d’entrenar en temps real i no només valorar-ne l’eficàcia i seguretat, sinó també el seu desplegament i impacte en la consulta. Això és fonamental. I encara hi ha un altre aspecte a tenir en compte: fins i tot una IA ben entrenada oferirà resultats que dependran molt de si el metge és expert o no. Davant d’una mateixa IA que ens faci unes recomanacions, un professional expert podrà ponderar bé quin valor tenen, però un resident de primer any, segurament, no tindrà encara prou experiència per avaluar bé aquestes recomanacions. La IA no depèn només de què, tècnicament, sigui correcta, també depèn de l’expertesa de qui la fa servir i de les dades que l’alimenten.

Quin és el risc que la IA acabi amplificant biaixos que, de fet, ja existeixen en medicina?

Un biaix és un mecanisme cognitiu d’estalvi d’informació. Com que no ho podem processar tot, agrupem la informació. Tots els humans som esbiaixats. En medicina, agrupar informació ens ha donat com a resultat una sèrie de biaixos, que apareixen en les dades amb les quals s’entrenen les IA. Moltes vegades tenim la sensació que una IA ha de ser quelcom més objectiu i que ens n’hem de fiar més, però, realment, amplifica el biaix de les dades que l’han entrenat.

Un altre risc que apunta el document que heu elaborat des del CCMC és que els metges perdin determinades competències, que no les arribin a assumir mai o que les aprenguin malament. Caldria protegir i mantenir aquelles competències essencials?

De fet, això no passa només en medicina, també és una preocupació que es planteja amb els joves en general. De la mateixa manera que dèiem que el cervell agrupa informació, el cervell també tendeix a l’estalvi cognitiu: si hi ha coses que puc substituir, aviat les deixaré de fer. Hi ha tres conceptes interessants: el neverskilling, que es dona quan jo mai he assumit una competència perquè no m’ha fet falta; el deseskilling, que es refereix a alguna cosa que sabia fer i que ara ja no; i el misskilling, quan, directament aprenc malament una competència. I, en medicina, no ens podem permetre cap de les tres. Primer, és important aprendre i adquirir les competències i, després, fer servir la IA. Ja hem vist que cal fer primer l’aprenentatge, perquè, tot i que es pot produir un deseskilling, també es poden recuperar aquestes competències. Però, si mai he après alguna cosa, serà molt difícil que la pugui fer.

La presa de decisions compartides entre metge i pacient ha estat un avenç molt important dels últims anys en medicina. Aquest tipus de relació es pot mantenir quan el pacient que arriba a la consulta resulta que ja ho ha preguntat tot abans a la IA?

Jo aquí soc optimista i crec en aquest model deliberatiu, que, des de la bioètica, fa anys que estem intentant fomentar, però que costa molt consolidar. És un model que parteix del fet que jo, com a professional, he de donar al pacient el màxim d’informació possible que pugui entendre i, a partir d’aquí, ajudar aquella persona a deliberar quina és la millor opció. Ara, amb la IA, la persona ja ens vindrà amb la informació i nosaltres l’haurem d’ajudar amb tota aquesta feina de ponderació per tal d’arribar a prendre decisions prudents. Si no ho fem així, tenim un risc seriós de sobrediagnòstics o sobretractaments. Sabem que massa medicina també pot fer mal. De fet, els grans journals de medicina ja van començar fa temps amb les campanyes de less is more o choosing wisely. Un exemple: en qualsevol diagnòstic diferencial ens apareixerà gairebé sempre un 0,001% de probabilitat oncològica. Això si t’ho diu la IA, esbiaixarà molt i generarà molta angoixa innecessària a la gent. Hem de saber ponderar bé. Tenim la sensació que fer és sempre millor que no fer, però això no sempre és real. La medicina es basa en quina opció és la més prudent i la més ponderada.

Quan un pacient llegeix la paraula càncer s’encenen les alarmes i l’angoixa…

Per això serà encara més necessària la relació de confiança. Si s’aconsegueix tenir aquesta relació de confiança amb el teu metge referent, hi ha certes coses que només es podran gestionar amb ell. Que un pacient deixi de tenir por, dependrà molt que el professional en qui confiï li expliqui bé les coses i li ajudi a interpretar-les i a entendre-les.

El metge és un professional que es caracteritza, entre altres coses, per tenir un alt grau de responsabilitat. Es pot delegar aquesta responsabilitat en una eina d’IA?

Sempre que hi hagi intervingut el metge, la responsabilitat és seva. Amb la IA, cada vegada es parla més, en àmbits sensibles, de human in the loop, és a dir, que la persona ha d’estar al darrere. Hi ha coses que no es poden automatitzar, per això hem de tenir molt clar que la IA pot ser un suport, però hem de tenir els coneixements i les habilitats per entendre si aquest suport l’hem de ponderar o no, perquè la decisió és nostra. A vegades, aquesta delegació automàtica quan utilitzem la IA, pot fer que es vagi devaluant la part de criteri. Amb la IA, ens caldrà saber dialogar amb els pacients i generar confiança. Per tant, ens caldran metges molt ben formats en raonament i criteri clínic, prudència i judici. Perquè fer una aplicació acrítica de la IA pot produir dany.