Júlia Pareto: «El gran risc ètic de la IA és l’abdicació de la llibertat humana»

Els avenços recents en intel·ligència artificial (IA) augmenten les expectatives sobre els potencials que té, però també els debats sobre els seus riscos. Júlia Pareto, doctora en Filosofia, és una de les pensadores que explora els desafiaments d’aquesta tecnologia des del vessant ètic. Treballa a l’Institut Universitari Europeu de Florència i a l’Institut de Robòtica i Informàtica Industrial (CSIC-UPC), investigant el desenvolupament d’aquests sistemes, especialment en l’àmbit social i assistencial. El 30 d’abril passat va participar en el debat Quins nous reptes ètics i jurídics planteja la intel·ligència artificial?, al Palau Macaya. 

Quins són els principals desafiaments ètics que planteja la IA?

El gran repte, i ho posaria en singular, és decidir per què i per a què desenvolupem aquesta tecnologia, quines són les raons per desplegar-la. Tenint en compte els riscos de la seva autonomia tecnològica, la reflexió s’està enfocant molt en el «fer» d’aquests agents artificials, que les seves conductes estiguin alineades amb certs valors. Però s’oblida que la primera pregunta s’hauria de centrar en el seu «ser», és a dir, en la qüestió de la seva legitimitat, que implica fixar l’atenció en els interessos i les finalitats al servei dels quals haurien d’estar. L’ètica té una tasca de construcció de sentit. Crec que cal reduir el soroll al voltant de l’anecdòtic i prendre’ns un parèntesi per pensar què fem i cap a on anem amb els sistemes d’IA, la qual cosa inevitablement condueix a reprendre temes fonamentals de la tradició filosòfica.

En el vostre treball també assenyaleu que l’ètica no s’ha de confondre amb la moral.

Popularment, ètica i moral es consideren sinònims, però, des del punt de vista de la filosofia, hi ha una distinció molt important entre els dos conceptes, que convé recordar ara que se sol·licita l’ètica en diferents contextos pràctics per ajudar a prendre decisions. Alguns experts d’altres disciplines, com ara l’enginyeria, dialoguen amb filòsofs i confien que aquests filòsofs els diran què poden fer. I això correspon a la moral, que està lligada a uns valors o unes normes acceptats socialment. L’ètica reflexiona sobre el perquè, i la resposta que ofereix és un argument. Aquesta distinció és interessant: la moral s’ocupa de les accions, mentre que l’ètica s’ocupa de les raons. Són dos àmbits de la vida pràctica molt diferents.

Com hauria de ser una ètica que abraci la complexitat de la IA?

Hem de fugir de la idea d’una reflexió ètica general i intentar-la limitar a camps pràctics o a activitats específiques. La reflexió no s’ha de descontextualitzar de l’àrea d’acció concreta per a la qual ha estat concebuda la tecnologia, del marc de finalitats i valors de les pràctiques per a les quals es concep com a instrument. Històricament, hem passat d’una ètica de la Tecnologia amb «T» majúscula a una ètica de les tecnologies específiques: ètica de la robòtica, de la nanotecnologia, de la computació… Ara hauríem de fer un últim gir hermenèutic cap a les activitats per a les quals han estat concebudes aquestes tecnologies per no quedar-nos en un discurs que posi el focus en l’instrument sense atendre’n la naturalesa teleològicament subordinada.

Sou experta en robòtica social i assistencial. Com transforma les tasques de cures aquesta tecnologia?

Avui dia, la tecnologia pot dur a terme tasques que quedaven reservades de manera exclusiva a l’agència humana, perquè necessiten una certa interacció personal. Ara tenim sistemes d’IA corporeïtzats que podrien assumir rols en l’àmbit de la salut o de l’educació que requereixen relacionar-se mitjançant la parla i els gestos. La novetat no és en la mediació tecnològica d’aquestes activitats, sinó en la transformació del caràcter de la mediació: atesa la capacitat d’aquests robots d’interactuar amb els humans com quasi-altres, els podem introduir en la dimensió més nuclear de pràctiques relacionals com les tasques de cures. 

Parlem de substituir les persones que cuiden per robots?

El desplegament europeu de la robòtica per a les tasques de cures manté una continuïtat amb el paradigma tradicional sota el qual els robots es conceben com a eines per a tasques que són brutes, avorrides o perilloses. La narrativa és que els robots serveixin per augmentar la qualitat de les cures, la qual cosa no significa substituir els professionals de la salut, sinó fer servir els robots per descarregar-los de les tasques menys significatives en termes de valor humà (per pesades, repetitives i mecàniques, com donar menjar, ajudar a vestir o assistir en activitats d’exercitació física i cognitiva). Així, aquests professionals es podran dedicar al que seria la part més intersubjectiva de les relacions de cures. Des d’un punt de vista ètic, aquesta política tecnològica ha d’anar acompanyada d’una reflexió hermenèutica sobre les cures, sobre els valors i el per a què d’aquesta pràctica, que, en última instància, té a veure amb la creació de món. Si comencem a delegar labors a les màquines sense atendre aquestes qüestions, estarem atemptant contra la nostra condició d’éssers autònoms. Crec que el gran risc ètic de la IA és l’abdicació de la llibertat humana.

Fins a quin punt els robots assistencials perjudicarien les persones que cuiden?

Quan es pensa com els robots assistencials poden perjudicar les persones, es tendeix a partir d’una idea de les tasques de cures com a pràctica que només té una dimensió privada, i es posa el focus en la deshumanització o falta de respecte a la dignitat humana que pot suposar la interacció amb aquests robots. Però les cures també són política. Des de la filosofia i l’ètica feminista s’han fet molts avenços en aquest sentit i ara sembla que anem enrere. És important que concebem les cures com una cosa que implica relacions de poder i responsabilitats que s’han de distribuir entre els ciutadans, i no centrar l’atenció eticonormativa només al voltant del fet que el robot no pot actuar igual que un ésser humà. De la mateixa manera que no hem d’oblidar que la tecnologia té un rol constitutiu en aquestes relacions de poder.

Com creieu que la IA pot afectar la desigualtat social?

Crec que no podem caure en un cert bonisme i pensar que aquestes tecnologies s’estan desenvolupant en un context totalment lliure d’interessos econòmics o en què no hi ha competència a escala geopolítica. No podem recaure en els prejudicis del passat i oblidar que la tecnologia té una dimensió moral i política i que, per tant, contribueix a configurar sociopolíticament la vida humana. Per això és tan important que el debat publicoprivat es faci, i bé, perquè l’adopció d’aquestes eines, que solen ser desenvolupades en gran part per empreses privades, no sigui dissonant amb els valors que es persegueixen des del punt de vista de servei públic.

Quin rol ha de tenir l’ètica en aquest escenari de disrupció tecnològica i amb els esforços que es fan per regular-la?

La innovació tecnològica va al davant i el dret corre per posar-se al dia, però sempre arriba tard. És normal, perquè la llei ha de capturar i solidificar el que val la pena que es converteixi en moral, és a dir, en valors que volem defensar. L’ètica té agilitat i flexibilitat per poder reflexionar i ajudar el dret a fonamentar les normes. Des de l’ètica hem de continuar pensant no tant a posar límits, sinó a acompanyar d’una manera propositiva, a pensar quin tipus de societats, relacions, estructures sociopolítiques construirem i ajudar a materialitzar aquests conceptes. Aquest sempre ha estat el caràcter de l’ètica.