Experts alerten que és necessari qüestionar les narratives dominants entorn a la IA

La sessió Intel·ligència artificial: més enllà de les narratives, del cicle Els nostres drets en l'era digital celebrat al Palau Macaya de la Fundació ”la Caixa” posa el focus en les narratives dominants entorn a la IA. Els experts que s'han reunit conclouen que és necessari treballar narratives alternatives entorn a la IA.

El Palau Macaya de la Fundació ”la Caixa” ha acollit la conferencia Intel·ligència artificial: més enllà de les narratives, la sessió que tanca el cicle Els nostres drets en l'era digital, organitzat per la Fundació ”la Caixa” amb l'Observatori de Drets Digitals.

En aquest debat han participat tres especialistes en l'àmbit de la comunicació i la tecnologia digital: Carles Planas Bou, periodista tecnològic en El Periódico; Pablo Sanguinetti, escriptor, professor i investigador en la intersecció entre tecnologia i humanitats; i Marta Peirano, escriptora i periodista especialitzada en les relacions entre tecnologies i poder. 

L'objectiu de la trobada ha estat reflexionar sobre la Intel·ligència Artificial (IA) i el nostre dret a la informació, així com sobre la responsabilitat dels periodistes a l'hora d'informar i construir narratives sobre el desenvolupament tecnològic. La sessió ha estat moderada per Olivia Blanchard, consultora i investigadora especialitzada en l'impacte de la tecnologia en la societat i directora científica del cicle.

Per emmarcar aquest debat, Blanchard ha revelat algunes de les dades que s'extreuen d'una enquesta recent del CIS que s’ha fet a la població sobre l'ús de la IA. En aquest sentit, ha explicat que un 56% dels enquestats està d'acord que la IA pot aportar més prejudicis que beneficis en l'entorn laboral i en la cultura; mentre que un 66% pensa que pot aportar beneficis en el camp de la salut i la medicina. 

La moderadora ha subratllat que, segons aquest mateix estudi, el 92% assegura que ha sentit parlar sobre l'ús de la IA per crear textos, si bé a un 70% li genera preocupació. Quant a legislació sobre la IA, l'informe revela que només el 43% ha sentit parlar sobre la Llei de l'Aprovació de la Intel·ligència Artificial (que va ser aprovada formalment pel Parlament Europeu el 13 de març de 2024).

Blanchard també ha llançat algunes preguntes clau sobre l'origen i ús del concepte “IA”. Referent a això, Planas ha assegurat que l'origen del terme va néixer en 1955. «Fins aquest moment es referia a la IA com a ‘Autòmats Pensants’, sota una estratègia de màrqueting». Per a Planas, «no estem parlant d'intel·ligència si no d'un software que està programat per donar respostes versemblants, el que no significa que no pugui cometre errors». I ha afegit «se'ns explica la IA com quelcom màgic per ocultar el que realment és: màquines que necessiten una potència ingent i absorbeix una gran quantitat de recursos energètics».

Per la seva banda, sobre el concepte i la terminologia, Sanguinetti ha recordat que «la paraula clau és ‘la simulació’, perquè el que es pretén és construir una màquina que simuli els humans».

Ideologies entorn a la IA

Quant a ideologies entorn a la IA, Sanguinetti ha assegurat que el desenvolupament tecnològic no és neutre ni aliè a les ideologies. Tal i com recordava Blanchard, figures com Sam Altman o Peter Thiel han fet ús d’un llenguatge que normalment s'utilitza per parlar d’allò ‘diví’: «l'empresari alemany Thiel va dir que la IA podria ajudar a atreure a l'Anticrist». En aquest sentit, Planas ha assegurat que «actualment hi ha una bombolla entorn a la IA que obliga al fet que hi hagi campanyes de màrqueting molt invasives per estendre el missatge que la IA és meravellosa».

No obstant això, Peirano ha assegurat que, de fet, «els que tenen el poder són els que utilitzen aquest llenguatge ‘diví’». L'experta ha continuat assegurant que «aquests personatges que estan en el poder creuen en la crisi climàtica i per això acumulen els recursos, ja que estan absolutament convençuts que la tecnologia els salvarà; mentre la resta de la ciutadania viu en la foscor». També ha alertat que «cal anar amb compte amb les infraestructures que es creen entorn a la IA i que acumulen moltes dades que a les mans equivocades poden ser molt perilloses».

El rol dels mitjans de comunicació

El següent bloc ha estat sobre el rol dels mitjans de comunicació i el nostre dret a la informació. El periodista Planas creu que «el periodisme afronta un repte que és parlar del que està passant actualment amb la IA i dels problemes que està causant i no vendre'l com un ens màgic». Per aquest periodista «s'hauria de parlar del cost que tenen el desplegament de totes aquestes tecnologies, de la extracció de recursos naturals, o del repartiment del poder que estan generant, dels biaixos i dels treballadors reals que hi ha darrere, com ara els responsables del procés d'etiquetatge».

Per la seva banda, Sanguinetti també ha comentat que «en els mitjans hi ha problemes narratius que es deriven del problema del relat de la tecnologia autònoma i segueixen el ‘model de Frankenstein’: crear alguna cosa que al final del camí ens porta un càstig». Sanguinetti també creu que és perillós imaginar a la IA com quelcom autònom que pren les seves pròpies decisions, perquè d'aquesta manera «el que fem és esborrar del mapa a les persones i a tots els treballadors que hi ha darrere de la IA».

El futur en les narratives de la IA

Com a visió de futur, Peirano ha comentat que «hem de ser capaços de desenvolupar un tipus d'Intel·ligència Artificial que ens beneficiï a tots, no només als que tenen el poder». De la mateixa manera, ha comparat el model de la Xina amb el dels EUA: «la Xina centralitza i gestiona l'activitat de totes les seves empreses dins i fora del país, mentre que als EUA la legislació és laxa i no s'implementa de manera efectiva». Per això ha reclamat «un codi obert, un software lliure i transparent per al nostre país».

Sobre la transparència, Planas ha comentat que iniciatives com la del Barcelona Supercomputing Centre són un exemple i una alternativa que poden abraçar les administracions. Per aquest expert «cada vegada més països a la UE estan apostant per softwares amb codis oberts».

Promoure noves narratives

Com a conclusió, Blanchard a demanat als experts que recordin les iniciatives que ja existeixen per promoure les narratives alternatives. En aquest sentit, Planas ha comentat que «cal ser rigorós per tractar els temes que estan passant ara i no en un futur; parlar de les oportunitats reals de la IA i dels problemes». També ha subratllat que «els consumidors han de saber que estem fent ús de quelcom que ha estat programat per seduir-nos».

Per a Periano, «la IA generativa és massa interessant per deixar-la en mans de cinc persones. El poder que generen és molt més ambiciós, i va més enllà d'aquesta divinitat que sembla que ha de substituir-nos». L’experta conclou: «tenim la possibilitat de desenvolupar aquestes tecnologies d'una forma més experimental i més transparent».

Finalment, Sanguinetti ha recordat que és perillós entendre malament la tecnologia. Per aquest expert, «millorar la narrativa és desplaçar el focus de la tecnologia a les persones i el futur utòpic a l'ús real als problemes que tenim a l'actualitat. Desplaçar la urgència de la IA i donar-li usos diversos i també mostrar una mica de resistència». També ha recordat que «l'educació humanística és bàsica per entendre la tecnologia».

Aquesta ha estat l'última sessió d'un cicle que des del 14 de maig ha acollit el Palau Macaya de la Fundació ”la Caixa” i CaixaForum València, i que ha tingut l'objectiu d'obrir un espai de debat sobre l'impacte de la digitalització en els nostres drets en diferents àmbits de la vida: les relacions afectives, la salut, el treball, la relació amb l'administració pública i la IA.

Sobre l’Observatori de Drets Digitals (ODD)

Els drets digitals són l’extensió a l’entorn digital o virtual dels drets ja reconeguts en l’àmbit físic o presencial. Garanteixen que principis fonamentals com la privacitat, la llibertat d’expressió, l’accés a internet o la igualtat i la no-discriminació siguin protegits a l’era digital amb la mateixa eficàcia que al món físic. El seu objectiu és adaptar els drets existents als desafiaments tecnològics, assegurant-ne el compliment i enfortint la democràcia en el marc de la transformació digital.

En aquest context neix l’Observatori de Drets Digitals (ODD), una iniciativa pública-privada impulsada per Red.es -entitat pública adscrita al Ministerio para la Transformación Digital y de la Función Pública- en col·laboració amb 18 entitats - entre elles, la Fundació ”la Caixa”- de l’àmbit tecnològic, acadèmic i social, compromeses amb un desenvolupament digital just, inclusiu i responsable. L’ODD sorgeix com una resposta estructurada als desafiaments ètics, normatius i socials que planteja la digitalització, amb l’objectiu de difondre l’existència dels drets digitals, a més de conscienciar i impulsar la implementació de la Carta de Drets Digitals, aprovada pel Govern d’Espanya l’any 2021.