Experts proposen el bon ús de la IA i una adaptació del sistema judicial per  combatre la violència digital de gènere

El Palau Macaya de la Fundació ”la Caixa” ha presentat amb l’Observatori de Drets Digitals el debat Com es pot afrontar la violència digital de gènere. Els experts que hi han participat han proposat com a mesures per combatre la violència digital de gènere: la Intel·ligència Artificial (IA), gràcies a eines com els algoritmes, capaços de detectar llenguatge abusiu, fins a tecnologies que identifiquen i eliminen continguts no consentits, tenint en compte que és “una arma de doble tall”; i l’adaptació del sistema judicial actual, per protegir els nostres drets en l’era digital, entre altres. 

El Palau Macaya de la Fundació ”la Caixa” ha acollit la conferencia  Com es pot afrontar la violència digital de gènere, una sessióon diferents experts en drets digitals i comunicació igualitària han aprofundit en les noves formes d’exercir la violència de gènere a través de les tecnologies digitals. 

En aquesta sessió hi han participat Eleonora Espósito, investigadora de la Universitat de Navarra i experta nacional destacada de la Comissió Europea; Yolanda Domínguez, artista visual, activista i consultora i formadora en comunicació igualitària; i Gabriel González Fernández, fiscal delegat de Criminalitat Informàtica. Olivia Blanchard, consultora i investigadora especialitzada en l’impacte de la tecnologia en la societat i directora científica del cicle, ha estat la responsable de moderar-la.

Aquesta és la primera de les quatre sessions del cicle Els nostres drets en l’era digital, organitzat pel Palau Macaya de la Fundació ”la Caixa” en col·laboració amb l’Observatori de Drets Digitals, iniciativa públic-privada impulsada per Red.es, entitat adscrita al Ministeri per a la Transformació Digital i de la Funció Pública, i que té com a objectiu que els experts i les expertes obrin un debat sobre l’impacte de la digitalització en els nostres drets en diferents àmbits de la vida: les relacions afectives, la salut, la feina i la nostra relació amb l’administració pública. 

Olivia Blanchard ha introduït la primera sessió recordant que, en el que portem de segle, hi ha hagut un desenvolupament tecnològic que -especialment en els darrers 10 anys- s’ha estès gràcies a l’ús dels telèfons intel·ligents, les xarxes socials, i l’ús de la Intel·ligència Artificial Generativa per crear imatges i altres continguts. Per a Blanchard, aquest desenvolupament impacta en tots els àmbits de la nostra vida, en la manera de comunicar-nos i relacionar-nos en els nostres vincles interpersonals i en l'àmbit col·lectiu, si bé aquest avanç també implica noves formes de violència de gènere. 

Anàlisi del context actual  

Per començar el debat, els tres ponents han analitzat el context actual, des dels seus diferents rols professionals i experiències adquirides. Els experts han posat en relleu la gravetat de la violència digital de gènere. 

En aquest sentit, Eleonora Espósito ha explicat que, mitjançant amenaces, assetjament, difusió no consentida de contingut íntim o campanyes de desprestigi, milers de dones i nenes són atacades diàriament a les xarxes socials, fòrums i plataformes de missatgeria. L’experta ha descrit la violència digital de gènere com “una forma de violència masclista adaptada al segle XXI que hem de fer front amb la mateixa serietat, recursos i urgència que qualsevol altra forma de violència de gènere”. 

També ha afegit que “la violència digital de gènere es mostra de diferents maneres, com per exemple a través de la sextorsió o l’assetjament organitzat, una violència que poden patir les dones que ocupen un càrrec públic”.

Gabriel González, per la seva banda, ha parlat des de la seva experiència com a fiscal delegat en criminalitat informàtica sobre els canvis que ha vist en els últims anys, pel que fa al tipus de violències en general i en específic, en les violències de gènere, a més d’abordar reptes que planteja l’ús de les noves tecnologies. 

En aquest sentit, González ha destacat que “el món analògic s’ha traslladat al digital, i que calen reformes legislatives pertinents perquè la llei s’hi pugui adaptar”. El fiscal també ha alertat, posant exemples com que, “a través de les tecnologies es pot fer molt de mal i que des dels tribunals s’hauria de, per exemple, prohibir als agressors que es puguin comunicar a través d’aquestes”. Per González, “actualment, a través de les xarxes es pot cometre qualsevol delicte i això traslladat a la violència de gènere és molt perillós, per aquesta raó cal modificar el codi penal”.

Impacte en l'àmbit col·lectiu i individual 

El segon bloc del debat s’ha dedicat a valorar l’impacte de les violències digitals de gènere en l'àmbit col·lectiu i individual. En aquest sentit, González ha alertat que “l’impacte en drets com la privacitat, la seguretat i la llibertat, a nivell individual  t’afecta de tal manera que et va destruint i et treu les ganes de fer qualsevol cosa”. També ha afegit que “des de fa anys hi ha condemnes per comentaris d’odi, però molt pocs denuncien, per la qual cosa si no s’autogestiona des de la societat cal fer-ho des dels tribunals, amb penes que prohibeixin l’accés a les xarxes als qui exerceixin aquestes violències. Aquestes penes s’han d’incloure al codi i activar la llei”.

Per la seva banda, Yolanda Domínguez ha comentat que l’impacte en l'àmbit individual “perjudica la nostra salut i benestar, però també té un efecte en l'àmbit econòmic, perquè al limitar les teves interaccions perdem projecció i visibilitat”. Domínguez ha afegit que, en l'àmbit col·lectiu, l’impacte de les violències “afecta a la diversitat de continguts i a la qualitat d'aquests, creant una cultura esbiaixada en la qual falta la veu de les dones, la qual cosa produeix desinformació, polarització, intolerància i un menyscapte en la democràcia. 

Espósito ha explicat que a nivell internacional “l’impacte és molt alt, perquè no ens estem enfrontant a aquest problema d’una manera coordinada, ja que cada país actua de manera diferent i se subestima moltíssim la violència digital. Cada estat de la UE té una definició diferent i aquestes formes de violència digital es dilueixen, cosa que complica la persecució policial i la recopilació de dades”.

Combatre la violència de gènere 

Pel que fa al bloc dedicat a les fórmules per combatre la violència digital de gènere, Espósito ha subratllat que “la nova legislació europea representada per la Directiva sobre la Violència contra les Dones i la Violència domèstica, així com la Llei de Serveis Digitals (DSA), marca un punt d’inflexió, ja que, per primera vegada, la violència digital de gènere es reconeix de manera clara i explícita dins del marc legal europeu”. 

La investigadora de la Universitat de Navarra també ha dit que “és important reconèixer que la violència digital de gènere és un fenomen global però també molt local, perquè existeixen moltes diferències entre els estats membres i hi ha que tenir-les en compte”.

També ha afegit que “la Intel·ligència Artificial (IA) pot ser una eina per combatre la violència digital de gènere: des d’algoritmes capaços de detectar llenguatge abusiu, fins a tecnologies que identifiquin i eliminin continguts no consentits o que previnguin dinàmiques de grooming”. Però l’experta de la CE també ha alertat que la mateixa IA utilitzada sense ètica ni supervisió, “pot amplificar el mal, per exemple, generant deepfakes pornogràfics”. 

Domínguez, d’altra banda, ha destacat el potencial d'Internet per a amplificar i donar visibilitat a uns certs moviments que poden contribuir a denunciar la violència de gènere, posant com a exemple el #Metoo i ha advertit el perill dels algorismes i de les empreses que estan darrere: “Pensem que la Xina exerceix una censura a través del seu govern i que els EUA representa la llibertat d'expressió; però en realitat els qui censuren continguts són les empreses que posseeixen aplicacions i condicionen tot el que veiem a través dels algorismes”. 

Per a González, “la IA és una eina de doble tall, ja que pot usar-se per a crear imatges i vídeos falsos, però també es pot usar per a identificar casos de violència, etc”.  Pel que fa a com l’apliquem en la nostra feina, l’expert ha afegit que “la IA ens serveix per donar-nos una aproximació, és un patró d’ensenyament, però sempre hi ha d’intervenir el factor humà”.

Passos de futur 

El debat ha finalitzat  amb una mirada al futur per part dels integrants de la taula rodona. En aquest sentit i amb una mirada europea, Espósito ha abordat la regulació digital i ha comentat que “és crucial consolidar els avenços normatius recents, reforçar els mecanismes de rendició de comptes i continuar implementant la legislació europea vigent, amb l’objectiu de garantir una protecció real i efectiva”. 

Per la seva banda, Domínguez ha remarcat que en les noves tecnologies es pugui controlar l'anonimat, per detectar els possibles agressors digitals perquè “no té sentit en una democràcia en que les dones hàgim de limitar la nostra participació online perquè hi ha homes i bots que exerceixen violència digital”. I ha afegit: “Moltes dones vivim en un «búnquer digital» tancant la possibilitat que ens puguin comentar o directament eliminant els nostres comptes de les xarxes”. L’experta també ha apel·lat a la responsabilitat “dels usuaris en ser conscients dels espais que no respecten ni defensen les dones, per tal de poder abandonar-los”.