Expertos proponen el buen uso de la IA y una adaptación del sistema judicial para combatir la violencia digital de género

El Palau Macaya de la Fundación ”la Caixa” ha presentado junto al Observatorio de Derechos Digitales el debate Cómo afrontar la violencia digital de género. Los expertos que han participado han propuesto como medidas para combatir la violencia digital de género: la Inteligencia Artificial (IA), gracias a herramientas como los algoritmos, capaces de detectar lenguaje abusivo, hasta tecnologías que identifiquen y eliminen contenidos no consentidos, teniendo en cuenta que la IA es “un arma de doble filo”; y la adaptación del sistema judicial actual, para proteger nuestros derechos en la era digital, entre otras. 

El Palau Macaya de la Fundación ”la Caixa” ha acogido la conferencia Cómo afrontar la violencia digital de género, una sesión donde diferentes expertos en derechos digitales y comunicación igualitaria han profundizado sobre las nuevas fórmulas de ejercer violencia de género a través de las tecnologías digitales.

En esta sesión, han participado Eleonora Espósito, investigadora de la Universidad de Navarra y experta nacional destacada de la Comisión Europea; Yolanda Domínguez, artista visual, activista y consultora y formadora en comunicación igualitaria; y Gabriel González Fernández, fiscal delegado de Criminalidad Informática. Olivia Blanchard, consultora e investigadora especializada en el impacto de la tecnología en la sociedad y directora científica del ciclo, ha sido la responsable de moderarla.

Esta es la primera de las cuatro sesiones del ciclo Nuestros derechos en la era digital, organizado por el Palau Macaya de la Fundación ”la Caixa” en colaboración con el Observatorio de Derechos Digitales, iniciativa público-privada impulsada por Red.es, entidad adscrita al Ministerio para la Transformación Digital y de la Función Pública,  y que tiene como objetivo que los expertos y expertas abran un debate sobre el impacto de la digitalización en nuestros derechos en diferentes ámbitos de la vida: las relaciones afectivas, la salud, el trabajo, y nuestra relación con la administración pública.

Olivia Blanchard ha introducido la primera sesión recordando que en lo que va de siglo, ha habido un desarrollo tecnológico que -especialmente en los últimos 10 años- se ha extendido, gracias al uso de los teléfonos inteligentes, las redes sociales, y el uso de la Inteligencia Artificial Generativa para crear imágenes y otros contenidos. Para Blanchard, este desarrollo impacta en todos los ámbitos de nuestra vida, en la manera de comunicarnos y relacionarnos en nuestros vínculos interpersonales y a nivel colectivo, si bien este avance también implica nuevas formas de violencia de género. 

Análisis del contexto actual  

Para empezar el debate, los tres ponentes han analizado el contexto actual, desde sus diferentes roles profesionales y experiencias adquiridas. Los expertos han puesto de relieve la gravedad de la violencia digital de género.

En este sentido, Espósito ha explicado que, a través de amenazas, acoso, difusión no consentida de contenido íntimo o campañas de desprestigio, miles de mujeres y niñas son atacadas a diario en redes sociales, foros y plataformas de mensajería. La experta ha descrito la violencia digital de género como “una extensión de violencia machista adaptada al siglo XXI y que debe ser enfrentada con la misma seriedad, recursos y urgencia que cualquier otra forma de violencia de género”. 

También ha añadido que “la violencia digital de género se muestra de diferentes maneras, como por ejemplo a través de la sextorsión o el hostigamiento ordenado, violencia que pueden sufrir las mujeres que tienen un cargo público”. 

González, por su lado, ha hablado desde su experiencia como fiscal delegado en criminalidad informática sobre los cambios que ha visto en los últimos años, en cuanto al tipo de violencias en general y en específico, en las violencias de género, además de abarcar retos que plantea el uso de las nuevas tecnologías. 

En este sentido, González ha destacado que “el mundo analógico se ha trasladado al digital, y que se necesitan las reformas legislativas pertinentes para que la ley se pueda adaptar”. El fiscal también ha alertado, poniendo ejemplos como que, “a través de las tecnologías se puede hacer mucho daño y que desde los tribunales se debería, por ejemplo, prohibir a los agresores que puedan comunicarse a través de ellas”.  Para González, “actualmente, a través de las redes se puede cometer cualquier delito, trasladado a la violencia de género es muy peligroso, por esta razón hay que modificar el código penal”. 

Impacto a nivel colectivo e individual

El segundo bloque del debate se ha dedicado a valorar el impacto de las violencias digitales de género a nivel colectivo e individual. En este sentido, González ha alertado que “el impacto en los derechos como la privacidad, la seguridad y la libertad, a nivel individual te afecta de tal manera que te va destruyendo y te quita las ganas de hacer cualquier cosa”. Desde hace años hay condenas por comentarios de odio, pero muy pocos denuncian. Si no se autogestiona desde la sociedad hay que hacerlo desde los tribunales, con penas que prohíban el acceso a las redes a los que ejerzan estas violencias. Para González, “esas penas hay que incluirlas en el código y activar la ley”.

Por su lado, Domínguez ha comentado que el impacto a nivel individual “perjudica nuestra salud y bienestar, pero también tiene un efecto a nivel económico, porque al militar tus interacciones perdemos proyección y visibilidad”. Domínguez ha añadido que, a nivel colectivo, el impacto de las violencias “afecta a la diversidad de contenidos y a la calidad de estos, creando una cultura sesgada en la que falta la voz de las mujeres, lo que produce desinformación, polarización, intolerancia y un menoscabo en la democracia. 

Espósito ha explicado que a nivel internacional “el impacto es muy alto, porque no nos estamos enfrentando a este problema de una manera coordinada, porque cada país actúa de manera distinta y se subestima muchísimo la violencia digital. Cada estado de la UE tiene una definición distinta y estas formas de violencia digital se diluyen y eso complica la persecución policial y la recopilación de datos”.  

Combatir la violencia de género 

En cuanto al bloque dedicado a fórmulas para combatir la violencia digital de género, Esposito ha subrayado que hay dos medidas importantes a nivel europeo: “la nueva legislación europea representada por la Directiva sobre Violencia contra las Mujeres y la Violencia doméstica; y la Ley de Servicios Digitales (DSA), que marca un punto de inflexión, ya que, por primera vez, la violencia digital de género se reconoce de forma clara y explícita dentro del marco legal europeo”. 

 La investigadora de la Universidad de Navarra también ha dicho que “es importante reconocer que la violencia digital de género es un fenómeno global pero también muy local, porque existen muchas diferencias entre los estados miembros y hay que tenerlas en cuenta”. 

También ha añadido que “la Inteligencia Artificial (IA) puede ser una herramienta para combatir la violencia digital de género: desde algoritmos capaces de detectar lenguaje abusivo, hasta tecnologías que identifiquen y eliminen contenidos no consentidos o prevengan dinámicas de grooming”. Pero la experta de la CE también ha alertado de que la misma IA utilizada sin ética ni supervisión, “puede amplificar el daño, por ejemplo, generando deepfakes pornográficos”.

Domínguez, por otro lado, ha destacado el potencial de Internet para amplificar y dar visibilidad a ciertos movimientos que pueden contribuir a denunciar la violencia de género, poniendo como ejemplo el #Metoo y ha advertido el peligro de los algoritmos y de las empresas que están detrás: “Pensamos que China ejerce una censura a través de su gobierno y que EE. UU. representa la libertad de expresión; pero en realidad quienes censuran contenidos son las empresas que poseen aplicaciones y condicionan todo lo que vemos a través de los algoritmos”. 

Para González, “la IA es una herramienta de doble filo, ya que puede usarse para crear imágenes y vídeos falsos, pero también se puede usar para identificar casos de violencia, etc.”.  En cuanto a cómo la aplicamos en nuestro trabajo, el experto ha añadido que “la IA nos sirve para darnos una aproximación, es un patrón de enseñanza, pero siempre tiene que haber un factor humano”.

Pasos a futuro 

El debate ha finalizado con la mirada a futuro de los componentes de la mesa redonda. En este sentido y con una mirada europea, Espósito ha abarcado la regulación digital y ha comentado que “es crucial consolidar los avances normativos recientes, reforzar los mecanismos de rendición de cuentas y continuar implementando la legislación europea vigente, con el fin de garantizar una protección real y efectiva”.

Por su parte, Domínguez ha reclamado que en las nuevas tecnologías se pueda controlar el anonimato, para detectar los posibles agresores digitales porque “no tiene sentido en una democracia en que las mujeres tengamos que limitar nuestra participación online porque hay hombres y bots que ejercen violencia digital”. Y ha añadido: “Muchas mujeres vivimos en un «búnker digital» cerrando la posibilidad de que nos puedan comentar o directamente eliminando nuestras cuentas de las redes”. La experta también ha abogado a la responsabilidad de “los usuarios para ser conscientes de los espacios que no respetan ni defienden a las mujeres para abandonarlos”.