Expertos alertan que es necesario una narrativa más humanista y clara en torno a la IA

La sesión Inteligencia artificial: más allá de las narrativas, del ciclo Nuestros derechos en la era digital celebrado en el Palau Macaya de la Fundación ”la Caixa”, pone el foco en las nuevas narrativas en torno a la IA. Los expertos que se han reunido concluyen que es necesario trabajar narrativas alternativas en torno a la IA. 

El Palau Macaya de la Fundación ”la Caixa” ha acogido la conferencia Inteligencia artificial: más allá de las narrativas, la sesión que cierra el ciclo Nuestros derechos en la era digital, organizado por la Fundación “la Caixa” junto al Observatorio de Derechos Digitales. 

En este debate han participado tres especialistas en el ámbito de la comunicación y la tecnología digital: Carles Planas Bou, periodista tecnológico en El Periódico; Pablo Sanguinetti, escritor, profesor e investigador en la intersección entre tecnología y humanidades; y Marta Peirano, escritora y periodista especializada en las relaciones entre tecnologías y poder.

El objetivo del encuentro ha sido reflexionar sobre la Inteligencia Artificial (IA) y nuestro derecho a la información, así como sobre la responsabilidad de los periodistas a la hora de informar y construir narrativas sobre el desarrollo tecnológico. La sesión ha sido moderada por Olivia Blanchard, consultora e investigadora especializada en el impacto de la tecnología en la sociedad y directora científica del ciclo. 

Como marco para el debate, Blanchard ha revelado algunos de los datos que se extraen de una encuesta reciente del CIS a la población sobre el uso de la IA. En este sentido, ha explicado que un 56% de los encuestados está de acuerdo en que la IA puede aportar más prejuicios que beneficios en el entorno laboral y en la cultura; mientras que un 66% piensa que puede aportar beneficios en el campo de la salud y la medicina.

La moderadora ha subrayado que, según este mismo estudio, el 92% asegura que ha oído hablar sobre el uso de la IA para crear textos, si bien a un 70% le genera preocupación. En cuanto a legislación sobre la IA, el informe revela que solo el 43% ha oído hablar sobre la Ley de la inteligencia Artificial (que fue aprobada formalmente por el Parlamento Europeo el 13 de marzo de 2024).

Blanchard también ha lanzado algunas preguntas clave sobre el origen y uso del concepto “IA”. A este respecto, Planas ha asegurado que el origen del término nació en 1955. «Hasta ese momento se refería a la IA como ‘Autómatas Pensantes’, bajo una estrategia de marketing». Para Planas, «no estamos hablando de inteligencia si no de un software que está programado para dar respuestas verosímiles, lo que no significa que no de errores». Y ha añadido, «se nos explica la IA como algo mágico para ocultar lo que realmente es: máquinas que necesitan una potencia ingente y absorbe una gran cantidad de recursos energéticos».

Por su lado, sobre el concepto y la terminología, Sanguinetti ha recordado que «la palabra clave es ‘la simulación’, porque lo que se pretende es construir una máquina que simule a los humanos». 

Ideologías en torno a la IA 

En cuanto a ideologías en torno a la IA, Sanguinetti ha asegurado que el desarrollo tecnológico no es neutro ni ajeno a las ideologías. Tal y como recordaba Blanchard, figuras como Sam Altman o Peter Thiel han usado un lenguaje que normalmente se usa para hablar de lo divino: «el empresario alemán Thiel dijo que la IA podría ayudar a atraer al Anticristo». En este sentido, Planas ha asegurado que «actualmente hay una burbuja en torno a la IA que obliga a que haya campañas de marketing muy invasivas para lanzar el mensaje de que la IA es maravillosa».   

Sin embargo, Peirano ha comentado que «los que tienen el poder son los que utilizan ese lenguaje ‘divino’». La experta ha continuado asegurando que «estos personajes que están en el poder creen en la crisis climática y por ello acumulan los recursos, ya que están absolutamente convencidos de que la tecnología les va a salvar; mientras el resto de la ciudadanía vive en la oscuridad». También ha alertado que «hay que tener cuidado con las infraestructuras que se crean en torno a la IA y que acumulan muchos datos que en las manos equivocadas pueden ser muy peligrosas».

El rol de los medios de comunicación

El siguiente bloque ha sido sobre el rol de los medios de comunicación y nuestro derecho a la información. El periodista Planas cree que «el periodismo afronta un reto que es hablar de lo que está pasando actualmente con la IA y de los problemas que está causando y no venderlo como un ente mágico». Para este periodista «se debería hablar del coste que tienen el despliegue de todas estas tecnologías, de la extracción de recursos naturales, o del reparto del poder que están generando, de los sesgos que generan y de los trabajadores reales que hay detrás, como los responsables del proceso de etiquetado».

Por su lado Sanguinetti también ha comentado que «en los medios existen problemas narrativos que se derivan del problema del relato de la tecnología autónoma y siguen el ‘modelo de Frankenstein’: crear algo que al final del camino nos trae un castigo». Sanguinetti también cree que es peligroso imaginar a la IA como algo autónomo que toma sus propias decisiones, porque de esta manera «lo que hacemos es borrar del mapa a las personas y a todos los trabajadores que hay detrás de la IA».

El futuro en las narrativas de la IA

Como visión de futuro, Peirano ha comentado que «tenemos que ser capaces de desarrollar un tipo de Inteligencia Artificial que nos beneficie a todos, no solo a los que tiene el poder». De la misma manera, ha comparado el modelo de China con el de los EE. UU.: «China centraliza y gestiona la actividad de todas sus empresas dentro y fuera del país, mientras que en EE. UU. la legislación es laxa y no se implementa de manera efectiva». Por eso ha reclamado «un código abierto, un software libre y transparente para nuestro país». 

Abogando a la transparencia, Planas ha comentado que iniciativas como la del Barcelona Supercomputing Centre son un ejemplo y una alternativa que pueden abrazar las administraciones. Para él «cada vez más países en la UE están apostando por softwares con códigos abiertos». 

Promover nuevas narrativas 

Para finalizar, Blanchard ha pedido a los expertos que recuerden las iniciativas que ya existen para promover las narrativas alternativas, a lo que Planas ha comentado que «hay que ser riguroso para tratar los temas que están pasando ahora y no los futuros; hablar de las oportunidades reales de la IA y de los problemas». También ha subrayado que «los consumidores tienen que saber que estamos usando algo que ha sido programado para seducirnos». 

Para Peirano, «la IA generativa es demasiado interesante para dejarla en manos de cinco personas. El poder que generan es mucho más ambicioso, y va más allá de esa divinidad que parece que tiene que sustituirnos». Para ella, «tenemos la posibilidad de desarrollar esas tecnologías de una forma más experimental y más transparente». 

Por último, Sanguinetti ha recordado que es peligroso entender mal la tecnología. Para este experto, «mejorar la narrativa es desplazar el foco de la tecnología a las personas y el futuro utópico al uso real en los problemas que tenemos en la actualidad. Desplazar la urgencia de la IA y darle usos diversos y también mostrar un poco de resistencia». También ha recordado que «la educación humanística es básica para entender la tecnología». 

Esta ha sido la última sesión de un ciclo que desde el 14 de mayo ha acogido el Palau Macaya de la Fundación ”la Caixa” y CaixaForum València, y que ha tenido el objetivo de abrir un espacio de debate sobre el impacto de la digitalización en nuestros derechos en diferentes ámbitos de la vida: las relaciones afectivas, la salud, el trabajo, la relación con la administración pública y la IA.

Sobre el Observatorio de Derechos Digitales

Los derechos digitales son la extensión al entorno digital o virtual de los derechos ya reconocidos en el ámbito físico o presencial. Garantizan que principios fundamentales como la privacidad, la libertad de expresión, el acceso a internet o la igualdad y no discriminación sean protegidos en la era digital con la misma eficacia que en el mundo físico. Su objetivo es adaptar los derechos existentes a los desafíos tecnológicos, asegurando su cumplimiento y fortaleciendo la democracia en la transformación digital.

En este contexto nace el Observatorio de Derechos Digitales (ODD), iniciativa público-privada impulsada por Red.es -entidad pública adscrita al Ministerio para la Transformación Digital y de la Función Pública- en colaboración con 19 entidades -entre ellas, la Fundación ”la Caixa”- del ámbito tecnológico, académico y social, comprometidas con un desarrollo digital justo, inclusivo y responsable. El ODD surge como respuesta estructurada a los desafíos éticos, normativos y sociales que plantea la digitalización con el objetivo de difundir la existencia de los derechos digitales, además de concienciar e impulsar la implementación de la Carta de Derechos Digitales aprobada por el Gobierno de España en 2021.