Intel·ligència artificial i
digitalització
Introducció
“La intel·ligència artificial pot perpetuar les desigualtats socials si no qüestionem qui controla aquestes tecnologies i amb quines finalitats”.
– Ruha Benjamin, sociòloga i autora de Race After Technology
La Intel·ligència Artificial (IA) i els processos de digitalització conformen nous reptes, oportunitats i amenaces per als drets humans. A Lafede ens apropem críticament a la digitalització i l’ús creixent de la IA per incidir contra la perpetuació de desigualtats i discriminacions existents també en l’àmbit tecnològic. Aquesta línia de treball busca assegurar que els drets humans siguin centrals en la governança, el desenvolupament i la implementació de les tecnologies digitals.
Necessitem entendre la tecnologia com un àmbit que ens apel·la, ja sigui pel nostre treball diari, per les polítiques digitals de les administracions amb les quals interactuem o per l’impacte que té el progrés tecnològic en les relacions Nord i Sud Global.
La IA i la digitalització tenen la capacitat d’ampliar les desigualtats existents si no s’aborden amb una perspectiva de drets humans. Els biaixos algorítmics poden discriminar des de múltiples interseccions, i els sistemes de reconeixement facial vulneren la privacitat, amb una afectació més desproporcionada cap els col·lectius més vulnerables. Apostem, doncs, per defensar la participació en la presa de decisions, l’impuls de la inclusió de coordenades feministes i antiracistes en la seva governança i la necessitat de ser actors clau en el seu desenvolupament per una transformació digital coherent amb la Justícia global.
Per què treballem per una IA
amb perspectiva de drets?
Lafede va començar a treballar en la línia de IA i drets humans l’any 2021, arran de l’observació de com la pandèmia va accelerar l’adopció de solucions digitals i la implementació d’algoritmes i sistemes d’Intel·ligència Artificial (IA). Les diferents administracions disposen ja d’estratègies nacionals, autonòmiques i municipals que, en nom de la innovació, l’eficiència i la productivitat, estableixen com a prioritat la transició digital mitjançant solucions basades en el processament automàtic de dades.
Així, el Pla de Recuperació, Transformació i Resiliència de l’Estat Espanyol continua considerant la transformació digital com un dels seus quatre eixos estratègics, i les estratègies d’implementació de la intel·ligència artificial catalana i espanyola mantenen el focus en la competitivitat i el progrés econòmic.
Aquestes polítiques públiques, però, s’han basat en la col·laboració público-privada i han exclòs la societat civil tant en la seva conceptualització com en la seva execució, fet pel qual manquen d’una perspectiva de drets humans i de Justícia global. Fins fa ben poc, rarament es tenia en consideració a les entitats o col·lectius que poden exposar els riscos i problemàtiques socials que aquests sistemes poden perpetuar, ni encara hi ha espais suficients per discutir les pràctiques i les pautes establertes per les grans empreses que desenvolupen aquests sistemes.
Amb l’aprovació recent de la llei de la Unió Europea per regular la IA, el marc legislatiu ha començat a abordar algunes d’aquestes qüestions, tot i que encara queda molt per fer per assegurar una regulació efectiva i un canvi de tendència cap a un desenvolupament tecnològic basat en la Justícia global.
A més, l’aparició de la IA generativa ha transformat significativament la perspectiva de molts agents socials, posant de manifest tant les noves possibilitats com els riscos associats a aquestes tecnologies. La IA ja forma part del nostre dia a dia, integrant-se en diverses àrees com l’educació, la sanitat, el treball i els serveis públics, la qual cosa fa encara més urgent la necessitat de la inclusió de la societat civil en la seva governança.
Incidim en les polítiques públiques sobre IA
Des de 2021 hem fet seguiment de les polítiques públiques relacionades amb la intel·ligència artificial. Ens hem enxarxat a nivell europeu, espanyol i català per incorporar una mirada de drets humans a les diferents iniciatives de governança pública.
Durant les negociacions pel Reglament Europeu d’IA (AI Act) hem tingut un rol important en el debat públic, obrint espais de participació per la societat civil i treballant en posicionaments polítics que incorporessin el paradigma de la justícia global.
Fruit del reconeixement d’aquest treball formem part del Comitè d’Ètica de les Dades de la Generalitat de Catalunya, com a vocals experts de la societat civil. També ens hem incorporat al Consell Assessor de l’Observatori d’Ètica de la IA de la Generalitat. A nivell espanyol, interactuem amb el Ministeri de Transformació Digital per demanar la creació d’espais de participació per a la societat civil, articulades amb la xarxa IA Ciudadana i mitjançant l’aliança amb Algorights i Algorace per a les Jornades DAR (Democràcia, Algoritmes i Resistències). A nivell europeu, formem part de grups de treball d’EDRi (European Digitals Rights) on, analitzem i elaborem recomanacions i posicionaments sobre la implementació normativa de la IA.
Per a fer tot això, treballem en xarxa amb organitzacions de drets digitals, de justícia de dades i de ciberfeminismes i fomentem interaccions amb les organitzacions federades que comparteixen aquestes perspectives. És per aquest motiu que alguns dels àmbits d’impacte de la IA s’han creuat amb línies de treball de la federació i s’han fomentat espais de participació concrets com el grup de treball d’educació i digitalització, on es treballen les peticions concretes en aquest àmbit en moments electorals o la xarxa “Fronteras Inteligentes”, que articula la incidència sobre el desplegament de IA a les fronteres espanyoles.
Recomanacions per una IA
amb perspectiva de drets
Som conscients de la potencialitat que també tenen les eines tecnològiques i la IA per a millorar aspectes socials i globals, però considerem que l’enfocament de les polítiques està massa dominat per una visió tecnosolucionista, és a dir, que tracta tots els reptes com a problemes tecnològics que poden ser resolts amb solucions purament tècniques. Així doncs, treballem amb aquesta perspectiva crítica per definir criteris de governança, justícia social, democràcia, feminismes i antirracisme al desenvolupament de la IA.
Inicialment ens hem centrat en les vulneracions que aquesta tecnologia provoca en l’àmbit de fronteres, forces de l’ordre i seguretat. És per aquest motiu que demanem la prohibició del reconeixement facial, biomètric i d’emocions a l’espai públic. Considerem necessari limitar l’ús de sistemes algorítmics de predicció i automatització en aquells àmbits on l’impacte pot ser major, com és el cas de serveis socials, educació, cossos policials o institucions penitenciàries, així com en les fronteres. Qüestionem la visió corporativa sobre la implementació de tecnologia per a guanyar eficiència a l’estat del benestar i per això exigim també treballar amb criteris de sobirania tecnològica i crear serveis i productes públics, auditables i codissenyats amb les persones que poden ser afectades per aquestes tecnologies. En aquest aspecte és clau la participació de la població, les comunitats i la societat civil organitzada.
Considerem també necessari treballar en les narratives al voltant del progrés tecnològic i la innovació, oferir espais de pensament i reflexió sobre la intel·ligència artificial i el món de les dades des de coordenades diferents i reclamar la redistribució de poder en l’àmbit tecnològic.
Una digitalització coherent
amb la Justícia global
Lafede treballa, especialment després de la pandèmia en l’adaptació d’eines de programari lliure perquè siguin útils a les entitats, i aposta per models de digitalització coherents amb els valors i els objectius de la Justícia global
Per a poder sentar les bases d’una digitalització coherent amb els valors que defensem es va començar amb una fase de diagnòstic i detecció de necessitats, on es van identificar les principals barreres que les entitats s’enfronten en la seva digitalització, com la manca de temps, la necessitat de formació, i la manca de suport per liderar el canvi i triar eines de lògiques no capitalistes. Aquest procés també va destacar bones pràctiques i estratègies per abordar aquestes barreres, com la presa de decisions transversal i la integració de la digitalització com a part del ideari de l’entitat. Amb aquestes dades, es va elaborar un pla d’acció concret en col·laboració amb diverses entitats que ens va portar a la primera edició del Laboratori de Digitalització.
El Laboratori de Digitalització es concep com un espai de col·laboració i aprenentatge col·lectiu, inspirat en les comunitats hacker i hacklabs. S’organitzen sessions presencials cada 4-6 setmanes per debatre, compartir coneixements i desenvolupar estratègies d’acció personalitzades. Aquestes sessions reuneixen participants d’entitats de Justícia Global i de la tradició tecnopolítica, creant un pont per a la col·laboració mútua. Les persones participants esdevenen líders del canvi digital dins les seves entitats, posant en pràctica les estratègies consensuades i afrontant les contradiccions del procés. Lafede.cat aposta per consolidar la continuació de les sessions, crear un repositori de recursos de codi obert, i l’articulació d’un posicionament crític sobre la transformació digital.
Lafede també experimenta amb la mancomunicació d’infraestructura digital amb la participació a PlataformESS. Es tracta d’un servidor compartir destinat a instal·lar eines de codi obert per promoure la sobirania digital amb els valors de l’economia social i solidària. Desenvolupada des de la intercooperació, aquest espai ofereix eines tecnològiques alternatives al capitalisme de plataforma, com videoconferència, repositoris de vídeo, i edició col·laborativa de textos, qüestionaris i enquestes, etc. El projecte, impulsat amb entitats com XES, Kult, Bitlab i altres, busca fomentar una Internet més justa i solidària mitjançant l’ús i desenvolupament de tecnologies obertes i lliures.
Recursos i enllaços
Documents d’interès
Informe IA administració pública: Algoritmes i Intel·ligència Artificial al Sector Públic: Recomanacions des de la Justícia Global (2024)
Informe IA i mitjans: ‘Com s’informa sobre Intel·ligència Artificial? Anàlisi i recomanacions amb perspectiva de drets humans’ (2023)
Propostes per a regular la Intel·ligència Artificial des d’una perspectiva de drets (Jornades DAR, 2023)
Webs d’interès
Jornades DAR – Democràcia Algoritmes i Resistències
Articles d’interès
Campanya Sospitoses per la cara (Notícia, Vídeo amb subtítols en català i en castellà, Materials gràfics en català i en castellà).
Projectes vinculats
Notícies relacionades
IA, racisme i polítiques europees. Webinar el proper 16D
El proper dilluns 16 de desembre, Lafede.cat organitza un webinar sobre Intel·ligència artificial, racisme i polítiques europees per entendre el paper de la IA en la construcció de l'Europa fortalesa. Comptarà amb la participació dels periodistes Youssef Ouled (membre d'Algorace) i Carlos Lancho Bances. [...]
La compareixença de Lafede.cat al Parlament en 8 punts
El passat dijous 21 de novembre, Lafede.cat va compareixer, per primera vegada, a la Comissió d’Unió Europea i Acció Exterior del Parlament de Catalunya a petició de les forces parlamentàries. Es tractava de la tercera sessió de treball de la nova legislatura, i la federació va explicar els reptes de la [...]
Qui és qui al nou govern, en clau de Justícia global
El passat mes d'agost es formava el nou govern de la Generalitat de Catalunya. Lafede.cat ha analitzat quins són els departaments del govern responsables de les polítiques públiques en matèria de Justícia global amb els que interactuarà durant aquesta legislatura a fi d'implementar les demandes recollides al [...]