Cal agrair-li al papa Lleó XIV haver-nos ofert aquesta presentació tan ben elaborada del que la intel·ligència artificial significa i pot significar. A mi, si us he de dir la veritat, el sentiment principal que m’ha provocat és el de veure’m davant un monstre que fa por i davant el qual no sé gaire què hi puc fer... En tot cas, però, el que sí que faré és el que he mirat de fer fins ara: crear al meu voltant consciència de la necessitat de treballar per un món digne, i lluitar políticament contra tots aquests amos del món que volen ser-ne cada cop més amos. Sí, almenys que el meu vot no vagi mai cap a aquestes dretes i extremes dretes que sembla que se’ns vulguin menjar.
L’encíclica també m’ha fet pensar en algunes coses de l’Església que no quadren amb els plantejaments de l’encíclica, però això ho deixo per dilluns que ve. De moment, permeteu-me avui copiar-ne un parell de fragments que em semblen especialment significatius.
“En el món de la IA res no és immaterial o màgic. Cada resposta que sembla immediata i perfecta prové d’una llarga cadena de mediacions, d’una xarxa extensa de recursos naturals, d’infraestructures energètiques i, sobretot, de persones.
Una part significativa del funcionament de l’economia digital se sustenta en el treball silenciós de milions d’éssers humans, emprats en activitats poc visibles però essencials: etiquetatge de dades, moderació de continguts —sovint pèssims— i entrenament de models. En molts casos es tracta de joves, la majoria dones, que treballen dur a canvi de remuneracions mínimes. A aquest ardu treball invisible s’hi afegeix la tasca, encara més brutal, de l’extracció dels recursos necessaris per a la producció dels dispositius i microprocessadors en què es basa la IA. En algunes regions del món, adolescents i infants treballen en condicions perilloses en la trituració dels materials dels quals s’obtenen les terres rares. Cossos marcats, mutilats, consumits perquè el flux dels càlculs no s’interrompi. A més, les xarxes criminals utilitzen plataformes a internet, sistemes de missatgeria, pagaments anònims i tècniques de perfilat per reclutar, controlar i traslladar víctimes del tràfic de persones, moltes vegades menors d’edat, convertint homes i dones en “dades” a rastrejar i “paquets” per transferir dins dels mateixos circuits digitals que sustenten gran part de l’economia global. Aquesta realitat interpel·la profundament la consciència moral del nostre temps.
No n’hi ha prou amb invocar l’eficiència ni lloar els beneficis de la innovació, si aquests es basen en una cadena d’explotació que es manté oculta deliberadament. Si una tecnologia promet emancipació, però produeix noves formes de subordinació global, contradiu el principi fonamental de la dignitat de la persona”. (MH 173)
“El colonialisme mostra actualment un rostre inèdit. No només domina els cossos, sinó que s’apropia de les dades, transformant les vides personals en informació explotable. Territoris sencers, sobretot aquells amb menys rellevància geopolítica i més gran fragilitat estructural, es veuen, en el present, travessats per una nova lògica d’extracció: la dels fluxos sanitaris, perfils epidemiològics, mapes genètics i dades demogràfiques. Aquestes són les noves “terres rares” del poder: informacions vitals que, una vegada correlacionades, es poden utilitzar per entrenar models predictius, orientar estratègies d’inversió, anticipar crisis i, sobretot, seleccionar qui i què importa. Qui posseeix les dades sanitàries de poblacions senceres, avui recopilades sovint sota el pretext de l’ajuda, la investigació o la innovació, posseeix en realitat una palanca estructural sobre el futur: pot modelar les necessitats i els mercats. I pot decidir, abans que els altres, a qui destinar medicaments, inversions i proteccions. És aquí on es juga una de les qüestions morals més urgents del nostre temps: transformar el coneixement compartit en bé comú, no pas en eina de domini; tornar als pobles no només les dades que els descriuen, sinó també la possibilitat de decidir com es faran servir, qui les utilitzarà i per a qui. Altrament, l’era digital no serà postcolonial, sinó colonial sota una altra forma.
Les noves esclavituds s’alimenten de cadenes econòmiques i infraestructures digitals. Per tant, cal actuar en diversos fronts: en primer lloc, per exigir una transparència més gran de les cadenes de subministrament que sustenten la indústria tecnològica i l’economia digital, de manera que cap avantatge competitiu es construeixi sobre l’explotació invisible. En segon lloc, cal que les empreses i els inversors adoptin criteris clars de verificació ètica preventiva (due diligence), incloent entre les prioritats la protecció dels treballadors, la lluita contra el treball forçós i l’impacte social dels models de negoci basats en dades. A més, cal exigir a les plataformes digitals que cooperin de manera responsable amb les autoritats i amb la societat civil per impedir que les eines de comunicació, pagament i elaboració de perfils es converteixin en canals de captació i control de les víctimes. Quan aquestes decisions convergeixen, l’entorn digital es pot transformar d’espai de depredació en espai de protecció, prevenció i promoció de la dignitat”. (MH 178-179).
Grups
