Com utilitzem la IA per posar-la al servei del bé comú?

Sí, ja ho sabem, fa menys d’un any publicàvem l’article sobre Intel·ligència Artificial.

Què tindrem de nou a dir?

Avui volem explicar-vos, de la mà d’en Joan Caballero, que treballa a Som Connexió coordinant l’equip de sistemes de la informació (l’equip que treballa programant i gestionant la infraestuctura digital de la cooperativa), com podem fer-ne un ús coherent amb els nostres valors, i posar-la al servei del bé col·lectiu.

Com bé haureu notat, la IA ha passat a ser, en aquests mesos, el nostre pa de cada dia. Les aplicacions de missatgeria l’estan incorporant a la seva interfície, ja quasi no ens sorprèn trobar imatges manipulades arreu…, i malgrat estar tan present, segueixen obrint-se dilemes ètics i problemàtiques socials al seu pas.

Un d’ells, és el “colonialisme de dades”, també conegut com a “tecnofeudalisme”. No, no… això no vol dir que tornem a l’edat mitjana! Així és com descriu l’economista i polític grec Yanis Varoufakis, una hipotètica nova forma de capital que està extenent-se a través de les grans plataformes d’internet.

Una forma en què “no existeixen mitjans de producció que –amb el nostre treball mediant- generin i venguin productes per consumir”, sino que el que es produeix i consumeix és “informació”, dades. Amb el nostre ús d’internet i les xarxes, produïm capital que es queda al núvol, a canvi de res, i que els propietaris de les empreses acumulen en forma de renda: som com els serfs del feudalisme!

Altres problemàtiques, com la substitució de la força de treball humana per la dels algorismes, o els usos repressius i de control social, ressonen constantment als nostres caps quan sentim parlar de l’IA.

Enfront de tot això, a Som Connexió, i les cooperatives dins de l’ESS que estem impulsant SomIT, ens fem fortes per generar programari al marge d’aquest sistema privatiu i utilitzar la intel·ligència artificial de forma ètica. Ens ho explica en Joan: 

Una de les formes de lluitar contra aquest colonialisme de dades o capitalisme digital, és el sistema de codi obert o lliure. Quin paper creus que juga el codi obert per protegir les nostres dades?

El codi obert és important entorn de la intel·ligència artificial (IA) sobretot per dues coses:

• Primer de tot per transparència de què fan els algorismes en solucions algorítmiques. Per a què es pugui auditar i millorar des de la comunitat que mira què s’està fent i pot entendre i veure on hi ha biaixos o errors. I la transparència no només s’aplica als algorismes sinó també a les dades que entren en aquests algorismes. Les dades poden oferir biaixos o incorpora’ls de manera tant o més clara que els mateixos algorismes. I s’ha de saber quines dades estan alimentant aquests algorismes per entendre què aporten dintre de les anàlisis o de l’enteniment que la màquina pugui tenir de la realitat.
• També és important per compartir experiències i coneixement. El codi obert permet que altres puguin agafar i utilitzar el que s’està fent de manera oberta i amb coneixement de què es fa.

 

Quin és l’objectiu del codi obert? Des de quan s’està desenvolupant a Som Connexió? 

A Som Connexió sempre prioritzem eines de codi obert, de tal manera que puguem reaprofitar tot el que es fa i pensar-ho de manera col·lectiva.

Quan invertim a desenvolupar sistemes informàtics podem veure-ho de dues maneres diferents: com un avantatge competitiu, com es fa en l’economia tradicional, o podem veure-ho com una eina que permet fer avançar tot un sector. Nosaltres pensem que el desenvolupament de programari de codi lliure ha de ser una eina que ajudi a l’economia social a avançar.

Per tant, quan muntem un projecte de programari de sistemes de la informació, intentem mirar al nostre voltant per veure si podem unir esforços amb altres per tenir el camí una mica recorregut, o podem assegurar que l’esforç que fem nosaltres serveixi perquè altres tinguin una barrera més baixa d’entrada a aquestes eines. Perquè sabem que no tenir-les pot suposar un hàndicap molt important i una pèrdua d’opcions de sobreviure en un món molt complex per projectes més petits. Així doncs, sempre intentem treballar seguint una estratègia col·lectiva.

 

Com i amb qui l’heu desenvolupat? 

Ho fem en xarxa. Treballem amb Som Mobilitat i altres cooperatives. Veiem primer quines necessitats tenim en comú per tal de desenvolupar-les de manera conjunta. També hem fet aliances a mitjà termini amb cooperatives que desenvolupen programari com Coopdevs o Còdec.

I alhora també hem creat una cooperativa de segon grau juntament amb Som Mobilitat i Fundació Finances Ètiques, anomenada SOM IT cooperatiu. A SOM IT, volem tenir un equip de tecnologies de la informació que pugui desenvolupar aquestes eines de codi obert de forma prioritària i aplicar aquesta mirada col·lectiva de desenvolupament de programari. Necessitem un equip gran amb persones amb experiència i trajectòria. Hem pensat que a través d’aquesta cooperativa amb una estructura de segon grau podem arribar a aquest objectiu. 

 

Quan diem que és obert, volem dir que qualsevol persona o organització hi pot accedir i/o modificar-lo o reutilitzar-lo?

Sí, qualsevol persona pot accedir-hi, modificar-lo, utilitzar-lo  i fer-lo créixer en un entorn diferent. També pot haver-hi gent que entri al nostre projecte i faci millores sobre el nostre codi, de manera que també ens ajudi. Tenim experiències d’aquest tipus amb projectes com l’ERP (software per a gestionar els diversos processos de treball de la cooperativa) que utilitzem, que és Odoo. L’entitat que ho coordina és la OCA (Odoo Community Association), una comunitat que es dedica a veure quins desenvolupament comunitaris han d’entrar al programari i en quines circumstàncies. 

 

Quin tipus de servidor fem servir i quines diferències té amb un tipus de servidor convencional?

No gestionem servidors propis, utilitzem proveïdors. Intentem seleccionar proveïdors amb determinats criteris, com que formin part de l’economia solidària. Per exemple, usem Pangea, que ens dona servei de correu, i de Nextcloud (repositori de documents).

Un altre criteri és que facin servir el codi obert en les seves solucions, que emprem per servidors més crítics com la pàgina web.

També fem servir altres proveïdors de servidors més tradicionals, on tenim un espai de servidor concret més nostre que podem usar per a les nostres aplicacions, com l’Odoo.

 

Fins on arriba el codi obert? Podem suplir totes les funcions que requereix fer funcionar la cooperativa amb aquest tipus de programari?

Per nosaltres és una prioritat però no un requisit imprescindible. Les organitzacions són espais complexos i els equips necessiten cobrir les seves necessitats de manera professional sense que comporti una sobrecàrrega. I, per tant, el programari ha de ser una eina que ajudi els equips a desenvolupar la seva feina.

Sempre que hi ha un projecte potent, que té una comunitat activa i que les funcionalitats que dona aquest projecte són de qualitat, apostem pel codi lliure i el prioritzem. Però quan no hi ha unes necessitats concretes de programari sense un projecte madur que les cobreixi, no tenim la capacitat d’assumir tot aquest pes nosaltres. Per tant, és una prioritat però no un requisit. A vegades no trobem un programari lliure que cobreixi les necessitats que tenim.

 

A Som Connexió donem suport al manifest “Per una intel·ligència artificial de tothom i per a tothom” i ens hem associat a CIVICAi, associació creada per vetllar per a una IA de totes i per a totes. Com creus que es pot aprofitar el potencial de la IA per posar-la al servei del bé comú? Pot conviure amb un model d’IA desenvolupada al servei de les grans corporacions?

La IA té un potencial molt important per aportar coses positives a la societat. Si el seu ús és correcte, podem imaginar-nos avenços en àmbits com el mèdic, tant de diagnòstic com d’investigació o bé per trobar solucions a la crisi climàtica o a la cerca de solucions a certs processos o tasques de poc valor o satisfacció.

Si ens imaginem també  noves maneres de distribuir riquesa, podria ser una eina perquè les persones dediquem menys temps a la feina. El problema és que sembla que no va en aquesta direcció. Com va passar amb la generalització d’internet, l’entrada de les tecnologies del núvol o les xarxes socials, s’estan liderant per grans corporacions. I, per tant, el benefici econòmic es converteix en l’únic criteri a l’hora d’escollir què fer i què no. Això implica que aquestes tecnologies amb potencial de ser molt positives, acabin tenint uns efectes negatius que en l’àmbit social ens hem de plantejar. El risc de copiar models que ja hem vist és molt elevat. De fet, és el que està passant amb tecnologies de dades tancades que no sabem quins són, amb l’aplicació de biaixos a l’hora de prendre decisions.

 

En quin projecte s’està utilitzant i quines creus que són les claus per fer-ho de forma ètica? 

Estem en una fase molt inicial, i ho estem fent amb una mirada col·lectiva. Estem treballant amb Som Mobilitat i el Col·lectiu Ronda en recollir casos d’ús per veure com aquestes tecnologies ens poden ajudar. En el nostre cas, en els equips d’atenció a les persones consumidores i d’administració. Volem utilitzar la IA tant en l’àmbit de tractament de documents (processos repetitius de baixada de documents, lectura i classificació), com amb les peticions de les persones usuàries: fer una reclassificació semiautomàtica per ajudar els equips a eliminar tasques repetitives que aporten poc valor.

D’altra banda, estem iniciant un camí de construir unes guies per saber com aplicar la mirada de l’economia solidària a aquestes eines de forma conscient. Tenint en compte els biaixos, riscos, i l’impacte en la privacitat i els drets de les persones. Estem fent l’exercici de reflexionar amb consciència i plasmar-ho en un document que ajudi a saber el que hem de tenir en compte quan posem en marxa aquests processos. Sempre amb un to d’ajuda. Per l’elaboració d’aquesta guia, estem treballant amb Digital Fems que amb la seva mirada feminista sobre la tecnologia ens estan ajudant a sistematitzar, detectar biaixos, riscos, per incorporar-ho als nostres projectes.

 

La utilització de la intel·ligència artificial (IA) està repercutint en automatitzar processos i, per tant, es redueix el volum de llocs de treball. Creus que en el vostre cas també ho està fent? Com esteu revertint aquesta situació a la cooperativa?

La introducció de la digitalització va tenir impacte en l’eliminació de certes tasques repetitives i amb la IA pot continuar passant. Des de l’equip d’atenció a les persones consumidores ens demanen l’activació de processos semiautomàtics per aquelles tasques que aporten poc valor a les persones.

Com a cooperativa, en l’àmbit de model econòmic i de manera de veure el món que representem, volem que aquestes noves tecnologies tinguin un impacte directe positiu en les persones que estem contractant i volem continuar contractant.

No estem pensant en un estalvi de costos directe quan volem implementar aquests processos, sinó que estem pensant en què les persones que treballem a la cooperativa tinguin una feina amb una aportació de valor directe (més satisfacció amb un mateix i amb la feina que fem) i millor servei cap a les persones usuàries.

Per exemple: té més sentit dedicar mitja hora a acompanyar a una persona gran a configurar el seu rúter que no dedicar deu minuts a tasques de cures i quinze més a fer la resta de tasques repetitives perquè si no es fan no es pot treballar. El focus no és l’eliminació de llocs de treball sinó l’alliberament de temps perquè les tasques que es puguin fer tinguin un impacte en les persones i en el servei que donem.

 

Com podem imaginar el futur? Com pot evolucionar la cooperativa amb l’ajuda de la IA?

És difícil imaginar el futur i cap a on anirà amb els canvis tecnològics que estem vivint. Fa un parell d’anys no ens imaginàvem que ara estaríem en aquest avenç en la IA.

Crec que acabarà essent una eina que anirem incorporant de manera esglaonada, a poc a poc en la implementació de processos. De la mateixa manera que ara tenim un sistema de gestió ERP, també tindrem tasques que estaran sostingudes per aquest tipus d’eines. Se’n parla molt perquè és molt espectacular el que pot arribar a fer, però penso que trigarà en arribar. El pas a portar-ho a processos de treball no serà immediat, s’anirà generalitzant de manera gradual. I haurem d’estar a sobre de com es va fent perquè sigui una eina que estigui al servei de les persones consumidores.

 

Tingueu per segur que d’aquí a uns mesos seguirem parlant de la IA. 

En un món accelerat on la tecnologia fa passos cada cop més grans, nosaltres no ens volem quedar enrere: no tenim el capital ni els mitjans per investigar i crear al seu ritme, però volem seguir informades i informant-vos del que es cou en el món digital. I sobretot, volem poder seguir creant eines que ens donin més autonomia: que ens permetin no dependre’n, que no es faci negoci amb la nostra activitat, informació i coneixement.

Ens llegim al pròxim article!

Potser t'interessa...