Ulises Cortés: “La intel·ligència artificial ha de ser confiable”

El Palau Macaya convida a Ulises Cortés a parlar del benestar digital i els problemes que comporta la intel·ligència artificial en els sistemes democràtics

Laia Solé

Humanitats i Periodisme

La sala d’actes del Caixaforum Macaya és sens dubte un espai on la tecnologia i la digitalització hi han arribat. El passat dilluns 10 de gener va acollir La intel·ligència artificial, una eina útil per la democràcia. Una conferència d’Ulises Cortés, catedràtic del Departament de Ciències de la Computació de la UPC, que va reflexionar sobre el potencial que els mitjans digitals poden arribar a tenir en la democràcia, un tema que ha estat objecte d’intensa discussió. L’acte, que s’inclou en el marc de les activitats que organitza l’Observatori Social de la Fundació “La Caixa” en col·laboració amb l’Escola Europea d’Humanitats, va aconseguir omplir gairebé tota la sala.

Ulises Cortés ha fet una conferència al CaixaForum Macaya

Josep Ramoneda va ser l’encarregat de presentar al ponent, ho va fer mostrant una gran admiració per ell, definint-lo com “un científic que mai abandona la perspectiva de les humanitats”. A més, va aplaudir al públic present, qualificant d’acte de valentia l’assistència a iniciatives d’aquest tipus en plena onada pandèmica. Abans de donar pas a Cortés, Ramoneda va llançar una sèrie de preguntes per situar la reflexió: “Com es camina cap al benestar digital?, és la digitalització la terra promesa?”.

Cortés va parlar sobre la propietat de la tecnologia, sobre com es pot utilitzar la intel·ligència artificial adequadament evitant que certs sectors s’enriqueixin a costa d’aquesta aprofitant el buit legislatiu, i fer patent la necessitat que les societats discuteixin seriosament què són les dades. Ara bé, abans d’abordar la complexitat de la intel·ligència artificial, Cortés va assajar una definició del concepte democràcia, un pas fonamental per emmarcar el tema de la xerrada: “La democràcia és el govern de tots on el vot de la majoria és el que regna”. A continuació va enumerar les diverses problemàtiques que aquest presenta: les democràcies són corruptibles, no són ràpides prenent decisions, són dolentes responent a problemes greus, i els governants tendeixen a perdre l’interès a informar a tothom de les decisions preses. A més, es basen en dades i en l’ús d’algoritmes esbiaixats per l’opinió dels programadors. Així i tot, és un sistema que ha anat guanyant protagonisme en els darrers 100 anys.

“La democràcia no és possible si no es disposa de privacitat”.

Definit aquest primer terme, el mexicà va definir la intel·ligència artificial com “un sistema transparent i persistent que, capturant informació de l’entorn, és capaç d’actuar de forma independent sabent que té unes metes concretes a assolir”. El problema, va al·legar el científic, és com la gent interpreta aquest concepte. “La intel·ligència artificial s’ha convertit en una paraula comodí, buida de significat, també en un oracle, el que abans es demanava a la màgia, avui es demana a aquest sistema”.

A més, existeixen una sèrie de problemàtiques vinculades a la intel·ligència artificial. En primer lloc, són les empreses i no els governs els qui inverteixen en la seva investigació, cosa que es tradueix en el fet que el coneixement no pertany a la ciutadania, sinó a entitats privades. També es manipulen missatges, s’impedeix que el ciutadà desenvolupi les seves pròpies idees, es perden llocs de treball i augmenta la capacitat de vigilància i, conseqüentment, l’autoritarisme dels governs. En definitiva, aquesta tecnologia pot atemptar directament contra els drets humans disminuint la intimitat i la privacitat de la població. Una realitat conflictiva si es té present que la democràcia no és possible si no es disposa de privacitat.

D’altra banda, més enllà de destacar el cantó més pessimista de la relació entre democràcia i intel·ligència artificial, Cortés va subratllar també els aspectes positius que aquests sistemes digitals poden aportar a la governança democràtica. Segons el científic, “la societat no és una màquina, i, per tant, aquesta part de la informàtica no ha de ser el motor d’una democràcia, però sí que pot ser-ne un suport”. Un bon ús de la intel·ligència artificial podria convertir-se en una eina útil en la presa de decisions polítiques, sempre que els algoritmes s’apliquessin públicament.

“Una democràcia digital només serà possible si hi ha un canvi moral i les persones es converteixen en agents actius de la tecnologia”.

El ponent va acabar la conferència presentant una petita proposta pel que fa al paper que la intel·ligència artificial ha de tenir en les democràcies. “La intel·ligència expressada per màquines s’ha de regular per poder-ne extreure una utilitat”, va defensar el científic. Una regulació que, des de la seva perspectiva, ha de passar pels següents punts: la promoció d’una intel·ligència artificial confiable, la creació d’una carta de drets digitals, la suplència dels buits i les incapacitats del sistema a partir de la democràcia, la promoció de debats sobre aquesta temàtica, la incentivació d’una intel·ligència artificial justa, identificable, i intel·ligible, i la generació d’una responsabilitat. “Una democràcia digital només serà possible si hi ha un canvi moral i les persones es converteixen en agents actius de la tecnologia”, afirma Cortés.

Un cop acabada la ponència, es va obrir un torn de preguntes perquè tothom pogués expressar les seves inquietuds al respecte. Temes com el mal ús que els propietaris de la tecnologia fan de les dades, l’esforç que s’ha fet des de Barcelona per progressar en aquest sentit i, l’origen etimològic del concepte, són alguns dels temes que es van abordar en aquest tram final de l’acte.

Jean Monnet, al segle XIX defensava que només les persones poden canviar i enriquir les institucions i transmetre-ho després a generacions futures. Cortés va utilitzar aquesta cita de l’economista francès al final de la conferència per reivindicar la importància del canvi de moral que fa falta, “un canvi en què es busqui el millor per l’home i s’eviti costi el que costi que la tecnologia es converteixi en una cosa perillosa”.

Fes-te subscriptor de Núvol

Suma't al digital de cultura i gaudeix d'un munt d'avantatges

  • Participa en sortejos setmanals i guanya llibres

  • Rep la revista anual en paper

  • Accedeix a la Biblioteca del Núvol

  • Aconsegueix descomptes culturals

Subscriu-t'hi ara!
Torna a dalt
Núvol utilitza 'cookies' per millorar l'experiència de navegació. Si continues navegant entendrem que ho acceptes.
Accepto Més informació