Societats algorísmiques

A través de la participació que té en la presa de decisions polítiques, la intel·ligència artificial està transformant totes les dimensions de l’esfera pública. Des de la modelització dels fluxos urbans durant la pandèmia de COVID-19 fins a la governança de la immigració i el benestar social, l’impacte de la IA ressona arreu. Precisament pel seu gran poder transformador, no podem fer servir aquesta nova eina sense comprendre’n bé el límits i les potencialitats.

Què passa quan reduïm la complexitat dels fenòmens socials només als elements que es poden expressar en el llenguatge dels algorismes? Quin sentit tenen les idees de comunitat política o assemblea urbana quan es redefineixen com a conjunts de dades? Què hi ha en joc quan ens diuen que problemes polítics inabordables esdevenen tractables mitjançant el disseny d’un model algorísmic? Alhora, cal una reflexió sobre els valors que estan configurant les aplicacions de la IA. Quin és l’origen dels biaixos que impregnen els algorismes? A quins interessos responen?

Per intentar respondre a aquestes i moltes altres qüestions, el seminari oferirà un espai de debat entre experts procedents d’àrees de coneixement tan diverses com la geografia urbana, la sociologia, la filosofia, l’enginyeria, la història de la ciència, la intel·ligència artificial i el disseny. Només una conversa multidisciplinària ens pot ajudar a entendre les transformacions humanes i socials que planteja el desenvolupament de la intel·ligència artificial.

El dimarts 21 i el dimecres 22 tindran lloc dos actes públics relacionats amb aquest seminari: N. Katherine Hayles / Ser humà en l'era de la IA i Ramon López de Mántaras / És possible una IA ètica?

 

Dimarts, 21 de novembre

9:30 – 10:00
Obertura: CCCB i Universitat de Durham

10:00 – 11:45
MÓNS EXPERIMENTALS
Les tècniques d’aprenentatge automàtic estan generant noves formes d’experimentació en el món de les dades. Com s’està reconfigurant l’estructura de la societat a través dels experiments algorísmics?
Orit Halpern (Universitat Tècnica de Dresden)
Mercè Crosas (Barcelona Supercomputing Center)
Benjamin Jacobsen (Universitat de York)
Modera: Albert Sabater Coll (Observatori d'Ètica en Intel·ligència Artificial de Catalunya)

12:00 – 13:45
PREDIR I DESCOBRIR
Esbrinar patrons, detectar característiques «predictives»... la idea d’una capacitat descobridora dels sistemes d’IA ha estat clau en el seu auge. Què passa quan els algorismes d'aprenentatge automàtic «descobreixen» els atributs de la societat? Quin valor té la informació que es perd o es descarta durant aquest procés?
Nanna Bonde Thylstrup (Universitat de Copenhague)
Ludovico Rella i Alexander Campolo (Universitat de Durham)
Johannes Bruder (Universitat d’Arts y Ciències Aplicades del Noroest de Suïssa)
Marta Handenawer (Domestic Data Streamers)
Modera: Louise Amoore (Universitat de Durham)

 

Dimecres, 22 de novembre

10:00 – 11:45      
DISCRIMINACIONS ALGORÍSMIQUES
Des de les tècniques de clusterització fins als sistemes de vigilància racialitzada, estan sorgint noves formes de divisió social. De quina manera la IA discrimina grups de població? Quines són les implicacions per a les categories de raça, gènere i sexualitat?
Thao Phan (Universitat Monash)
Scott Wark (Universitat de Kent)
Rocco Bellanova (Universitat Lliure de Brussel·les)
Carlos Castillo (ICREA-Universitat Pompeu Fabra)
Adrián Arnaiz (Fundació ELLIS Alacant)
Piera Riccio (Fundació ELLIS Alacant)
Modera: Jordi Pérez Colomé (El País)

12:00 – 13:45      
GOVERNANÇA ARTIFICIAL
Des de la modelització del clima fins a l’aplicació d’algorismes en el món del dret, la IA està generant nous ordres polítics. Quines són les conseqüències de la classificació, la visió i la modelització algorísmiques per a la governança de les societats?
Fabian Offert (Universitat de Califòrnia a Santa Bàrbara)
Antoinette Rouvroy (Universitat de Namur)
Till Straube (Universitat Goethe de Frankfurt)
Marta Galceran (CIDOB)
Modera: Ulises Cortés (Barcelona Supercomputing Center)