Jordi Salvador i DuchERC
Diputado
«Ara bé, també hem de dir la veritat. Aquesta proposta es queda curta, sobretot venint d'un partit que governa i que pot fer immediatament el que calgui, perquè tindria els vots suficients en temes com aquests. De què estem parlant? Imaginem-nos tres coses senzilles, perquè ens entenem de què estem parlant. Una web d'un servei públic que només pot fer servir un ratolí i petites finestres, doncs una persona amb discapacitat visual, no hi podria entrar, per exemple. Un sistema automàtic que tria currículums elimina sense voler, per exemple, persones que han treballat menys anys, perquè han tingut una discapacitat des de sempre o de cop i volta. També és discriminació, però disfressada de neutralitat. Una aplicació municipal d'emergència no accessible al llenguatge senzill per a les persones amb discapacitat intel·lectual, aquestes queden desprotegides. D'això és del que estem parlant: de drets humans en versió digital. Per això diem que no n'hi ha prou amb bones paraules i una proposició no de llei, no n'hi ha prou. Calen coses molt, molt, molt, molt clares. En direm tres, per no dir-ne més. La primera: calen lleis, lleis, no només declaracions. Si una administració o una empresa fa servir la intel·ligència artificial per excloure persones amb discapacitat, ha de ser obligatori i corregir-ho, i s'ha de poder sancionar si cal. Si no, no serveix de res. Les bones intencions normalment es queden en res, malauradament. Segon: res sobre nosaltres sense nosaltres, que és un dels lemes del moviment de discapacitats i ens agrada molt dir-ho. Res sobre nosaltres sense nosaltres. Què vol dir això? Que no podem dissenyar aplicacions, webs o algoritmes sense seure a taula amb les persones que en patiran les conseqüències. Si dissenyem una ciutat sense rampes, la culpa no és de qui va en cadira de rodes. Doncs amb la intel·ligència artificial passa el mateix. Si no hi ha rampes digitals, si no hi ha accessibilitat, el problema no és la discapacitat, és del sistema. Tercer: transparència i control públic. Quan un algoritme decideix alguna cosa important sobre la teva vida (una prestació, una ajuda o una cita mèdica), no pot ser una caixa negra. La ciutadania ha de poder saber quina eina utilitzes, amb quines dades, amb quins criteris, i l'administració ha de poder dir: 'Aquest sistema discrimina, l'aturarem, el revisarem, el corregirem i, si cal, el sancionarem'.»
Fragmento 2 de 5 de esta intervención.