La intel·ligència artificial (IA) ha irromput en la nostra societat de manera abrupta i ha introduït noves formes d’actuació en múltiples àrees d’activitat. Resulta especialment rellevant regular-ne l’ús per protegir i garantir els drets dels ciutadans, ja que no podem ignorar els riscos que pot arribar a ocasionar l’IA en els casos d’ús indiscriminat o negligent, és a dir, per un mal funcionament d’aquesta.
En aquest context, observem com la legislació, a poc a poc, intenta adaptar-se a aquesta nova situació i, més concretament, a aquesta nova tecnologia que s’arrela en la nostra societat a gran velocitat. La Unió Europea, en particular, disposa d’un marc jurídic propi en matèria d’IA, i és la primera regió en regular aquesta tecnologia de manera vinculant a través del Reglament europeu d’intel·ligència artificial (RIA).
L’objectiu principal d’aquesta nova regulació és la protecció dels ciutadans davant d’aquests sistemes de tecnologia innovadors i mancats de regulació, la qual cosa ajuda a un bon ús i funcionament d’aquests. Amb tot això, s’aprova un articulat basat en el risc com a pedra angular que protegeix principalment els drets de les persones però que, alhora, mira de no obstaculitzar el desenvolupament tecnològic ni la investigació en la matèria.
Així les coses, el RIA es construeix partint d’una jerarquia de riscos segons els usos i les pràctiques dels sistemes d’intel·ligència artificial, determinant requisits, obligacions i prohibicions segons cada categoria:
| RISCOS | ACTUACIONS O OBLIGACIONS |
| Risc inacceptable | Usos prohibits |
| Risc alt | Usos de sistemes d’IA amb excepcions, requisits i obligacions |
| Risc limitat | Obligacions de transparència lleus |
| Risc mínim | Usos de sistemes d’IA que es poden dur a terme |
I com afecta l’IA a les administracions públiques? És possible utilitzar aquesta tecnologia en la gestió diària de qualsevol entitat local? Doncs bé, dins de la multitud d’àrees d’actuació i de funcions que tenen encomanades les administracions públiques, a tall d’exemple, podem exposar uns quants casos de possibles usos de sistemes d’IA dins d’una entitat pública:
- Assistents virtuals o d’ajuda en webs o seus electròniques municipals, en matèria d’atenció ciutadana.
- Programes de traducció d’idioma. Els serveis de traducció també s’han vist transformats amb l’arribada de l’IA.
- Ciberseguretat. Els sistemes d’intel·ligència artificial també poden contribuir a identificar i combatre els atacs cibernètics i altres amenaces a través de l’anàlisi de grans quantitats de dades que reben contínuament, i poden arribar a reconèixer patrons per impedir futurs atacs.
- Detecció de desastres naturals. A través de l’IA és possible la detecció i prevenció de determinats desastres naturals, de manera que permeti a les autoritats competents una preparació adequada que en redueixi les conseqüències.
- Gestió de residus. És possible millorar el servei de gestió de residus urbans amb l’ús d’eines o sistemes basats en IA de manera que sigui més senzilla la recollida i el tractament de residus i es pugui optimitzar el mateix servei de recollida de residus creant rutes i horaris que siguin més efectius i eficaços per al municipi.
En conseqüència, és indubtable que l’ús de sistemes d’IA contribueix a més agilitació i eficàcia dels processos, i també, en ocasions, ajuda a una precisió més alta en les actuacions administratives. Tanmateix, podem deixar en mans de l’IA qualsevol tipus d’actuació administrativa o qualsevol prestació de servei? És una qüestió clau que ens hem de plantejar abans d’implantar qualsevol sistema d’IA dins de l’organització.
Qualsevol ús de sistemes d’IA tant en el sector públic com en el privat comporta el compliment d’obligacions (actualment recollides en el RIA), com l’avaluació i la gestió de riscos, la conservació de registres i la supervisió humana, entre d’altres.
No obstant això, aquesta darrera resulta especialment rellevant per al sector públic, ja que, tot i que amb la utilització de sistemes d’IA no cal la intervenció d’una persona física, ineludiblement es requereix supervisió humana.
Els responsables davant de qualsevol decisió presa per un sistema d’IA són les persones encarregades de la presa de decisió.
Amb tot això, podem concloure que, efectivament, els sistemes d’IA es poden utilitzar com a assistents o com a suport per a la presa de la decisió final en qualsevol actuació administrativa; tanmateix, la responsabilitat recau finalment en l’empleat o l’òrgan administratiu que pren la decisió, és a dir, qui signa el document. Així les coses, si bé és cert que hi ha un ampli ventall de possibles usos de sistemes d’IA per a les administracions públiques, hem de ser cauts en la seva utilització i implantació sense deixar-ho tot a la decisió de les «màquines».
Podeu ampliar la informació sobre aquest tema accedint a la secció d’administració electrònica de la plataforma corporativa de esPublico: un espai de contingut especialitzat dedicat a facilitar l’adaptació de les entitats locals a la seva actuació per mitjans electrònics, així com a donar suport al procés de transformació digital.
La secció ofereix nombrosos recursos explicatius, entre d’altres, guies didàctiques, infografies interactives, videotutorials, diccionari de terminologia digital, etc.
Podeu accedir a la secció d’administració electrònica de esPublico prement aquí.
