Totes aquestes operacions generen valor privat. Però, i si fem servir la IA per crear valor públic? Des del Registre de Vehicles de Motor (RMV) fins al Servei d’Impostos Interns (IRS), l’Administració de Seguretat en el Transport (TSA) o l’Administració d’Aliments i Medicaments (FDA), el Govern federal pot aprofitar la IA per proporcionar serveis de qualitat als seus ciutadans, de manera més eficient i equitativa.

Els fonaments de la IA

La IA és definida per l’Oxford English Dictionary com “la teoria i el desenvolupament de sistemes informàtics capaços d’acomplir tasques que normalment requereixen la intel·ligència humana, com la percepció visual, el reconeixement de la veu, la presa de decisions i la traducció entre diferents idiomes”.[1] 

Hi ha quatre trets que caracteritzen la IA. Primer, l’AI té la capacitat de prendre decisions o, almenys, de donar suport a la presa de decisions. Segon, les decisions de la IA requereixen una combinació d’atributs de la intel·ligència humana, des de la percepció fins a la resolució de problemes, el raonament o l’aprenentatge de l’idioma.[2] Tercer, els sistemes d’IA combinen diferents fonts de dades i actuen en funció de la seva anàlisi. Això contrasta amb les respostes preprogramades.[3] Quart, la presa de decisions retroalimenta el sistema per poder millorar-lo contínuament. 

Les categories d’IA 

L’evolució de la IA no s’ha vist limitat a les idees per a aplicacions. L’ampli ventall d’aplicacions de la IA es categoritza en tres grups, en funció del seu nivell de pensament humà o “sofisticació”. Les aplicacions d’intel·ligència artificial són les menys sofisticades. Busquen dissenyar programes i màquines intel·ligents fent servir un codi estàtic. Les aplicacions d’IA per jugar a escacs o amb control de veu (p. ex., Siri), o els robots per fer les tasques domèstiques, entren dins aquesta categoria. L’aprenentatge automàtic parteix d’un codi escrit, però després va millorant amb cada decisió o nova informació que rep. El software que anticipa la redacció dels nostres e-mails i proposa la paraula o la frase següents n’és un exemple. L’aprenentatge profund o les xarxes neuronals són les aplicacions més sofisticades. En aquest cas, el sistema està programat per replicar la manera de pensar del cervell humà acceptant i assimilant grans quantitats de dades no filtrades ni estructurades. És el que fem quan conduïm instintivament; els vehicles autònoms funcionen així per mitjà de la informatització de l’aprenentatge profund. 

Casos d’ús de la IA per al govern

Els casos d’ús de la IA al sector públic en general aborden quatre funcions que són nuclears per a qualsevol govern: 1) proporcionar seguretat i protecció; 2) prestar serveis públics; 3) recaptar ingressos, i 4) actuar amb eficàcia i efectivitat. Se’n troben molts exemples arreu del món. La IA per a la seguretat i la protecció s’observa als aeroports de molts països. El de Narita (Japó) utilitza robots avançats per millorar la seguretat detectant anomalies en les persones, l’equipatge i els equips. L’aeroport també utilitza un software de reconeixement facial per facilitar el moviment dels passatgers i reduir els costos operatius, tot mantenint els protocols de seguretat.[4] 

La IA s’està utilitzant per millorar la provisió de molts serveis públics, des de l’assistència sanitària fins al sistema de justícia penal o la previsió del temps. Els bots, sistemes informatitzats que simulen una conversa humana, són una eina molt útil per oferir serveis de qualitat de manera eficient i equitativa. El Govern ruandès va col·laborar amb Babylon Health per crear un bots que l’ajudessin en el procés de triatge dels pacients que acudien a l’hospital. Després d’atendre els símptomes dels pacients, l’eina de triatge feia recomanacions amb relació a l’accés a l’atenció sanitària.[5]

La IA també està facilitant la recaptació d’impostos. L’any 2019, l’OCDE informava que més de 40 autoritats fiscals ja estaven utilitzant la IA o tenien previst fer-ho.[6] Per exemple, el Govern espanyol s’ha aliat amb Watson d’IBM per utilitzar aquest sistema per abordar qüestions relacionades amb l’IVA, i així ha aconseguit reduir un 80% les consultes per e-mail.[7] A més, la IA s’està utilitzant per detectar pagaments anòmals i fraus. El Servei d’Impostos Interns dels Estats Units està introduint un bot d’IA que és capaç d’ajudar els qui s’han endarrerit en el pagament dels seus impostos a elaborar un pla de pagament.[8]

La IA també està incrementant l’eficàcia i l’efectivitat del govern, facilitant millors decisions i prestant serveis a uns costos més baixos. Atreure, contractar i retenir els empleats és una activitat costosa per a les administracions públiques. La IA està millorant tot aquest procés. Facilita la contractació utilitzant algorismes per seleccionar, entre les moltes sol·licituds que rep, aquells perfils que s’ajusten millor a la posició que s’ha de cobrir. Les decisions de contractació s’optimitzen en funció del potencial de creixement dels candidats. La retenció millora amb els sistemes d’IA que identifiquen aquells empleats que tenen més risc d’anar-se’n.

Les preocupacions que suscita la IA 

La IA no està exempta de controvèrsia. Titulars com “Amazon scraps secret AI recruiting tool that showed bias against women” [“Amazon descarta una eina de reclutament basada en la IA que presentava biaixos contra les dones”][9] o “Disinformation Researcher Raise Alarms About AI Bots” [“Un investigador de la desinformació dispara les alarmes sobre els bots d’IA”][10] posen de manifest els riscos i les preocupacions respecte a la IA. Entre els primers, hi ha riscos socials, com la desinformació, la vigilància excessiva i, fins i tot, les armes autònomes. També es planteja el risc econòmic que suposen la desigualtat i l’augment de la bretxa entre rics i pobres a escala nacional. La preocupació més global és la que concerneix les qüestions ètiques: Els usos concrets de la IA són coherents amb els valors i amb les normes de la societat? No contenen biaixos els algorismes? 

El seu impacte sobre l’ocupació també és motiu de preocupació entre els responsables polítics. Els bots estan eliminant llocs de treball d’atenció al client. Els robots estan substituint la feina manual. Els vehicles automàtics suposen una amenaça per als conductors professionals. Gairebé totes les organitzacions experimentaran els seus efectes sobre el treball. Hi ha diverses opcions per mitigar el seu impacte negatiu. L’enfocament a llarg termini és orientar la formació de les facultats i de les universitats perquè els futurs treballadors estiguin habilitats per treballar amb la IA. Les solucions a curt termini se centren en el reciclatge, que requereix l’esforç conjunt de les empreses, el govern i les organitzacions de treballadors. 

Abordar els límits de la IA. Principis rectors

Els responsables polítics han d’avançar per la línia tan prima que hi ha entre permetre les aplicacions d’IA que generen valor privat i públic i regular la tecnologia per tal d’evitar biaixos i discriminacions: la línia de la “IA responsable”. 

El punt de partida per a la IA responsable és fixar unes directrius per al seu desenvolupament i ús. L’OCDE ha establert una sèrie de principis per a l’ús de la IA. Els principis de l’OCDE, basats en valors, inclouen l’equitat, la transparència i la seguretat i la garantia d’explicabilitat, i la rendició de comptes. Les seves recomanacions “pretenen fomentar la innovació i la confiança en la IA, promovent una gestió responsable d’una IA de confiança, i alhora assegurar el respecte als drets humans i als valors democràtics”.[11]

Aplicar els principis rectors

Els consells o els comitès de supervisió ètica de la IA són un instrument per dissenyar aplicacions d’IA de confiança en el govern. Aquests comitès són com el guardià de l’organització que busca garantir que els inputs, la programació i els outputs dels sistemes d’IA que s’hagin desenvolupat dins l’organització o s’hagin adquirit a tercers s’ajusten sistemàticament i del tot als valors essencials de l’organització. 

Les auditories són un altre instrument per obtenir una valoració independent dels algorismes de la IA. Fan el que es vol que facin? Manegen dades no esbiaixades? Se’n mitiguen els riscos? Les respostes afirmatives dels auditors d’IA a aquestes preguntes generen confiança. El procés d’auditoria no és trivial. “Els sistemes d’IA no són unes poques línies de programació, sinó uns sistemes sociotècnics molt complexos, que consisteixen en una combinació de decisions tècniques i pràctiques socials.”[12] 

L’Oficina de Rendició de Comptes del Govern dels Estats Units va publicar l’any 2021 unes directrius d’auditoria per a les agències federals. Aquest document conté una llista de control i informació detallada per garantir la integritat de la governança, de les dades, de l’acompliment i del seguiment.[13] Atenció: Les auditories poden conferir una empremta de fiabilitat, però si els estàndards pels quals es guien tant l’auditoria com els auditors són limitats, hi ha el risc que el resultat sigui un “blanqueig d’auditoria”. Per abordar aquesta qüestió, la ISACA, una comunitat global dedicada a incrementar la fiabilitat de la tecnologia en general i de la IA en particular, expedeix un Certificat de Fonaments de IA.

La línia de resultats

La IA forma part del nostre món i serà encara més important als propers anys. La IA té el potencial de millorar l’eficiència i l’efectivitat del govern. Són moltes les oportunitats que ofereix i que oferirà en el futur. Tanmateix, hi ha també alguns riscos que cal entendre i mitigar. 

Recomanacions polítiques

• Definir els principis de la IA; els principis de l’OCDE basats en valors són un bon punt de partida.
• Crear una rúbrica per avaluar els costos i els beneficis d’aplicar la IA al govern.
• Planificar el desplaçament laboral i la recol·locació. 
• Establir estàndards per als consells de supervisió de la IA i protocols d’auditoria.

Implicacions per als professionals

• Identificar els escenaris d’ús de la IA.
• Confirmar el seu valor amb una anàlisi de cost-benefici.
• Planificar-ne el disseny, el desplegament i el seguiment.
• Auditar al llarg de tot el seu cicle de vida.
• Aprendre i identificar els nous escenaris d’ús.

Mark Fagan és professor de Política Pública de la Harvard Kennedy School. La recerca per a l’elaboració d’aquest article ha estat a càrrec d’Emily Ratte i Nanditha Menon, estudiants de màster de la Harvard Kennedy School.

Per a una descripció més detallada de la IA en el govern: https://www.hks.harvard.edu/sites/default/files/centers/mrcbg/files/2023-01_FWP_v2.pdf 

Referències

[1] Oxford English Dictionary.

[2] https://www.britannica.com/science/human-intelligence-psychology (p. 2 de 26)

[3] https://www.brookings.edu/research/what-is-artificial-intelligence/ 

[4] https://www.naa.jp/en/airnarita/automation.html 

[5] https://www.weforum.org/reports/chatbots-reset-framework-rwanda-artificial-intelligence-ai-triage-pilot 

[6] https://read.oecd-ilibrary.org/taxation/tax-administration-2019_74d162b6-en 

[7] https://www.ciat.org/the-use-of-artificial-intelligence-by-tax-administrations-a-matter-of-principles/?lang=en 

[8] https://federalnewsnetwork.com/artificial-intelligence/2022/06/irs-expands-ai-powered-bots-to-set-up-payment-plans-with-taxpayers-over-the-phone/ 

[9] Reuters, Jeffrey Dastin, 2018.

[10] New York Times, Hsu i Thompson, 2/8/23.

[11] https://legalinstruments.oecd.org/en/instruments/oecd-legal-0449

[12] https://hai.stanford.edu/news/stanford-launches-ai-audit-challenge

[13] https://www.gao.gov/assets/gao-21-519sp.pdf