Des de les cantonades del carrer fins a les finestres de xat

Els governs i la ciutadania es troben de moltes maneres: a l’altra banda d’un taulell d’una oficina de serveis socials, en una comissaria de policia, al telèfon amb un funcionari d’Hisenda, o en un intercanvi de correus electrònics. Aquests moments, en què una persona demana alguna cosa a l’Estat i un funcionari públic hi respon, són el que anomenem trobades públiques (Goodsell, 1981). Durant aquestes interaccions, les normes i polítiques abstractes són interpretades i aplicades pels treballadors de primera línia, i els drets escrits a la llei es transformen en prestacions, permisos o sancions per a la ciutadania. En aquest sentit, la recerca prèvia ha aportat proves que les trobades públiques són carregades d’emoció i tenen un caràcter negociat. Per aquesta raó, el politòleg Michael Lipsky ja va afirmar a finals dels anys seixanta que les trobades públiques no poden ser programades, i que les màquines no poden substituir els humans en la prestació de serveis públics.

Amb l’arribada de la intel·ligència artificial, i més concretament amb l’auge dels xatbots impulsats per IA, l’afirmació de Lipsky es veu cada vegada més qüestionada. Des del programa ambiciós Bürokratt d’Estònia fins als xatbots municipals del Regne Unit, Finlàndia i els Països Baixos, els xatbots han començat a parlar amb la ciutadania, de vegades complementant i de vegades substituint la necessitat d’interaccions presencials que abans tenien lloc en oficines governamentals concorregudes.

Aquesta transformació planteja una pregunta important tant per als professionals com per als investigadors en administració pública: què passa amb les trobades públiques quan les converses amb la ciutadania ja no les condueixen humans, sinó xatbots governamentals? El nostre article recent, titulat “Public Encounters and Government Chatbots: When Servers Talk to Citizens”, publicat a Public Administration Review, aborda precisament aquesta qüestió.

Per què importen els xatbots per a la prestació de serveis públics

En els darrers anys, els xatbots governamentals s’han difós amb força rapidesa. L’any 2018, 28 països utilitzaven xatbots als seus portals de govern electrònic. El 2022, aquesta xifra més que es va duplicar fins a 69, segons l’UN eGovernment Survey de 2022. Els investigadors han identificat centenars de projectes addicionals en àmbits com els serveis socials, la participació ciutadana o fins i tot l’acció climàtica.

A diferència de les pàgines web governamentals estàtiques, els xatbots poden oferir experiències de servei més dinàmiques i interactives. Quan estan impulsats per grans models de llenguatge adaptats a dades governamentals, poden facilitar que els usuaris trobin respostes i entenguin informació oficial en un llenguatge planer. Alguns experts descriuen els xatbots com a “bessons burocràtics” que ajuden incansablement la ciutadania a navegar pels serveis i accedir a informació rellevant. En teoria, les converses amb xatbots podrien arribar a ser tan naturals com parlar amb un humà, potencialment reduint inconsistències i parcialitats en la prestació de serveis.

Tanmateix, la realitat és més complicada. La recerca ha mostrat que aquestes tecnologies poden reforçar biaixos existents o generar inexactituds en el servei, i les veus crítiques han subratllat la necessitat de mantenir un rostre humà en la prestació de serveis públics per avaluar i comprendre les necessitats complexes de la ciutadania.

Tres lents per entendre les trobades amb xatbots

Partint de la recerca fonamental en administració pública (per exemple, Goodsell, 1981; Lipsky, 1980; Bovens & Zouridis, 2002) i dels estudis crítics sobre intel·ligència artificial (per exemple, Coeckelbergh, 2022), aquest estudi se centra en tres àmbits d’anàlisi especialment rellevants per comprendre les implicacions dels xatbots en les trobades públiques.

1. La discreció humana continua essent central en l’estudi de les trobades públiques. Els treballadors de primera línia sempre han interpretat les normes, especialment quan les lleis són ambigües o els casos són únics. Lluny de ser simples funcionaris passius, exerceixen un judici que dóna significat real a la política. El nostre estudi suggereix que la discreció humana no desapareix de la prestació de serveis, sinó que es trasllada del primer pla al rerefons: les decisions que abans depenien del judici humà davant la ciutadania ara s’incorporen en algoritmes i són configurades per professionals de sistemes d’informació o “bot whisperers” que ajusten dades d’entrenament, paràmetres i models. En altres paraules, la discreció ara és part del desenvolupament i implementació de tecnologies d’IA, i és menys visible per a la ciutadania.
2. Les emocions són un altre element definitori de les trobades públiques. Qualsevol que hagi esperat en una oficina de serveis governamentals o hagi exposat un cas davant d’un treballador social sap que aquestes interaccions rarament són neutrals. La ciutadania hi porta esperança, frustració, ira, por o alleujament, mentre que els funcionaris públics confien en la seva intel·ligència emocional per navegar aquests moments, interpretant el to de veu, el llenguatge corporal, la urgència o la vulnerabilitat, i responent amb empatia o tranquil·litat. Els xatbots, però, tenen dificultats per imitar això. Encara que siguin programats amb un llenguatge educat o una empatia simulada, no poden captar la multitud de senyals emocionals que configuren la interacció humana. En àmbits sensibles com els serveis socials, la immigració o les prestacions de benestar, aquests fracassos emocionals poden tenir conseqüències reals, incloent-hi l’augment de la desconfiança i l’alienació en lloc de construir confiança.
3. L’acomptabilitat pública és el tercer pilar. En les burocràcies tradicionals, quan un funcionari pren una decisió, en principi es pot rastrejar la responsabilitat cap amunt en la cadena de comandament. En la pràctica, sovint és difusa, però existeix dins d’estructures institucionals i professionals. Amb els xatbots, la responsabilitat esdevé obscura. Els polítics n’aproven el desplegament, els gestors supervisen contractes, els desenvolupadors escriuen el codi, i els proveïdors subministren els models d’IA. Quan un xatbot comet errors —per exemple, denegar una prestació, donar informació esbiaixada o classificar malament una sol·licitud—, qui n’és responsable? Els marcs actuals d’acomptabilitat estan poc preparats per a aquesta realitat. A diferència de metges o advocats, la majoria de professionals informàtics que treballen en sistemes governamentals no pertanyen a associacions fortes amb codis ètics o estàndards aplicables. Els mecanismes de supervisió són febles, i les auditories sovint se centren en si el sistema funciona tècnicament, en lloc de si incorpora valors de justícia, equitat i democràcia.

Recomanacions de política: com poden fer-ho bé els governs

La nostra recerca ofereix diverses recomanacions de política que poden ajudar els professionals en el desenvolupament i implementació de xatbots governamentals.

• Usar els xatbots com a complements, no com a substituts dels funcionaris públics. Poden ser efectius per gestionar consultes rutinàries i sol·licituds d’informació, alliberant així els treballadors de primera línia per a casos més complexos i emocionalment exigents. Però no s’han de veure com a substituts de baix cost del rostre humà del govern.
• Reconèixer el paper de les emocions en les trobades públiques digitals. Les interaccions de servei són sovint carregades d’emoció, i els xatbots actuals manquen de mecanismes per respondre adequadament en aquestes situacions. És important mantenir opcions clares de derivació a humans en trobades sensibles.
• Enfortir els mecanismes d’acomptabilitat. A mesura que la presa de decisions es desplaça dels funcionaris de primera línia als desenvolupadors de sistemes, la supervisió hauria d’anar més enllà del rendiment tècnic per incloure valors públics. Establir responsabilitats clares ajuda a prevenir que decisions de codificació individuals generin problemes més grans i reforça la confiança pública en els serveis digitals.
• Convidar la ciutadania a posar a prova els xatbots governamentals intentant “trencar-los” o identificar errors, respostes confuses o resultats injustos. Les conclusions d’aquestes proves poden informar millores del sistema, convertint possibles mal usos en oportunitats d’aprenentatge estructurat.
• Oferir canals dedicats per presentar queixes sobre decisions dels xatbots. Això reforça la confiança i dóna a la ciutadania un paper directe en la supervisió dels sistemes digitals.

Implications for Practitioners: La mà humana darrere de la màquina

Aquestes transformacions plantegen tres enigmes que els governs han d’afrontar:

• Com entenem i governem la discreció quan l’exerceixen enginyers de sistemes en lloc de funcionaris de primera línia?
• Com construïm confiança amb la ciutadania quan les trobades manquen d’empatia o reconeixement emocional humans?
• Com poden adaptar-se els fòrums d’acomptabilitat per assegurar que els xatbots serveixin valors democràtics en lloc de minar-los?

Aquests enigmes no són hipotètics: ja apareixen en escàndols en què sistemes algorítmics han produït resultats discriminatoris, com la crisi de prestacions infantils als Països Baixos o l’escàndol Robodebt d’Austràlia.

La història dels xatbots en l’administració pública no és la de màquines substituint humans, sinó la d’humans exercint discreció de maneres noves i menys visibles. Aquests sistemes no són neutrals: incorporen les eleccions, els valors i els compromisos d’aquells que els construeixen i despleguen. A mesura que les polítiques cada vegada prenen la seva forma final a través d’algoritmes, el repte dels governs no és simplement adoptar xatbots sinó governar-los amb saviesa.

Un disseny reflexiu, processos transparents i mecanismes d’acomptabilitat són essencials si els xatbots han de reforçar, i no debilitar, la confiança pública. Ben dissenyats, poden reduir barreres de servei, ampliar l’accés i millorar l’eficiència operativa. Mal dissenyats, poden aprofundir desigualtats, amplificar biaixos i alienar les persones que més necessiten suport governamental.

La tria que afronten els governs no és entre humans o màquines, sinó entre governança reflexiva i automatització cega. Quan els servidors parlen amb la ciutadania, la conversa ha de romandre ancorada en la igualtat, l’equitat i la cura.

Art Alishani és doctorand al Johan Skytte Institute of Political Studies, Universitat de Tartu. Vincent Homburg és professor associat en Administració Pública a la Universitat Erasmus de Rotterdam i ERA Chair en “e-Governance and Digital Public Services” al Johan Skytte Institute of Political Studies de la Universitat de Tartu. Ott Velsberg és Government Chief Data Officer al Ministeri de Justícia i Afers Digitals d’Estònia i responsable de l’agenda nacional de dades i IA d’Estònia.

Aquest article es basa en la recerca: Alishani, A., Homburg, V., & Velsberg, O. (2025). Public Encounters and Government Chatbots: When Servers Talk to Citizens. Public Administration Review.

Referències

Bovens, M., and S. Zouridis. 2002. “From Street-Level to System-Level Bureaucracies: How Information and Communication Technology Is Transforming Administrative Discretion and Constitutional Control.” Public Administration Review 62, no. 2: 174–184. https://doi.org/10.1111/0033-3352.00168.

Coeckelbergh, M. 2022. The Political Philosophy of AI: An Introduction. Polity Press.

Goodsell, C. T. (Ed.). (1981). The public encounter: Where state and citizen meet. Indiana University Press.

Lipsky, M. (1980). Street-level bureaucracy: Dilemmas of the individual in public service. Russell Sage Foundation.

United Nations. 2022. United Nations E-Government Survey: 2022: The Future of Digital Government. Department of Economic and Social Affairs.