- Administració oberta
- Congrés Govern Digital
Congrés Govern Digital: l’espai de connexió estratègica entre l’administració i les empreses
El director de l’AOC, Miquel Estapé, i la cap de servei d’Innovació, Carme Callés, van presentar a l’Smart City Expo World Congress (SCEWC) la iniciativa de transparència algorísmica que l’AOC aplica al seus serveis. L’objectiu principal és fomentar la confiança en els serveis d’administració digital que utilitzen dades i intel·ligència artificial (IA), tot assegurant un ús ètic i responsable. La sessió, celebrada el passat 7 de novembre a l’Àgora de l’estand Catalonia del SCEWC, va tenir una molt bona acollida. Des de l’AOC, volem agrair especialment la presència dels representants d’ajuntaments catalans interessats en aquesta iniciativa.
Amb aquest projecte, l’AOC busca promoure la transparència, facilitar la comprensió dels algorismes, fomentar la participació ciutadana en el seu desenvolupament i assegurar dades de qualitat per a l’entrenament de models d’IA. Això inclou també garantir que els algorismes no tenen biaixos i són supervisats periòdicament.
Publicació d’informes de transparència algorísmica
Per assolir aquests objectius, l’AOC ha desenvolupat informes de transparència algorísmica amb contingut estandarditzat per oferir una visió clara i comprensible de cada sistema d’IA. Aquests informes expliquen, amb un llenguatge accessible i planer, el funcionament i els efectes dels algorismes sobre les persones. Són una eina per complir amb les obligacions de transparència establertes a la normativa, a més de permetre la comparació entre diferents algorismes d’IA.
Els informes segueixen estàndards internacionals, com el model de registre d’algorismes d’Amsterdam i Hèlsinki, l’estàndard algorísmic europeu d’Eurocities, i recomanacions de l’OCDE i el NIST dels EUA. Aquests referents han ajudat a establir bones pràctiques que faciliten una transparència significativa, permetent a la ciutadania entendre millor l’ús de les seves dades i el propòsit d’aquests algorismes.
Metodologia de gestió de riscos centrada en la protecció dels drets fonamentals
Un altre element essencial de la iniciativa ha estat el desenvolupament d’una metodologia pròpia de gestió de riscos per avaluar l’impacte de la IA sobre els drets fonamentals. Aquesta metodologia identifica els principis i drets fonamentals que poden veure’s afectats per l’ús de grans volums de dades processades amb algorismes. L’AOC realitza així una avaluació d’impacte que permet una anàlisi de riscos accessible i comprensible per a persones no expertes.
Aquesta eina, àgil i basada en la normativa vigent, ajuda a identificar i mitigar riscos de discriminació, vulnerabilitat de dades o biaixos que puguin afectar la ciutadania.
La metodologia també s’adapta als requisits del Reglament d’Intel·ligència Artificial (AI Act), que especifica la necessitat d’analitzar els riscos coneguts i previsibles en relació amb la salut, la seguretat i els drets fonamentals. Amb això, volem garantir que els nostres sistemes d’IA compleixin amb els estàndards de seguretat, transparència i responsabilitat necessaris per generar confiança en l’administració digital.
Aquí disposeu de la presentació:
A dia d’avui, s’han publicat tres informes:
- Xatbots conversacionals de l’AOC (26/5/2023)
- Videoidentificació per obtenir l’idCat Mòbil (2/2/2024)
- Automatització de l’informe de pobresa energètica (5/2/2024)
Properament estaran disponibles els informes sobre:
- Xatbots amb IA generativa
- Classificació automàtica d’incidències a la via pública