2024 – L’intelligence artificielle administrative

Problématique

La conférence entendait explorer le thème de l’intelligence artificielle (IA) appliquée à l’exercice des fonctions administratives, dans un cadre réglementaire en cours de formation qui doit gérer ses risques et exploiter ses bénéfices. L’approche ne pouvait être que multidisciplinaire, dans la mesure où la réglementation elle-même est affectée et conditionnée par les profils éthiques, techniques et commerciaux, et implique des questions de principe juridiques qui affectent les valeurs constitutionnelles.

1. La première session « Entre éthique et droit » entendait précisément stimuler les réflexions sur les relations entre autorité et liberté à la lumière de l’usage de l’IAA (intelligence artificielle administrative) dans l’exercice des fonctions publiques (et donc de la puissance publique) ; des profils éthiques, juridiques et techniques peuvent être développés en prenant conscience de la difficile contrôlabilité de l’IAA et de la tendance à l’anthropomorphisation, notamment à la lumière de certaines considérations :

• les systèmes juridiques actuels sont inadéquats lorsqu’il s’agit de réglementer la numérisation et l’IA ;
• le contrôle des applications d’IA est entre les mains de quelques multinationales privées ;
• les distinctions entre faible et fort ou entre prédictif et génératif n’apparaissent pas utiles comme critères d’utilisabilité ou non de l’IA dans le domaine administratif, compte tenu de son intégration tout au long du processus décisionnel administratif ;
• les algorithmes utilisés doivent cependant garantir la transparence, l’accessibilité et la possibilité de contrôle. L’IAA doit réduire les erreurs et les vulnérabilités du système, en garantissant la légalité grâce à des règles de conduite et des indicateurs de suivi ;
• l’intégration de différentes formes d’IA dans les processus administratifs présente de nombreuses opportunités (amélioration de l’efficacité opérationnelle, réduction des délais de réponse, plus grande précision des prévisions et personnalisation des services aux citoyens), mais aussi de nombreux défis (nécessité de garantir la transparence, la responsabilité et le respect des réglementations en vigueur, ainsi que la gestion des biais potentiels).

En fin de compte, nous devons maximiser les avantages de l’IA dans l’administration publique, tout en protégeant les droits et libertés des citoyens.

2. La deuxième session « Applications de l’IAA » entendait explorer différents domaines d’utilisation de l’IAA, dans le cadre du PRIN 2022 « Intelligence administrative artificielle pour l’égalité territoriale. Recherche opérationnelle sur l’intérêt public et la protection des personnes face aux évolutions de l’ère numérique », également à travers la comparaison d’expériences nationales et européennes concrètes.

En particulier, il a été fait référence : à la santé, tant en termes de profils d’aménagement du territoire qu’en termes d’amélioration des services d’assistance, et, encore une fois, pour des applications dans le domaine médical et de réadaptation (également en termes de télémédecine et de e-santé) ; à la culture et au tourisme, dans la perspective de la valorisation et de la protection du patrimoine culturel public, également en ce qui concerne les aspects touristiques, l’utilisation du patrimoine culturel, les nouvelles frontières liées au droit d’auteur et, d’une certaine manière, l’évolution de la notion même de le patrimoine culturel à l’ère du numérique et de l’IAA ; au territoire et aux transports, tant en termes d’aménagement du territoire, d’implantation d’usines ou de délivrance de permis de construire, jusqu’au contrôle des activités privées et aux mesures de sanction qui en découlent, qu’en termes de dimension territoriale dans laquelle l’administration exerce les fonctions susmentionnées , puisque la notion de gouvernance territoriale couvre un périmètre plus large que celui qui circonscrit l’espace urbain (smart city).

3. La troisième session était consacrée aux « nouveaux principes et critères d’action administrative » nécessaires pour réglementer la procédure administrative algorithmique.

Les algorithmes utilisés dans les processus administratifs doivent évidemment respecter les principes de légalité, de transparence et de responsabilité. Mais un ajustement réglementaire est nécessaire pour garantir que les décisions automatisées (qu’elles soient prédictives ou génératives) respectent l’intérêt public et puissent être évaluées en termes d’équité et de conformité légale. Des principes tels que la « confiance » et le contrôle du « résultat » sont fondamentaux pour réguler l’action administrative à l’ère du numérique et de l’IAA : il faut garantir la transparence, l’accessibilité et la possibilité de contrôle, en mettant en œuvre des règles de conduite, des alertes et des indicateurs de suivi pour réduire les erreurs et vulnérabilités et garantir la légalité. Les systèmes doivent être capables de cartographier tous les processus décisionnels et de garantir que les décisions sont compréhensibles et vérifiables.

La comparaison peut prendre en compte les considérations suivantes :

• la réglementation, tant au niveau national qu’européen, de l’IAA est actuellement insuffisante et influencée (conditionnée) par les multinationales privées (“GAFAM” – Google, Apple, Facebook, Amazon, Microsoft et “BATX” – Baidu, Alibaba, Tencent, Xiaomi), avec une concentration du pouvoir dans quelques mains et des risques de technocratie ;
• il ne semble pas possible d’arrêter le progrès technologique, c’est pourquoi l’AAI doit être gouvernée de manière inclusive ;
• l’évaluation de la légitimité des algorithmes est complexe et nécessite une approche qui tienne compte de l’intérêt public et de la justice. La jurisprudence italienne a établi des critères pour les décisions automatisées, mais il est nécessaire de reconnaître la nature limitée des réponses juridiques actuelles.

A terme, il faudra évaluer la mise en place d’une charte de principes et de critères d’action administrative appelée algorithmique (numérique et avec l’utilisation d’applications d’IA) ou intégrer la discipline réglementaire sur la procédure administrative pour protéger les intérêts et les droits des citoyens, tout en garantissant que les administrations publiques puissent bénéficier des innovations technologiques pour améliorer l’efficience et l’efficacité de leurs services.