Sept principes à respecter pour une utilisation responsable de l’IA par les municipalités

Principes à respecter pour une utilisation éthique de l’IA

Le rapport de 2024 examine les plus importants défis technologiques auxquels les municipalités sont confrontées. Pour 36 % d’entre elles, définir les principes d’une utilisation judicieuse de l’IA figure en tête de liste.

Pour s’assurer que l’IA est au service du bien commun, les municipalités peuvent s’appuyer sur les principes directeurs suivants.

Bienfaits pour le public

L’IA doit répondre à un besoin bien défini. Même si elle peut exécuter une tâche quelconque, rien ne nous oblige à l’utiliser à cette fin. Avant toute chose, les municipalités doivent déterminer si ces outils seront avantageux pour l’ensemble de leur population.

Responsabilité

Les personnes qui développent et mettent en place des systèmes fondés sur l’IA se portent garantes des résultats. Pour ce faire, elles doivent examiner régulièrement leurs produits afin de comprendre leur incidence potentielle sur les droits et le bien-être des utilisateurs et de s’assurer qu’ils fonctionnent adéquatement et ne renforcent pas les biais.

Transparence

Pour que les membres du public fassent confiance aux services propulsés par l’IA, ils doivent en comprendre l’utilité et le fonctionnement et savoir comment les décisions sont prises. C’est pourquoi les municipalités doivent communiquer clairement le rôle de la technologie dans la prestation de leurs services en utilisant un langage clair et simple. Elles doivent également établir des protocoles permettant aux membres du public de contester toute décision prise par un outil d’IA qui leur semble inadéquate ou injuste.

Justice et impartialité

Il est important que l’IA ne renforce pas les biais existants et n’en crée pas de nouveaux. Pour ce faire, on doit veiller à alimenter ces systèmes de données représentatives de haute qualité et revoir régulièrement les algorithmes de manière à éviter que des biais n’influencent le processus décisionnel. Évidemment, pour prévenir tout faux pas, il est crucial de valider l’ensemble des décisions prises par l’IA.

Sûreté

La fiabilité et la sécurité sont deux critères incontournables pour toute nouvelle technologie, y compris les plateformes d’IA. Il est donc impératif de procéder régulièrement à l’évaluation et à la gestion des risques. Conçus pour établir des liens entre les données, les algorithmes peuvent parfois produire des résultats fâcheux qu’un humain doit ensuite réparer. L’adoption de mécanismes de surveillance s’impose pour prévenir de telles erreurs et apporter les ajustements nécessaires.

Protection de la vie privée et cybersécurité

Le respect de la vie privée est primordial dès les toutes premières étapes de conception d’un système fondé sur l’IA. Les municipalités doivent donc assurer la conformité de leurs outils à l’ensemble des lois et règlements applicables et les protéger contre les cybermenaces. Pour assurer l’intégrité et la disponibilité de leurs systèmes, elles doivent évaluer et surveiller constamment les risques de manière à prévenir les accès non autorisés et la divulgation de données sensibles.

Mais au-delà de la cybersécurité, il y a également l’aspect humain de la sécurité. Pourquoi tous les membres de l’organisation devraient-ils avoir accès à l’ensemble des données? En proposant sur une base régulière des cours sur les risques associés au partage de fichiers, sur la gestion des mots de passe, sur les enjeux de sécurité liés au télétravail, et sur le traitement et la suppression des données, les municipalités peuvent sensibiliser leur personnel aux normes et aux bonnes pratiques en matière de cybersécurité et de protection de la vie privée.

Valeurs

Les municipalités veulent offrir des services de la plus haute qualité, sans interruption. Ainsi, toutes les ressources humaines, matérielles et technologiques nécessaires à la conception et à la mise en place de systèmes fondés sur l’IA doivent refléter les valeurs de la population.

À titre d’exemple, la diversité, l’inclusion, l’accessibilité et la collaboration doivent être au cœur de n’importe quel outil d’IA adopté par une municipalité. Une approche collaborative favorisant un examen attentif des données d’entrée, de la conception de l’algorithme et des résultats générés permettra de repérer plus facilement les possibles biais négatifs, puis de les éliminer.

En appliquant ces sept principes, en portant une attention particulière au respect de la vie privée et en anticipant les cybermenaces, les municipalités adopteront des outils d’IA qui optimiseront leurs services, tout en préservant l’intégrité des données et le bien-être de la population.

Protection de la vie privée et préparation à la cybersécurité

Plus les municipalités se tournent vers l’IA, plus les enjeux de sécurité gagnent en importance. L’IA peut créer de nouvelles sources de vulnérabilité et faciliter la tâche des cybercriminels qui cherchent à exploiter des données sensibles ou à accéder aux infrastructures municipales.

Le meilleur moyen de remédier à ces risques est de mettre en place des outils d’IA sécuritaires qui garantissent le respect de la vie privée. Pour ce faire, les municipalités doivent évaluer soigneusement l’incidence des technologies sur la vie privée et mettre en œuvre des mesures de protection des données sensibles contre les accès non autorisés et les atteintes à la sécurité. Des audits réguliers et une surveillance étroite peuvent aider à repérer les activités suspectes et les sources de vulnérabilité.

De plus en plus de municipalités utilisent les technologies numériques pour entrer en contact avec la population, mais elles n’ont pas toutes pris les mesures de sécurité nécessaires.

Comme l’indique notre rapport sur les municipalités, seulement 14 % d’entre elles estiment être très bien préparées, 57 % affirment l’être un peu, 19 % ne le sont pas vraiment et 4 % ne le sont pas du tout.

Fait intéressant : l’IA peut également aider les municipalités sur le plan de la cybersécurité. Des outils de pointe peuvent détecter des activités inhabituelles indiquant une menace, puis les équipes des TI peuvent réagir en conséquence afin d’atténuer les risques. L’IA peut également rationaliser les processus de gestion des risques en anticipant les lacunes et en les corrigeant avant qu’elles ne soient exploitées.

Votre municipalité est-elle prête à adopter l’IA?

Que votre organisation ait adopté ou non une politique officielle sur l’IA, les membres de votre personnel utilisent probablement déjà des outils d’IA, et pour cause : elle est devenue un outil essentiel pour les municipalités. Il est cependant impératif de l’utiliser de manière responsable. Voici quelques conseils à suivre avant de mettre en place un système fondé sur l’IA :

• S’assurer qu’il s’inscrit dans la stratégie de l’organisation et adopter une approche fondée sur la valeur ajoutée pour identifier les meilleures options.
• Évaluer les effets de ces systèmes sur la population et les propriétaires d’entreprises.
• Évaluer les possibles répercussions sur la vie privée et les risques avant de mettre en place un tel système et surveiller ces risques et tout comportement inapproprié à cet égard.
• Définir clairement qui sera responsable du système.
• Faire preuve de transparence à propos du fonctionnement du système et des résultats obtenus, bien le tester et exercer une surveillance serrée et constante.
• Assurer la sécurité du système et concevoir des plans et des procédures d’urgence; veiller à ce que les décisions prises par l’IA soient approuvées par une personne chaque fois que nécessaire.
• Assurer la qualité et l’intégrité des données.
• Former adéquatement les membres du personnel.
• Consulter les services juridiques de votre organisation dès le début du projet pour assurer le respect des lois en vigueur.