En direct

« L'usage des algorithmes peut être déresponsabilisant »
Gilles Rouet, directeur de l’Institut supérieur de management - © A. ANOTHO
Interview

« L'usage des algorithmes peut être déresponsabilisant »

Propos recueillis par Judith Chétrit |  le 05/12/2019  |  Collectivités localesAlgorithmeFrance entière

Ma newsletter personnalisée

Ajouter ce(s) thème(s) à ma newsletter personnalisée

Ville du futur
Collectivités locales
Algorithme
France entière
Valider

Gilles Rouet, directeur de l'Institut supérieur de management (*) 

Difficile pour les usagers de connaître le nombre d'algorithmes déployés dans les administrations, qu'ils soient utilisés pour un traitement automatisé de dossiers ou pour leur aspect prédictif. La mission Etalab a récemment rédigé un mode d'emploi pour une meilleure intégration de ces outils dans les services. Dans les collectivités de plus de 50 agents et 3 500 habitants, les décideurs doivent respecter des obligations de transparence et de mention explicite à l'égard des décisions qui en découlent pour les citoyens. Autant de choix qui suscitent, à raison, des débats, selon Gilles Rouet.

Comment les algorithmes façonnent-ils la décision publique ?

La logique de recherche de performance du « new public management » pose, certes, la question de l'efficacité budgétaire mais aussi celle de la relation au citoyen et son rapport aux services publics. Les algorithmes répondent à une partie de cette question, mais ne portent pas en eux la clé de la performance. On en a parfois développé sans avoir évalué leur utilité, ou pensé aux problèmes qu'ils pourraient résoudre. Ensuite, il faut cultiver la responsabilité de celui qui s'appuierait sur des algorithmes pour prendre une décision. Sur les chantiers relatifs à l'e-administration, l'afflux de processus algorithmiques présente ce risque de retranchement derrière une machine.

Mais ce n'est pas l'algorithme qui est déresponsabilisant, c'est l'usage que l'on en fait et le rapport que l'on conserve entre agents et citoyens. Cela ne doit pas les empêcher d'avoir un regard critique pour mieux assumer les décisions à l'égard des administrés.

Pensez-vous que l'on devrait mieux évaluer la réception de ces outils par les agents et les administrés ?

A n'importe quel échelon, toute décision administrative doit être motivée, et c'est encore plus nécessaire en cas de recours aux algorithmes face auxquels on peut se sentir démuni et sans marge de négociation. La transparence est capitale quand on a un sentiment d'arbitraire. Depuis l'aide à la décision dans les années 1950, pour mieux voir parmi un tas de données à prendre en compte, leur usage prend aujourd'hui une tournure idéologique différente : il faut parallèlement mettre fin à cette idée de neutralité de l'algorithme qui empêcherait de remettre en cause l'outil, dont les critères sont pourtant préalablement déterminés. Dans une décision, il y a aussi l'alchimie des intuitions et des relations humaines qui n'entre pas, elle, dans ces critères. L'usage des algorithmes peut à cet égard nous aider à mieux cultiver le relationnel dans le rapport aux usagers.

Les agents sont-ils assez sensibilisés à ces questions pour en parler aux usagers ?

Utiliser des algorithmes pour une simplification administrative est un très bon objectif en soi, mais il faut se préoccuper du processus et du sens que cela donne au travail des agents. Le risque peut consister en une réduction des tâches qui alimente une peur de n'être qu'une interface entre le résultat d'un algorithme et les administrés. Il faut rester vigilant sur ce que l'algorithme permet et ce qu'il ne permet pas. Ce travail n'a pas encore été fait. Tous ces outils peuvent renforcer la performance globale et les usagers sont à même de le comprendre et de les trouver légitimes. Mais avec le développement d'usages prédictifs, attention à ne pas confondre le monde probabiliste et le monde réel. On ne peut pas dire qu'on va moins traiter les problèmes rares car ils sont plus difficiles à prédire. Les algorithmes ne nous amèneraient-ils pas à moins réfléchir au risque que l'on est prêt à accepter ?

(*) Institut d'administration des entreprises de Versailles - Saint-Quentin-en-Yvelines.

PHOTO - 19792_1208245_k3_k1_2829358.jpg
Gilles Rouet a dirigé l’ouvrage « Algorithmes et décisions publiques » (CNRS éditions, 2019) - ©

Cet article fait partie du dossier

VILLE CITOYENNE

Éditions du Moniteur Le Moniteur boutique

Le Moniteur n°6000 du 26 octobre 2018

Le Moniteur n°6000 du 26 octobre 2018

Date de parution : 10/2018

Voir

Aménager sans exclure, faire la ville incluante

Aménager sans exclure, faire la ville incluante

Date de parution : 06/2018

Voir

Une trajectoire métropolitaine - L'exemple de Toulouse

Une trajectoire métropolitaine - L'exemple de Toulouse

Date de parution : 04/2016

Voir

Accéder à la Boutique

Les bonnes raisons de s’abonnerAu Moniteur

  • La veille 24h/24 sur les marchés publics et privés
  • L’actualité nationale et régionale du secteur du BTP
  • La boite à outils réglementaire : marchés, urbanismes, environnement
  • Les services indices-index
Je m’abonne
Supports Moniteur