Usage d'algorithmes par les administrations

L’usage des algorithmes et de l'intelligence artificielle (IA) peut avoir un impact majeur sur les droits humains. Dans cet avis, l’IFDH examine, à sa propre initiative, la proposition de loi qui vise à accroître la transparence des décisions gouvernementales prises sur la base d'algorithmes. 

Avantages et risques 

Un nombre croissant de politiques publiques sont mises en œuvre à l’aide de traitements automatisés des données. L’usage d’algorithmes présente de nombreux avantages pour les pouvoirs publics : efficacité des politiques publiques, fiabilité apparente des algorithmes, contrôle accru sur le traitement des données, etc.  

L’utilisation d’algorithmes et d’IA n’est toutefois pas sans présenter certains dangers pour le citoyen : difficultés du contrôle, systématisation de certains biais conduisant à des résultats discriminatoires, renforcement de mécanismes d’exclusion sociale, impact disproportionné des décisions prises par algorithmes sur les groupes les plus vulnérables, croissance du contrôle étatique sur les comportements individuels. 

Ces problèmes peuvent être renforcés par un manque de transparence dans l'utilisation de traitements automatisés. L’opacité liée à l’usage d’algorithmes dans le cadre des prises de décision des autorités publiques constitue un défi majeur pour la protection des droits fondamentaux. La décision assistée algorithmiquement doit être attentive à l’impact de ses applications et pouvoir être contrôlée sur son respect des droits humains. 

Proposition de loi 

L’IFDH salue l’initiative de cette proposition de loi. Elle constitue un premier pas intéressant en vue d’encadrer l’emploi de systèmes d’intelligence artificielle et de manière plus large l’usage d’algorithmes par les administrations. En développant les exigences de transparence vis-à-vis des administrations en la matière, elle contribue à une meilleure protection des droits humains.  

L’IFDH est toutefois d’avis que l’obligation de transparence requise dans cet avis pourrait être étendue et invite le législateur à entamer une réflexion plus large quant à l’usage d’intelligences artificielles. L’IFDH formule à cet effet les recommandations suivantes : 

  • Le champ d’application de la proposition de loi devrait être plus clairement défini, notamment quant à son emploi des notions de « décision individuelle » et de « document administratif à portée individuelle ». 
  • Le champ d’application de la loi devrait être suffisamment large pour imposer une obligation de transparence quant aux actes préparatoires aux actes administratifs à portée individuelle opérés par les autorités administratives. 
  • Le champ d’application de la proposition de loi devrait être clarifié au regard du Règlement général sur la protection des données. 
  • Une obligation de transparence quant à l’usage de systèmes de traitement algorithmiques devrait être étendue à l’ensemble des autorités publiques fédérales. 
  • L’exception à l’obligation de transparence prévue pour des secrets protégés par la loi devrait être clarifiée 
  • La proposition de loi devrait requérir de l’autorité administrative qu’elle communique si un système de traitement algorithmique doté d’une capacité d’apprentissage autonome a été utilisé. 
  • La proposition de loi devrait requérir la création d’un registre public des usages d’IA par les autorités administratives afin de répertorier ces systèmes, leur marge d’apprentissage autonome, ainsi que la nature des données sur lesquelles se base cet apprentissage. 
back to top