Les systèmes d’IA peuvent reproduire des biais, rendre les responsabilités moins lisibles et réduire la capacité de contestation.
Question centrale Qui reste responsable lorsqu’une IA recommande ou prépare une décision ?
Trois points de vigilance Biais ou discrimination entre populations Critères impossibles à expliquer Absence de recours ou de revue humaine Action possible pour les élus Demander les critères, les tests de biais, les responsables et la procédure de contestation.
Approfondir : Éthique → L’IA transforme d’abord des tâches, puis peut recomposer les métiers, les parcours, les effectifs et les besoins de compétences.
Question centrale Quelles tâches seront automatisées, augmentées, transformées ou supprimées ?
Trois points de vigilance Déqualification ou perte de savoir-faire Inégalités d’accès à la formation Décisions d’effectif fondées sur des hypothèses non vérifiées Action possible pour les élus Obtenir une cartographie des tâches et relier le projet à la GEPP et à la formation.
Approfondir : Emploi → Travail et conditions de travail Un système peut déplacer la charge vers la vérification, intensifier le rythme, modifier l’autonomie ou renforcer la surveillance.
Question centrale L’outil améliore-t-il réellement le travail ou intensifie-t-il la charge et la surveillance ?
Trois points de vigilance Charge cognitive et travail de reprise Objectifs ou rythme devenus irréalistes Réduction des marges de manœuvre Action possible pour les élus Observer le travail réel, recueillir les retours et demander l’actualisation de l’évaluation des risques.
Approfondir : Travail et conditions de travail → Les usages d’IA mobilisent des centres de données, de l’énergie, de l’eau, des réseaux et des équipements numériques.
Question centrale Les gains attendus justifient-ils les ressources numériques mobilisées ?
Trois points de vigilance Usage d’un modèle surdimensionné Effet rebond lié à la multiplication des usages Coûts matériels et d’hébergement invisibles Action possible pour les élus Demander une analyse du besoin, des alternatives plus sobres et des critères de suivi environnemental.
Approfondir : Environnement → Les usages professionnels doivent être examinés au regard de la protection des données, des droits des personnes et des règles applicables au travail.
Question centrale Quelles données sont traitées, pourquoi et avec quelles garanties ?
Trois points de vigilance Données collectées sans finalité claire Décision sensible entièrement automatisée Accès, conservation ou transfert mal documentés Action possible pour les élus Associer le DPO, obtenir la cartographie des données et vérifier les droits d’accès, de rectification et de contestation.
Approfondir : Droit et données → Économie et partage de la valeur La valeur créée dépend des données, du travail d’adaptation et du contrôle réalisé par les équipes autant que de la technologie achetée.
Question centrale Qui capte la valeur et les gains de productivité créés par le système d’IA ?
Trois points de vigilance Gains annoncés sans indicateurs partagés Dépendance technique ou contractuelle Coûts de formation et de contrôle non comptabilisés Action possible pour les élus Négocier des indicateurs, les moyens d’accompagnement et les modalités de partage de la valeur.
Approfondir : Économie et partage de la valeur → 