Projet de recherche La police prédictive
sous la direction de Céline Castets-Renard, avec le soutien du ministère de l’intérieur :

L’utilisation par le ministère de l’intérieur d’outils d’intelligence artificielle posent de nouveaux défis éthiques, mais aussi juridiques et techniques. Notre équipe pluridisciplinaire à la croisée du droit, de la sociologie et de la technique est en mesure de faire des recommandations précises et opérationnelles pour garantir la sécurité juridique, technique et acceptabilité sociale des outils déployés.

Le premier objectif du projet est d’envisager, d’une part, les risques de biais et discriminations et, d’autre part, d’opacité des algorithmes. Est ici posée la question de la qualité des données utilisées, des méthodes et du type de traitement mis en oeuvre. Des recommandations techniques seront faites pour minimiser les risques, tant en considération des données utilisées en amont que des moyens d’auditer les résultats en aval.
Le second et principal objectif est de préciser le cadre légal en pleine mutation sur la protection des données personnelles et transparence algorithmique, en doit français et de l’Union européenne, à l’heure de l’entrée en application du règlement européen n° 2016/679/UE de protection des données personnelles (RGPD). Des recommandations légales seront faites afin de garantir le respect du cadre législatif relatif au traitement automatisé des données personnelles et de la transparence algorithmique.