L'algorithme d'APB a été au cœur de l'actualité ces derniers mois. Faut-il rendre ces algorithmes publics, comme l’a demandé l’association Droits des lycéens au ministère de l’Éducation nationale ?
Oui, il faut que les codes des algorithmes soient ouverts, c’est une question d’équité. Les lycéens sont dans leur droit. Nous sommes dans une démocratie, ce qui implique un accès libre aux données et à la connaissance de leur traitement.
Pourquoi le ministère de l’Éducation nationale s’est-il montré réticent à communiquer l’algorithme d’APB ?
La réponse du ministère n’a pas été jugée adaptée par les lycéens – sans doute à juste titre –, mais je ne suis pas sûr qu’il s’agissait d’une provocation. Le ministère ne pouvait peut-être pas faire mieux.
On a découvert quelque chose d’intéressant : l’algorithme d'APB, qui n’est pas très sophistiqué, est écrit dans un langage de programmation efficace, qui a eu son heure de gloire. La vie des programmes est plus longue que l’on pourrait le croire, d'où le problème de la maintenance des logiciels.
Est-il pertinent de se reposer sur des algorithmes dans le domaine de l’éducation ?
La question des algorithmes en éducation est en fait celle de l’intermédiation : que se passe-t-il quand on remplace un intermédiaire humain par un programme ?
Il y a différents types d’applications. Certaines jouent directement sur l’orientation des élèves. Mais il existe aussi des algorithmes prédictifs. Les traces laissées par les élèves sur une plate-forme conduisent à des décisions qui n’ont pas été prises directement par l’homme, mais par un algorithme programmé par lui.
Les algorithmes n’ont fait qu’automatiser des processus qui étaient déjà normés auparavant. L’intérêt de l’informatique est d’apporter davantage de souplesse. On peut par exemple faire des simulations, ce que ne permet pas la méthode manuelle.
Notre société compte de plus en plus d’intermédiations algorithmiques, que ce soit pour aller d’un point à un autre ou pour louer un appartement…
Si vous décrivez l'algorithme d'APB comme "peu sophistiqué", il en existe d'autres bien plus complexes, de type "deep learning". Pouvez-vous en décrire le principe ?
Dans le cas des algorithmes de type "deep learning", le programme initial se modifie en fonction de ce qu’il apprend : on ne peut alors plus savoir exactement comment la décision a été prise.
Un exemple récent est le cas de cet assistant automatique d’une grande société qui avait appris à tenir un discours raciste [Tay, l’intelligence artificielle conversationnelle apprenante de Microsoft] et qu’il a fallu rapidement désactiver. Ce résultat n’était pas prévu, il est dû à l’algorithme d’apprentissage.
Nous sommes passés en quelques années d’une intelligence artificielle symbolique – où l'on exprimait un certain nombre de règles (si…, alors…) dont on pouvait voir le fonctionnement –, à une intelligence artificielle de "deep learning", avec des algorithmes dont on n’est pas capable de savoir exactement comment ils ont fonctionné.
Il y a donc une réflexion à mener sur le type d’algorithme que l’on utilise, en éducation comme dans les autres domaines.
Il est intéressant de voir les interventions de la communauté des informaticiens sur le sujet. Je pense par exemple à Serge Abiteboul, professeur à l’ENS Cachan et chercheur à l’Inria (Institut national de recherche dédié au numérique), qui réfléchit aux conditions à respecter pour que les algorithmes soient acceptables (sa réflexion sur APB est en ligne sur le blog Binaire).
Peut-on se passer des algorithmes aujourd'hui ?
Notre société compte de plus en plus d’intermédiations algorithmiques, que ce soit pour aller d’un point à un autre ou pour louer un appartement… C’est ce qu’on appelle l’uberisation : des systèmes qui se substituent à des responsabilités humaines selon des règles qui, idéalement, devraient être claires mais sont souvent un peu opaques.
Cela n’est pas donc propre à l’éducation. Il y a une question générale à se poser sur ce que peut devenir la démocratie numérique, et un enjeu très fort à éduquer tous les jeunes à ces questions.
