Entretien avec l’auteur de l’ouvrage «Algocratie : allons-nous donner le pouvoir aux algorithmes ?»

Le Matin : Vous avez récemment publié un essai intitulé «Algocratie : les algorithmes vont-ils prendre le pouvoir ?» quels constats avez-vous fait pour arriver à cette hypothèse ?
Huges Bersini : Le premier constat, c’est qu’ils ont déjà pris le pouvoir : ils ont déjà envahi nos vies aux sujets de la mobilité, des recommandations culturelles, de l’accès aux établissements scolaires ou à un crédit. À partir du moment où ils sont déjà là, je me questionne, dans mon livre, sur comment les légitimer ou leur donner encore plus de légitimité.

Quels sont les avantages et les risques d’intégrer les algorithmes dans notre vie quotidienne ?
Notre vie quotidienne est devenue très complexe. Il faut partager des ressources telles que la route, les écoles et la consommation électrique. Mais comment gérer ce partage et cette complexité avec le soutien des citoyens ? Je pense qu’on a besoin des algorithmes, car ils peuvent comprendre et gérer la complexité du monde entre les crises environnementales et économiques.

Par exemple, pourquoi les algorithmes tels que ParcourSup ont été créés ? Ils sont nés parce que certains établissements étaient plus prisés que d’autres. Il n’y avait pas de vrais critères pour favoriser certains étudiants. On les a donc établis, mais ils ne sont pas forcément acceptés ni parfaitement compris. Ce que je veux, c’est que ces critères soient débattus et qu’à la suite de ce débat, ils soient vraiment intégrés dans l’algorithme. Personne ne sera alors surpris, car les critères auront été décidés par les citoyens. Il faut que ces derniers comprennent le fonctionnement des algorithmes pour que ceux-ci soient acceptés.

Cependant, les risques existent et ils viennent de l’efficacité des algorithmes : ils sont tellement efficaces qu’ils font formater la société. On peut, tout de même, décider de ne pas formater tous les secteurs de nos vies. De fait, ils ont un pouvoir et on le sait. Comme je l’ai d’ailleurs dit plus tôt, nos comportements et nos vies sont déjà sous l’emprise des algorithmes.

Que proposez-vous pour pallier ces menaces et ces problématiques et trouver un équilibre entre ces risques et ces avantages ?
En Europe, on est très préoccupés par cette invasion algorithmique. C’est la raison pour laquelle la Commission européenne et d’autres pays publient des manifestes pour une intelligence artificielle (IA) plus éthique et pour des algorithmes plus égalitaires, transparents et inclusifs. Mais de mon côté, je me suis inquiété du peu de signification de ces mots. La solution que j’apporte à cela est de penser différemment la réalisation de ces algorithmes : ne plus les confier au secteur privé, et particulièrement aux GAFAM, mais aux citoyens lambdas.

Les algorithmes ont un tel pouvoir coercitif et de manipulation que la seule manière de les accepter et d’y adhérer est la compréhension de leur fonctionnement par les citoyens. Pour y parvenir, il faut obligatoirement qu’ils aient participé à leur écriture. Si l’algorithme est transparent et ouvert, il est facile d’y adhérer. Nous serons tous sous la même emprise, mais après en avoir discuté ensemble. Personne ne gagnerait sur le dos de quelqu’un d’autre. Par conséquent, les risques seront alors allégés.

Si un investissement des citoyens est nécessaire et requis, alors l’algocratie questionne-t-elle également l’éducation et la formation ?
Il y a un analphabétisme informatique, mais il faut que le citoyen comprenne dans une moindre mesure ces algorithmes. Il y a un vrai problème de formation dès le plus jeune âge. C’est pourquoi j’ai moi-même plaidé pour des cours d’algorithmie et d’informatique dès le primaire et le secondaire. Cette formation permettrait une certaine familiarité avec le fonctionnement des algorithmes. Ce n’est pas si compliqué à comprendre. D’ailleurs, je ne demande pas que le citoyen devienne un codeur en Python, mais simplement qu’il en comprenne la logique.

Cette société idéale où les algorithmes seraient transparents sans que personne ne gagne plus qu’autrui est-elle possible ?
Nous sommes dans une démocratie. Ce n’est pas forcément possible partout dans toutes les sociétés. Mais je pense que les algorithmes peuvent contribuer à un renforcement démocratique puisqu’ils sont une autre manière de penser la politique. C’est d’ailleurs un de mes principaux arguments : l’algocratie force la démocratie participative. Les algorithmes sont tellement envahissants et imposants qu’il leur faut une autre forme de légitimité que celle de parlementaires, d’informaticiens ou de consultants d’entreprises privées, au risque que les citoyens n’y adhèrent pas.

Lors de votre talk à l’occasion de la Semaine de la science de l’Université Mohammed VI Polytechnique, vous avez rappelé l’importance des universités et des universitaires dans la gestion des collectivités. Est-ce pour rappeler aux étudiants leur rôle à jouer que vous avez participé à cet événement ?
Les universités sont dans leur majorité des établissements publics. C’est donc étonnant que lorsque les administrations publiques doivent affronter des réalités comme la mobilité ou la gestion de la santé publique, elles confient ces missions au secteur privé. Les cabinets de conseil ont pris, par exemple, une grande importance dans la gestion de la vaccination lors de la crise sanitaire de la Covid-19. Je trouve que c’est insupportable, car nous avons des étudiants extraordinaires qui ne demandent qu’à s’impliquer, à leur échelle, dans la gestion de leur ville et de leurs biens publics. Au lieu de les court-circuiter, profitons de cette main-d’œuvre intellectuelle peu chère. D’autant plus qu’ils prennent conscience de la complexité du monde.

L’idée est de revenir vers eux, même si, in fine, il n’est pas impossible que le secteur privé reprenne la main, une fois que nous aurons décidé comment écrire ces algorithmes. Je ne demande pas aux étudiants de faire du web ou de la maintenance, mais de travailler sur ces algorithmes et de savoir comment ils fonctionnent. Les universités à travers le monde sont parfaites pour ça. D’autre part, ce qui est très étonnant, c’est que l’administration publique fait généralement appel aux sciences humaines dans les universités, mais très peu aux secteurs de la technologie et de l’ingénierie. Il arrive que le secteur privé le fasse, mais pas les administrations publiques. Elles n’ont pas le réflexe d’interagir avec les universités.

Entretien réalisé par Margaux Nourry