Idéologies des intelligences artificielles

Souvent les algorithmes reflètent les choix philosophiques de leurs créateurs, à l’insu de leurs utilisateurs.

 

Un passage du livre “La fin de l’individu – Voyage d’un philosophe au pays de l’intelligence artificielle” de Gaspard Koenig m’a ouvert les yeux sur un point qui n’avait encore jamais attiré mon attention: l’idéologie des algorithmes.

Lors du travail préparatoire à la rédaction de son ouvrage, le philosophe français a rencontré de nombreuses personnalités actives dans le secteur de l’IA. Parmi celles-ci, des responsables de Uber – que l’on ne présente plus – mais également de Didi, son équivalent chinois. Les 2 sociétés proposent des services similaires mais leurs algorithmes organisent leurs marchés respectifs de manières totalement différentes.

Le cadre du jeu

Les données de base sont d’un côté des voyageurs désirant se rendre d’un point A vers un point B, et de l’autre des chauffeurs disposés à les véhiculer en milieu urbain contre rémunération. D’un point de vue modélisation, la ville est un ensemble fini de rues associé à une série de contraintes (p.ex. un sens unique ou un axe à éviter à certaines heures). Le terrain de jeu offre ainsi un nombre fini de possibilités. Les voyageurs présentent également une certaine stabilité statistique donc des comportements prédictibles (p.ex. des déplacements de l’aéroport vers le centre ville).

Cette configuration – étudiée en théorie des jeux – est ce qu’on appelle un équilibre de Nash parfait en sous-jeux. Et comme l’ont démontré les auteurs de l’article “Spatio-Temporal Pricing for Ridesharing Platforms” ¹, ce type de configuration permet d’identifier un équilibre optimal, autrement dit d’allouer un chauffeur à un voyageur de manière à répondre le mieux possible aux besoins de chacun. Le fait qu’un tel équilibre puisse être calculé permet également d’y intégrer un tas d’autres paramètres comme p.ex. minimiser la longueur de trajet pour chaque voyage (ce qui permet de réduire la pollution), assurer un nombre minimal de courses par chauffeur, optimiser le trajet de chaque chauffeur afin qu’il passe par une station service lorsque son réservoir est presque vide. En d’autres mots, l’algorithme est en mesure de tout planifier au mieux. Le meilleur des mondes grâce à l’IA et au big data.

Reste que cette approche est indéniablement totalitaire: voyageurs et chauffeurs sont appairés par une IA omnisciente qui décide également du parcours et du prix. Cette approche est celle choisie par les concepteurs de Didi, qui affirment que leur IA maximise l’efficacité des transports à l’échelle de la ville afin de fournir la meilleure expérience de mobilité possible. C’est scientifiquement irréfutable comme démontré par les 3 auteurs de l’article, issus des universités de Harvard et Carnegie Mellon, donc a priori difficilement assimilables à de dangereux suppôts communistes.

Du côté des concepteurs de Uber – qui détiennent également des PhD en théorie des jeux, profil très recherché aujourd’hui dans la Silicon Valley – l’approche retenue par Didi n’est pas envisageable. Pas parce qu’ils ont inventé un meilleur système (ce n’est mathématiquement pas possible) mais parce que d’un point de vue idéologique il leur est insupportable de considérer une approche totalitaire ou intégriste de l’IA. En bons libéraux ils se devaient de faire confiance aux mécanismes de marché, raison pour laquelle le matching entre chauffeurs et voyageurs se fait au travers d’un prix de marché. Tout déséquilibre entre offre et demande se résoudra dès lors au travers d’une adaptation du prix affiché, incitant les chauffeurs à se rendre dans les zones où la demande est forte et les dissuadant d’attendre un voyageur dans une zone de faible demande.

Parmi les sous-optimalités les plus notables de l’algorithme de Uber, on relèvera les longueurs et temps de trajets, avec des conséquences directes sur la fluidité du trafic et la pollution. Un choix idéologique des concepteurs qui va donc sciemment à l’encontre de l’écologie. Pourtant la société est vue comme une solution d’avenir pour la mobilité urbaine.

L’exemple retenu a l’avantage d’être compréhensible par tout le monde, sans bases de théorie des jeux ou d’algorithmique et met bien en évidence deux conceptions diamétralement opposées. Bien entendu, cette dichotomie entre une approche “marché” et “totalitaire” se retrouve dans beaucoup d’autres services ayant recours à l’IA et au big data, mais toujours à l’insu des utilisateurs.

Un problème de démocratie

Une vision simpliste serait d’affirmer que l’approche totalitaire se retrouve plutôt en Chine et l’approche libérale en Europe et aux Etats-Unis. Le problème est que beaucoup de services accessibles en Europe intègrent à différents niveaux l’idéologie totalitaire de leur concepteur sans aucune transparence ni pour les utilisateurs, ni pour les pouvoirs publics.

Prenons p.ex. une application de guidage urbain puisque celles-ci sont à la mode et récupèrent un maximum de données afin de rendre nos villes plus smart, à l’exemple de Waze. A priori, l’utilisateur d’une telle application suivra les conseils de guidage prodigués. Mais personne ne sait si les développeurs auraient p.ex. décidé – sur base de leurs convictions personnelles – de favoriser la mobilité à vélo et que leur IA va dès lors proposer un trajet sous-optimal aux automobilistes afin que les cyclistes aient un trajet plus rapide et plus sécurisé. Tout ceci est techniquement possible, mais les développeurs n’ont pas à décider quelle option est la meilleure. Ce sont les autorités locales en charge de la mobilité et de l’environnement qui devraient indiquer quelle approche la ville désire favoriser. Et celle-ci devrait a priori refléter les préférences (démocratiques mais probablement sous-optimales) des électeurs. On comprendra dès lors mieux pourquoi le Danemark a nommé un ambassadeur auprès des GAFA.

Conclusion

Le big data, soit la collection massive de données de toutes natures, permet de mieux en mieux d’appliquer des modèles de théorie des jeux proposant des équilibres optimaux, dans différents secteurs (mobilité, santé, finance, recrutement… mais également le choix d’un conjoint).

J’avais expliqué dans un précédent article comment les acteurs de l’économie digitale nous privent de libre arbitre. Le fait est que souvent leurs choix idéologiques nous privent également d’une part de démocratie. Le problème n’est pas que les options retenues soient bonnes ou mauvaise, mais que les utilisateurs n’aient pas été informés et n’ont ainsi pas pu décider en connaissance de cause s’ils voulaient qu’un algorithme fasse insidieusement des choix qui iraient à l’encontre de leur propre philosophie.

Et reste comme toujours la question de l’investissement et la manière dont les analystes ESG intègrent cette problématique dans leurs critères de sélection, l’IA et ses indispensables big data débordant aujourd’hui largement au-delà du secteur des start-ups technologiques. Les investisseurs devraient dès lors disposer d’informations suffisantes leur permettant de faire des choix de portefeuille en accord avec leurs valeurs personnelles.

 

---