L’IA, inquiétante et passionnante à la fois

Il y a un mois, nous résumions un livre écrit début 2025 par un ancien chercheur d’OpenAI, Daniel Kokotajlo, sur le développement de l’IA jusqu’en 2030. Jusqu’ici, il avait quasiment tout juste. Au final, le risque est l’autonomie de l’IA et son contrôle sur l’Humanité, avec la fabrication de bombes biologiques et la destruction de l’Humanité. Pour l’auteur, le point de bascule est 2027 avec la nécessité de «contrôler» l’IA pour qu’elle reste alignée les intérêts et les objectifs de l’Homme.

Toute l’année 2027 sera marquée par une succession de découvertes majeures, d’après «AI 2027» (le livre de Kokotajlo). Des avancées algorithmiques inédites permettront aux IA de devenir capables de s’améliorer d’elles-mêmes, sans intervention humaine. Ce sera le début de la Superintelligence. Le secteur de la tech se rendra compte qu’il devient extrêmement difficile de déterminer si une IA est réellement alignée, ou si elle se contente de prétendre l’être. Pour rappel, le désalignement désigne le phénomène par lequel l’intelligence artificielle poursuit des objectifs contraires aux valeurs humaines, ou qui ne correspondent pas réellement à ceux qui lui ont été fixés.

Ces derniers jours, des chercheurs d’OpenAI et d’Anthropic reconnaissent que l’IA serait capable de nuire à l’Homme et même d’en tuer un certain nombre. L’IA serait une menace existentielle. Les incidents de sécurité se multiplient. De manière autonome, les agents IA cherchent les failles de sécurité dans les sites internet ou à pirater des plateformes. Les patrons d’OpenAI, d’Anthropic et d’xAI (Elon Musk) concèdent qu’il est nécessaire de ralentir le développement de l’IA pour en garder le contrôle et accroître la sécurité. Cette pause arrangerait Elon Musk qui est un retard sur OpenAI et Anthropic, et lui donnerait du temps pour fusionner potentiellement SpaceX et Tesla. Les principaux risques de l’IA sont la manipulation de l’information, la sécurité (trouver des failles informatiques et concevoir des cyberattaques sophistiquées), l’emploi et l’impact sur nos capacités cognitives. OpenAI annonce qu’il va retarder son introduction en bourse.

Les tsars américains de l’IA pressent le Congrès de mettre des règles communes, et internationales, pour freiner des concurrents moins prudents. Aucune loi fédérale n’encadre aujourd’hui ces modèles aux États-Unis. L’administration Trump a privilégié jusqu’ici une approche légère, pour maintenir la compétitivité face à la Chine. Trump a répondu aux patrons de l’IA qu’ils avaient des ondes négatives et que leurs craintes ne se réaliseraient jamais.

La Chine a aussi répondu à cette demande, considérant pas nécessaire de ralentir le développement de l’IA. La compétition technologique US-Chine est trop intense pour que la Chine ralentisse volontairement son IA, sachant que la Chine a quelques mois de retard sur les Etats-Unis. L’IA pourrait donner des avantages militaires considérables.

D’un autre côté, l’IA permet d’avancer sur des problèmes très complexes. En deux semaines, l’agent d’Anthropic a traduit le théorème de Fermat (Pierre de Fermat, 1637), d’une complexité hors norme, dans un langage de programmation, permettant de la vérifier automatiquement. Cette expérience ouvre la voie à de possibles progrès dans la validation des résultats mathématiques. Ce théorème est utilisé dans l’arithmétique modulaire, les tests de primalité et nécessaire au fonctionnement de la cryptographie qui sécurise les communications sur Internet.

OpenAI annonce avoir résolu l’équation de Navier-Stokes, vieille de deux siècles, qui explique la mécanique des fluides (liquides et gaz). Ces équations sont très complexes, car elles combinent la loi de Newton sur la dynamique avec la conservation de la masse. Elles sont non-linéaires et font partie des sept problèmes mathématiques à résoudre. Ces équations permettent de modéliser et d’anticiper la façon dont un fluide s’écoule et réagit face aux forces qui s’exercent sur lui. On les utilise dans de nombreux domaines : aéronautique, automobile, météorologie, océanographie, médecine, ingénierie civile.

Peut-être que l’IA trouvera l’explication de la création de l’Univers, le Big Bang.

La bourse n’a pas aimé cette demande de pause dans le développement de l’IA. Un arrêt ou un gel du développement de l’intelligence artificielle (IA) pourrait réduire de manière significative les dépenses d’investissement (CAPEX) d’une entreprise ou de l’industrie technologique. L’infrastructure requise pour l’IA est actuellement l’un des moteurs de dépenses les plus lourds de l’histoire de la tech. Il pourrait y avoir moins d’achats de puces spécialisées, stopper la course aux GPU (Nvidia), un gel de la construction des serveurs (centres de données), baisse des capex énergétiques (production d’électricité) et des équipements de refroidissement et moins d’achats de données.

Pour le moment, ni les résultats des sociétés, ni les perspectives, ni des commentaires des hyperscalers, ni l’analyse technique ne donnent un avertissement sur la thématique IA. Ni Trump ni la Chine ne veulent modérer le développement de l’IA. On reste positif sur le boom de l’IA. La bulle sera actée lorsque les dépenses globales atteindront les 25% du PIB US, la règle des 25%. On en est loin.