L’histoire humaine est jalonnée d’inventions qui ont changé notre manière de voir le monde. Le télescope a révélé l’immensité du cosmos, le microscope a dévoilé l’existence d’un univers invisible à l’œil nu, la mécanique quantique nous fait douter de la nature profonde de la réalité. Aujourd’hui, alors que les intelligences artificielles deviennent des acteurs à part entière de nos sociétés, une nouvelle question émerge : quels instruments nous permettront de comprendre ce que nous avons nous-mêmes créé ?
Une quête historique
Depuis l’Antiquité, les sociétés humaines cherchent à s’affranchir de l’inconnu et à prévoir le futur. A Delphes, la Pythie livrait des prophéties qui ont façonné l’histoire de la Grèce Antique. A peine plus loin, ce sont les astronomes babyloniens qui suivaient le mouvement des planètes pour anticiper les saisons. Tandis que les romains guettaient les présages avant de partir en guerre. Derrière toutes ces pratiques se cache une même ambition : transformer l’incertitude en connaissance afin de pouvoir agir.
Cette quête a façonné les sciences modernes. Galilée n’a pas seulement observé le ciel. Il a cherché à le décrire avec des outils capables de produire des observations comparables et reproductibles. Le thermomètre a permis de quantifier la chaleur. La balance a rendu le poids comparable d’un lieu à l’autre. Le sextant a donné aux navigateurs les moyens de déterminer leur position sur les océans. Chaque progrès majeur est passé par l’invention d’un instrument permettant de rendre le réel plus lisible.
Les sociétés elles-mêmes reposent sur cette capacité à observer leur propre fonctionnement. Les recensements permettent d’estimer les populations. Les indicateurs économiques renseignent sur la production et les échanges. Les statistiques sanitaires révèlent l’apparition d’une épidémie avant même qu’elle ne soit perceptible à l’échelle individuelle. Gouverner consiste en grande partie à prendre des décisions dans un environnement complexe. Plus la réalité est observable, plus l’action peut espérer être pertinente.
Indicateurs et mesures
Cette intuition est si ancienne qu’elle a laissé son empreinte dans notre langue. Le mot « mesure » occupe une place singulière dans le vocabulaire français. Il désigne à la fois un acte d’évaluation et une vertu. Une personne mesurée est une personne qui sait éviter les excès. Une décision prise avec mesure est une décision équilibrée. Cette double signification n’est pas anodine. Elle traduit une idée profondément ancrée dans la pensée occidentale : comprendre et agir relèvent d’une même recherche d’équilibre.
Les philosophes grecs avaient déjà perçu ce lien. Aristote développa l’idée selon laquelle la vertu se situe entre deux excès. Le courage n’est ni la témérité ni la lâcheté. La générosité n’est ni l’avarice ni le gaspillage. La sagesse consiste à trouver une proportion juste entre des forces opposées. Cette réflexion morale dépasse largement la conduite individuelle. Elle suggère qu’une société durable repose elle aussi sur la recherche permanente d’un équilibre.
Pourtant, réduire le monde à des chiffres comporte également des dangers. Les critiques de la quantification se sont multipliées au cours du XXe siècle. L’économiste Charles Goodhart a formulé une loi devenue célèbre : lorsqu’un indicateur devient un objectif, il cesse souvent de remplir correctement son rôle. Les exemples sont nombreux. Un service évalué uniquement sur sa rapidité peut sacrifier la qualité. Une université obsédée par le nombre de publications peut encourager la production d’articles au détriment de leur intérêt scientifique. Ce qui devait éclairer la décision finit alors par la déformer.
L’historien Jerry Muller a décrit ce phénomène comme une « tyrannie des métriques ». Selon lui, les indicateurs peuvent progressivement devenir plus importants que la réalité qu’ils sont censés représenter. Michel Foucault a poussé la critique plus loin encore en montrant que toute observation systématique produit également une forme de pouvoir. Observer, classer, comparer et surveiller ne sont jamais des actes totalement neutres. Quant au sociologue Alain Desrosières, il a rappelé que les chiffres eux-mêmes résultent toujours de conventions humaines. Derrière chaque statistique se cachent des choix méthodologiques, des hypothèses et parfois même des visions du monde.
Ces critiques sont précieuses car elles rappellent une vérité essentielle : un indicateur n’est jamais la réalité. Il en constitue une représentation partielle. La question n’est donc pas de savoir s’il faut tout quantifier. Elle est de déterminer ce qui mérite d’être observé et de quelle manière. La difficulté n’est pas l’absence d’indicateurs. Elle réside dans le choix des bons indicateurs.
Une nouvelle terra incognita
L’intelligence artificielle replace aujourd’hui ce débat au centre des préoccupations. Les modèles les plus avancés produisent désormais des textes, analysent des images, rédigent des synthèses, assistent des diagnostics médicaux ou participent à des processus de décision complexes. Leur diffusion est rapide et leur influence grandissante. Pourtant, leur fonctionnement devient paradoxalement de plus en plus difficile à interpréter.
Les grands modèles de langage comptent des centaines de milliards de paramètres. Ils évoluent au gré des mises à jour, des jeux de données qui les alimentent et des interactions avec leurs utilisateurs. Même leurs concepteurs peinent parfois à expliquer précisément pourquoi une réponse particulière a été produite ou pourquoi un comportement inattendu apparaît soudainement.
Nous nous retrouvons dans une situation inédite. Jamais une technologie n’a été aussi largement utilisée avant que nous disposions de moyens véritablement satisfaisants pour observer son comportement dans la durée. Comme les astronomes du XVIIe siècles confrontés à l’immensité du ciel ou les biologistes découvrant l’univers microscopique, nous avançons dans un territoire encore largement inexploré. Cette situation crée un défi majeur de gouvernance. Car il est difficile de piloter ce que l’on ne comprend pas et encore plus difficile de réguler ce que l’on ne peut observer.
L’histoire des sciences montre pourtant une constante remarquable. Chaque fois que l’humanité a été confrontée à un phénomène dépassant ses capacités d’observation directe, elle a inventé un nouvel instrument. Le télescope a permis d’étudier les planètes. Le microscope a révélé les micro-organismes. Le scanner médical a rendu visible l’intérieur du corps humain. Les satellites ont offert une vision globale de la Terre. L’intelligence artificielle appelle aujourd’hui une évolution comparable.
Ce dont nous avons besoin n’est pas d’abord d’une nouvelle intelligence artificielle. Ce sont des instruments capables d’observer les intelligences artificielles déjà présentes dans nos vies. Des outils permettant de suivre leur comportement, d’identifier leurs dérives, d’évaluer leur stabilité, de détecter leurs vulnérabilités et d’anticiper les risques avant qu’ils ne deviennent visibles.
C’est précisément dans cette perspective que s’inscrit NeoMundi.
S’extraire de la boîte noire
Plutôt que de considérer l’IA comme une boîte noire qu’il faudrait simplement utiliser ou réglementer, NeoMundi propose une approche fondée sur l’observation continue. Son ambition n’est pas de remplacer le jugement humain mais de lui fournir les instruments nécessaires pour comprendre des systèmes dont la complexité dépasse désormais les capacités d’analyse intuitives.
À travers sa plateforme ControlTower, l’objectif est de rendre visibles des phénomènes qui demeurent souvent invisibles aux utilisateurs comme aux décideurs : variations de comportement, dérives progressives, incohérences, vulnérabilités émergentes ou modifications induites par l’évolution des modèles. Dans cette approche, l’IA n’est plus seulement un outil à utiliser. Elle devient également un système à observer.
La comparaison avec les instruments scientifiques classiques est éclairante. Un thermomètre ne remplace pas le médecin. Une station météorologique ne remplace pas le climatologue. Un tableau de bord aéronautique ne remplace pas le pilote. De la même manière, un système d’observation de l’IA ne remplace ni l’expert, ni le régulateur, ni le décideur. Il leur permet simplement de voir ce qui resterait autrement invisible.
La grande leçon de l’histoire des sciences n’est pas que le monde peut être réduit à des chiffres. Elle est que les sociétés progressent lorsqu’elles disposent d’instruments capables de transformer l’invisible en connaissance. Cette leçon vaut aujourd’hui pour l’intelligence artificielle.
Les critiques de la quantification demeurent pertinentes. Les indicateurs peuvent être détournés. Les chiffres peuvent masquer autant qu’ils révèlent. Les systèmes de surveillance peuvent devenir des instruments de pouvoir. Mais ces limites ne conduisent pas à abandonner l’observation. Elles imposent au contraire de l’exercer avec davantage de rigueur, de transparence et de discernement.
Depuis les philosophes grecs jusqu’aux ingénieurs du XXIe siècle, une même idée traverse l’histoire : comprendre précède l’action. À mesure que les intelligences artificielles gagnent en autonomie et en influence, cette exigence redevient centrale. La question n’est plus seulement de savoir ce que ces systèmes sont capables de faire. Elle est de déterminer comment les sociétés humaines pourront continuer à les comprendre.
Joël Ignasse est membre du Comité d’orientation de Neomundi Recherche.