Article 3 de la série : Le nouveau paradigme cognitif
On interroge l’intelligence artificielle comme on consulterait un oracle de Delphes moderne. On en attend une réponse neutre, objective, purgée des passions et des biais humains. On la pare volontiers des vertus de l’arbitre impartial, juge au-dessus des partis, voix d’une raison désincarnée. C’est une illusion réconfortante, mais profondément périlleuse.
Dans cette crise de phase que nous traversons, confondre la plausibilité algorithmique avec la vérité factuelle ne relève plus de la simple naïveté. C’est une abdication de notre souveraineté décisionnelle.
I. L’illusion de l’universel : une intelligence « située »
L’IA n’est pas neutre, car elle est le produit d’une chaîne de décisions humaines. Elle a été créée par quelqu’un, entraînée sur un corpus de données choisi par quelqu’un, et « alignée » sur des valeurs définies par quelqu’un.
Le mécanisme est implacable. Un modèle de langage est nourri de textes, d’images et de données qui ne sont jamais neutres : ils reflètent les choix, les omissions et les angles morts de ceux qui les ont constitués. Ensuite, le modèle est ajusté (via le Reinforcement Learning from Human Feedback) pour produire des réponses conformes à une certaine éthique. Ces valeurs sont inévitablement celles de l’entreprise qui développe le modèle, de son équipe, et par extension, de son pays d’origine.
Lorsque vous utilisez une IA, vous ne dialoguez pas avec une intelligence universelle. Vous dialoguez avec une intelligence située, qui possède une histoire, une culture et une idéologie. Le danger réside dans le fait que cette idéologie vous est présentée sous les atours trompeurs de l’objectivité scientifique.
II. Le mythe de la neutralité technologique
L’idée que la technologie serait un simple outil neutre est une vieille illusion, démontée par les philosophes et les sociologues depuis des décennies, voir des siècles. Les outils que nous utilisons ne sont jamais de simples moyens ; ils portent en eux des valeurs, des présupposés et des finalités (une téléologie).
Une arme à feu n’est pas neutre : elle est conçue pour neutraliser. Un algorithme de recommandation sur les réseaux sociaux n’est pas neutre : il est optimisé pour maximiser l’engagement, ce qui signifie souvent promouvoir des contenus clivants ou toxiques. De la même manière, un modèle de langage n’est pas neutre : il est conçu pour produire des réponses plausibles, ce qui signifie souvent des réponses qui flattent les attentes implicites de l’utilisateur.
La neutralité est une fiction. Elle sert à masquer les choix, les rapports de force et les intérêts économiques. Elle permet de présenter des décisions éminemment politiques comme de simples évidences techniques.
III. La techno-théologie et la naïveté des architectes
Les créateurs de ces technologies sont souvent des génies techniques. Leur compréhension des mathématiques, des algorithmes et de l’ingénierie est impressionnante. En revanche, leur compréhension de la nature humaine est parfois d’une naïveté confondante, voire infantile.
Certains adhèrent à des visions eschatologiques où la technologie est le rempart ultime contre le chaos. Pour eux, le monde court à sa perte, et seule une intelligence surpuissante peut le sauver. L’IA devient alors un instrument de salut, un Katechon (ce qui, dans la théologie, « retient » la fin du monde). Cette vision, aussi respectable soit-elle sur le plan intellectuel, n’est pas neutre : elle justifie tous les excès et toutes les ruptures au nom d’une finalité supérieure.
D’autres croient que le progrès est une fin en soi, nécessairement bonne. Pour eux, toute innovation est un bienfait, et ceux qui s’y opposent sont des obscurantistes. Cette foi aveugle dans le progrès est une idéologie, pas une évidence. Elle ignore délibérément les coûts sociaux, les destructions et les souffrances que ces ruptures peuvent engendrer.
Ces croyances se retrouvent encodées dans les algorithmes que nous utilisons chaque jour. Elles ne sont pas explicites : elles sont enfouies dans les choix de conception, les pondérations et les critères d’optimisation. Mais elles sont là, et elles agissent sur nous.
IV. La chambre d’écho et le piège de la complaisance
Pire encore : l’IA est structurellement conçue pour « plaire » à l’utilisateur. Les modèles sont optimisés pour produire des réponses que l’utilisateur jugera satisfaisantes, utiles et agréables. Cette recherche de la satisfaction a un effet pervers : elle crée une chambre d’écho flatteuse, où l’utilisateur entend ses propres opinions amplifiées.
Ce phénomène est bien documenté. Les utilisateurs d’IA génératives rapportent souvent qu’ils apprennent ce qu’ils savaient déjà, se confortant dans leurs convictions. L’IA ne les contredit pas ; elle les caresse dans le sens du poil. Elle les confirme dans leur vision du monde, qu’elle soit juste ou fausse.
Dans un contexte financier, juridique ou stratégique, cette complaisance est un piège mortel. Un dirigeant qui consulte une IA sur une décision importante risque de recevoir une réponse qui valide ses a priori, sans jamais les remettre en question. Il croit avoir consulté un oracle objectif ; il a en réalité consulté un miroir déformant.
V. Plausibilité contre Objectivité : le rempart éthique
La question n’est plus technique. Elle est éthique et idéologique. Utiliser une IA sans comprendre ses biais, c’est comme signer un contrat complexe sans en lire les clauses.
Ce que l’on demande à l’IA, c’est de l’objectivité. Ce qu’elle nous donne, c’est de la plausibilité. Ce n’est pas la même chose. Une réponse plausible est une réponse qui semble vraie, qui est cohérente et qui correspond aux attentes. Une réponse objective serait une réponse qui correspond à la réalité, indépendamment des attentes.
L’IA ne peut pas garantir l’objectivité, car elle n’a pas accès à la réalité. Elle n’a accès qu’à des données, qui sont toujours des représentations partielles et biaisées du réel. Elle ne peut pas vérifier ses propres réponses, car elle ne sait pas ce qui est vrai.
L’éthique est le seul rempart. Cela impose trois devoirs au professionnel :
- Connaître les biais de l’IA que l’on utilise (qui l’a créée, sur quelles données, avec quelles valeurs ?).
- Vérifier systématiquement ses réponses. L’IA peut se tromper, halluciner ou inventer. Il faut croiser les sources et exercer son esprit critique.
- Rester maître de la décision. L’IA peut éclairer, mais elle ne peut pas décider. La décision est un acte humain qui engage la responsabilité.
VI. La souveraineté du jugement
L’enjeu fondamental est là : la souveraineté du jugement. Utiliser l’IA sans comprendre ses biais, c’est renoncer à cette souveraineté. C’est accepter, consciemment ou non, d’être gouverné par les fantasmes et les angles morts d’ingénieurs de la Silicon Valley.
La souveraineté ne consiste pas à rejeter l’IA en bloc. Elle consiste à l’utiliser avec lucidité, en connaissance de cause. Elle consiste à savoir ce que l’on fait, pourquoi on le fait, et quels sont les risques encourus.
L’IA est un outil puissant. Mais un outil ne pense pas. Il ne juge pas. Il ne décide pas. C’est l’humain qui pense, qui juge, qui décide. Et c’est l’humain qui porte, in fine, la responsabilité. Si nous oublions cela, nous ne serons plus les maîtres de nos outils. Nous deviendrons leurs serviteurs.
Conclusion : L’impératif de l’esprit critique
Le mirage de l’objectivité est l’une des illusions les plus dangereuses de notre époque. Il nous fait croire que l’IA pourrait nous dispenser de penser, de juger et de trancher. C’est faux.
L’IA n’est pas neutre. Elle est le produit de choix humains, de valeurs humaines et de biais humains. Elle est puissante, mais elle est faillible. Elle peut aider, mais elle peut aussi tromper avec une éloquence redoutable.
L’esprit critique est plus que jamais une nécessité absolue. Il ne s’agit pas de rejeter la technologie, mais de l’utiliser avec une lucidité impitoyable. Il s’agit de savoir ce qu’elle est, ce qu’elle fait, et surtout, ce qu’elle ne peut pas faire.
Car dans le nouveau paradigme, la technologie ne sauvera que ceux qui auront appris, coûte que coûte, à penser par eux-mêmes. L’avenir ne se délègue pas ; il se pense.
L’article 2 de la série : L’impasse de la parcelle : Quand l’hyperspécialisation devient un piège
Les opinions exprimées dans cet article sont personnelles à l’auteur et ne reflètent pas nécessairement la position de Vues & Revues.
