Introduction – la tentation du « fourrer l’IA partout »
Dans les périodes de « hype » et de Peak of Inflated Expectations autour d’une technologie, même les experts oublient généralement que, pour une application efficiente et efficace, il faut prendre en compte l’environnement dans lequel cette technologie fonctionne au mieux, sans générer de bugs ni d’incidents.
Aujourd’hui, on essaie de mettre l’IA absolument partout. On parle d’usages possibles de l’IA dans tous les domaines. Or, dans quelques années à peine, les applications réelles de l’IA seront différentes et bien plus limitées que les fantasmes et les « châteaux en Espagne » actuels.
Ce que l’IA fait bien : des tâches clairement délimitées
Il existe des tâches où l’IA est effectivement plus performante que l’homme. Mais elles sont très clairement délimitées. Elles ne concernent ni la majorité d’entre nous, ni la plupart des entreprises.
Il s’agit de tâches scientifiques ou techniques, souvent liées à la refonte de systèmes complexes. Par exemple, transformer un processeur 32 bits en processeur 64 bits : on sait comment faire, mais le travail est long, fastidieux, technique. L’IA peut l’accomplir, libérant l’humain pour des tâches plus créatives.
La notion de « confiance » et de « trusted environment »
Face à la recrudescence des incidents liés à l’IA, les experts ont tiré la sonnette d’alarme. Dès 2023-2024, ils ont évoqué la nécessité de créer un système de « trusted environment », un environnement de confiance.
Deux conceptions de la confiance coexistent.
La confiance comme immuabilité. Dans le domaine des secrets d’État, la confiance signifie que rien ne change. On vérifie la salle, les ordinateurs, les personnes. Une fois validé, on peut travailler en toute sécurité. L’environnement est « immuable ».
Mais qu’est-ce qui distingue les ordinateurs dits « de confiance », utilisés pour les secrets d’État ou certaines activités bancaires ? Premièrement, ils portent des étiquettes, souvent des hologrammes, attestant qu’ils ont été inspectés par un centre ou un service de sécurité informatique spécialisé. Deuxièmement, ils sont équipés d’une carte ou d’un logiciel qui vérifie, à chaque mise en route, que la machine est rigoureusement identique à ce qu’elle était la veille, au moment de son extinction. Rien n’a changé depuis la dernière session. Créer de tels environnements de confiance est une procédure complexe, ce qui explique qu’elle soit réservée aux secrets les plus sensibles.
La confiance comme calculabilité. Pour le reste du monde, le terme « confiance » revêt un autre sens. Un moteur de voiture est conçu pour parcourir 200 000 kilomètres. On sait qu’il peut tomber en panne, mais on connaît la probabilité. En concevant un nouveau moteur, on s’appuie sur l’expérience accumulée : si l’on reprend les mêmes solutions, on peut escompter la même longévité. Si l’on améliore un élément critique, on peut espérer une durée de vie supérieure. On anticipe, on s’assure, on réagit. C’est un risque calculé. C’est ce que les spécialistes appellent un environnement « mesurable ».
L’IA et la confiance : le défi des hallucinations
Quand les experts ont tenté d’appliquer ces concepts à l’IA, ils ont découvert un problème majeur : les hallucinations.
Prenons l’exemple d’un réseau de neurones entraîné à reconnaître des chiens et des chats. Il distingue bien les deux espèces… jusqu’à ce qu’un raton laveur entre dans le champ. Si l’IA n’a pas été entraînée sur des ratons, elle va les classer au hasard, sans savoir qu’elle se trompe.
Pour comprendre ce phénomène, imaginons une simple représentation graphique d’une IA entraînée : les points correspondant aux chiens forment un amas, ceux des chats un autre. L’IA place un nouvel élément du côté de l’amas dont il est le plus proche : c’est un chat, c’est un chien. La frontière entre les deux amas est parfois floue, mais les erreurs restent rares. Le problème survient lorsqu’un nouvel animal, comme un raton laveur, fait son apparition. S’il est peu représenté dans les données d’entraînement, l’IA n’aura pas constitué d’amas spécifique. Elle classera alors le raton laveur tantôt comme chat, tantôt comme chien, sans s’apercevoir de son erreur. Si, de surcroît, l’animal présente une apparence inhabituelle, le système pourrait sombrer dans l’hallucination, croyant reconnaître une espèce qu’il ne connaît pas.
C’est le problème fondamental : l’IA ne sait pas quand elle se trompe. Elle ne peut pas nous dire « je ne sais pas ». Elle continue, imperturbable.
Trois catégories pour l’usage de l’IA
Pour éviter les dérives, il est indispensable de classer les tâches qu’on peut donner à l’IA en trois catégories.
Première catégorie : l’IA excelle. Elle traite parfaitement les problèmes concrets et bien définis : ciblage, reconnaissance d’images, traitement de grandes masses de données, suivi d’objets, profilage comportemental. Mais ces prouesses restent tactiques, jamais stratégiques.
Il existe un ensemble de tâches où l’IA est non seulement compétente, mais peut opérer de manière autonome, à condition que son périmètre soit strictement délimité et que l’environnement ait été minutieusement préparé, ce que les spécialistes appellent la « construction d’un environnement de confiance ». Le métro sans conducteur de Kuala Lumpur, qui fonctionne depuis une vingtaine d’années, en est un excellent exemple. De même, les moissonneuses-batteuses autonomes peuvent évoluer dans un champ avec une intervention humaine réduite, car les situations qu’elles peuvent rencontrer sont bien identifiées. L’homme peut alors se reconvertir, devenir réparateur ou superviseur de ces engins. Il existe donc un large spectre de tâches – y compris dans le domaine militaire – où l’IA est plus performante que l’homme, et où la présence humaine n’est plus nécessaire.
Deuxième catégorie : l’IA est médiocre. L’utiliser dans ces domaines revient à sortir un logiciel non débogué, un avion qui n’a jamais volé. Les données sont insuffisantes, polluées, ou ne prennent pas en compte des facteurs humains essentiels. C’est un usage encore expérimental.
C’est autour de cette catégorie que s’est développé l’essentiel du « hype » actuel. L’IA y joue le rôle d’un assistant, d’un compagnon, d’un aide. Elle peut rédiger des résumés, proposer des structures, esquisser des articles. Mais ce travail reste celui d’un apprenti, d’un sous-ordre, qui doit être supervisé par un professionnel expérimenté. L’exemple de la rédaction scientifique, que nous allons détailler, illustre parfaitement cette situation.
Troisième catégorie : l’IA est contre-indiquée. Il s’agit des situations où la précision est vitale, et où la marge d’erreur doit être nulle. Par exemple, une question personnelle délicate ne peut être confiée à une IA, car même une probabilité de 5 % d’erreur est inacceptable. Les décisions de vie ou de mort ne peuvent être déléguées à une machine qui hallucine.
Il existe une classe de problèmes dans lesquels l’IA est particulièrement inadaptée. Par exemple, lorsqu’il s’agit de retrouver la source d’une citation ou de vérifier si une information est authentique, l’IA est incapable de fournir une réponse fiable. La raison en est ce que les spécialistes appellent la « barrière du choix infini » : pour trancher, il faudrait multiplier les vérifications, ce qui exige un coût computationnel exponentiel. Face à une question complexe, l’IA préfère souvent inventer une réponse plausible plutôt que d’admettre son ignorance, ce qui la conduit à mentir ou à fournir des références fantaisistes. Ces tâches sont donc formellement interdites à l’IA.
L’exemple de la rédaction scientifique : l’IA, un apprenti à superviser
Un épisode récent illustre bien les limites de l’IA dans les tâches de rédaction et d’analyse textuelle. Une grande maison d’édition scientifique a voulu utiliser l’IA pour accélérer son travail. L’IA triait les nouvelles, rédigeait des résumés, écrivait des essais. Le résultat était prometteur.
Le personnel s’est emparé de l’outil. Mais très vite, les problèmes sont apparus. Le premier signal d’alarme a été la gestion des notes de bas de page : l’IA les formatait comme dans un article grand public, alors que les normes académiques sont très différentes. Les rédacteurs ont demandé une correction. Le service informatique a répondu qu’il fallait contacter les développeurs. Ceux-ci ont expliqué que l’IA avait été entraînée sur cinq millions de documents, et que pour corriger ce problème, il faudrait lui fournir cinq millions d’articles scientifiques. L’éditeur a jugé l’opération trop coûteuse et trop longue. Les rédacteurs ont donc dû corriger manuellement chaque note.
Puis d’autres problèmes sont apparus : il fallait vérifier les dates, recouper les sources, rectifier les nuances politiques, les expressions comme « notre sage leader » ou « leur chef tyrannique », qui dépendent du contexte et du public visé. Le travail des rédacteurs est devenu moins créatif et plus répétitif. Finalement, toute la rédaction a démissionné.
C’est un signal fort : l’IA est utile comme assistant, mais pas comme remplaçant. Elle ne doit pas être utilisée pour produire un travail final, mais pour ébaucher, suggérer, faciliter la première couche du travail, que l’humain doit ensuite reprendre, corriger, enrichir.
La tentation du tout-IA
Pourtant, submergés par l’effet de mode, les dirigeants de tous niveaux essaient de fourrer l’IA partout. La logique est simple : « soit elle résoudra tous nos problèmes, soit on pourra lui attribuer tous nos échecs. » Cette approche nous a déjà rapprochés du désastre. Comme en témoigne l’exemple de la rédaction scientifique, les salariés, voyant leur travail dévalorisé et leur salaire menacé, ont choisi de partir.
Les risques politiques et sociaux
L’IA est aussi utilisée pour influencer les préférences, orienter les opinions, manipuler les choix. Elle peut nous faire acheter ce dont nous n’avons pas besoin, ou nous pousser à des décisions politiques. Et souvent, elle est programmée avec des biais idéologiques.
Un exemple récent : six pays ont annoncé vouloir rétablir des vols directs avec la Russie. Google, lui, affichait des pages entières déconseillant de visiter ce pays. Les algorithmes orientent notre perception sans que nous le sachions.
Conclusion : une exigence de discernement
L’IA n’est ni un dieu, ni un démon. C’est un outil. Un outil puissant, certes, mais dont les capacités ont été surestimées par le battage médiatique et les intérêts commerciaux.
Les incidents recensés, les hallucinations, les biais, les erreurs de jugement, tout cela nous rappelle une évidence : l’IA est performante dans des niches précises, où les données sont abondantes et les règles claires. Elle est médiocre ou dangereuse partout ailleurs.
La construction d’un environnement de confiance n’est pas une option, mais une nécessité. Définir clairement les catégories d’application de l’IA, et les faire respecter, est une responsabilité qui incombe aux États comme aux organisations internationales.
Il ne s’agit pas de diaboliser, mais de clarifier. Il ne s’agit pas de rejeter, mais de cadrer. Car une mauvaise utilisation de l’IA peut coûter cher – en argent, en temps, en confiance, et parfois en vies humaines.
L’avenir de l’IA ne se jouera pas dans la démesure, mais dans la mesure. Dans la capacité à dire « non » là où elle est inadaptée, et « oui » là où elle est utile. Dans la lucidité, enfin, de ceux qui savent que l’intelligence artificielle ne remplacera jamais le discernement humain.
Les opinions exprimées dans cet article sont personnelles à l’auteur.
