Pendant mes séjours à Londres j’aime fixer mes rendez-vous près d’un Waterstones. Ces librairies ont tout pour passer du temps agréable en attendant quelqu’un. Lors de l’un de ces passages à Waterstones, en feuilletant divers livres sur la société, économie et technologies, j’ai trouvé un qui m’a quelque peu dérangé, voire effrayé. Il s’agissait de The Net Delusion: The Dark Side of Internet Freedom écrit par Evgeny Morozov.
Ce livre parlait bien, comme son titre l’indique, d’internet et de tout l’univers qui s’est formé autour. Il évoquait, entre autres, le fait que notre connectivité totale et quasi-permanente n’est pas innocemment pratique et amusante, comme la majorité d’entre nous le vit au quotidien. Elle peut également être dangereuse et cela pour plusieurs raisons. L’«internetisation » de notre vie nous offre, quelque part, une approche « simplificatrice » des problèmes de la vie réelle, de la vision des relations humaines. Par ailleurs, elle permet aux gouvernements ou aux gros acteurs du web de tracer, suivre et anticiper chacun de nos pas.
Evgeny Morozov a récemment publié un autre livre intitulé To Save Everything, Click Here: The Folly of Technological Solutionism . Il parle de la place de plus en plus dominante occupée dans la société par les géants du monde des technologies et des risques qui s’en suivent. En tant que “insider” de la Silicon Valley il connait ses autres aspects que l’image « glamour » des jeunes et heureux employés des start-ups, venant travailler en shorts tout au long de l’année, et gagnant des salaires à six chiffres. A toute cette jeunesse et cet optimisme s’ajoute maintenant quelque chose de plus dangereux : le pouvoir.
Ce pouvoir se manifeste, entre autres, dans la tendance de requalifier les situations sociales complexes en problèmes clairement identifiés et quantifiés. Or, l’obsession de la Silicon Valley avec les données peut être dangereuse. Elle omet le point le plus important qui fait de nous des êtres humains : notre complexité, notre subtilité et nos différentes approches analytiques envers la pensée.
L’avenir semble être encore plus inquiétant lorsque nous jetons un regard sur le domaine de l’intelligence artificielle (IA). Nick Bostrom, le directeur de l’Institut du Futur de l’Humanité à l’Université d’Oxford, a travaillé sur les prévisions concernant le développement de l’IA. Dans son récent livre “Superintelligence: Paths, Dangers, Strategies”, il a publié les résultats des analyses basées sur les avis d’environs 200 experts les plus reconnus du domaine.
L’une des questions posées lors de ses enquêtes est « quand est-ce que les machines vont atteindre le niveau humain d’intelligence ? ». Par « niveau humain d’intelligence » l’étude sous-entend un niveau où la machine « peut exécuter la majorité des professions humaines au moins aussi bien qu’un humain ». Les résultats obtenus peuvent être qualifiés comme menaçants pour les humains, car ils stipulent qu’il y a :
- la probabilité de 10% que ce niveau d’intelligence sera atteint vers 2022
- la probabilité de 50% que ce niveau d’intelligence sera atteint vers 2040
- la probabilité de 90% que ce niveau d’intelligence sera atteint vers 2075
A priori nous ne devrions pas être surpris par ces prédictions. Les robots et les algorithmes puissants ont déjà supprimé une partie des emplois. Tout type de travail incluant les tâches répétitives est de plus en plus digitalisé : ouvriers, fermiers, telemarketeurs, traders, banquiers, avocats, journalistes, ont déjà tous ressenti l’emprise de plus en plus grandissante des « collègues » automatisés. Toutefois, ce n’est pas le type d’intelligence par laquelle est intéressé Bostrom. L’intelligence du type humain est celle qui inclut l’intuition et la logique, c’est celle qui permet d’apprendre, faire face aux situations d’incertitude et d’évaluer le monde autour. Et ensuite ? En effet, le chercheur insiste sur le fait qu’atteindre ce niveau d’intelligence artificielle n’est pas un but en soi. Le plus intéressant vient après : les machines pourront raisonner, s’améliorer, évoluer. Dans cette situation les cieux deviennent la seule limite, ou, en paraphrasant l’expression anglaise « sky is the limit », le skynet sera la seule limite.
L’évolution des objets électroniques du quotidien (ordinateurs, téléphones portables) s’accélère d’une manière exponentielle. Dans plusieurs domaines, comme les échecs, les capacités des machines sont déjà « surhumaines ». Dans d’autres, comme raisonnement et intelligence émotionnelle, les machines ont encore un long chemin à parcourir. Globalement, il est sans importance si les machines atteignent le niveau humain d’intelligence dans 20 ou dans 120 ans. Ce fait ne sera qu’une étape sur la voie vers la super intelligence, l’intelligence qui dépasse largement les performances cognitives des humains dans potentiellement tous les domaines d’intérêt.
D’après l’étude de Nick Bostrom, la probabilité que les machines arrivent à la super intelligence 2 ans après avoir atteint le niveau d’intelligence humaine est de 10%. Cette même probabilité augmente jusqu’à 75% lorsque l’on considère le délai de 30 ans après qu’elles aient atteint le niveau d’intelligence humaine.
Elon Musk, inventeur et fondateur de Tesla et de SpaceX, émets une alerte sur le fait que les machines peuvent représenter le plus grand danger existentiel pour l’humanité. Il dit avoir investi dans les sociétés spécialisées dans l’IA uniquement pour garder l’œil sur les directions dans lesquelles évolue ce domaine.
Il y a quelques mois Elon Musk a écrit sur son compte Twitter « J’espère que nous ne sommes pas uniquement le contenant biologique pour le stockage de la super intelligence. Malheureusement ceci est de plus en plus probable. »
Bien entendu, beaucoup d’incertitudes nous attendent avant que nous passions les clés du royaume terrestre à notre « progéniture robotique ». Tout d’abord, les humains ne sont pas bons dans la prédiction de l’avenir, tout peut changer pour des raisons inattendues. De plus, les êtres humains deviennent déraisonnablement optimistes lorsqu’ils parlent de l’avenir de leurs sociétés, de leurs domaines d’activité, et Nick Bostrom est clairement optimiste. En outre, les technologies prennent souvent des virages inattendus dans leur développement. Elles peuvent changer complétement leur trajectoire afin d’atteindre le même but, pour s’en rendre compte il suffit de plonger dans les livres de science-fiction d’il y a quelques décennies.
Néanmoins, les penseurs les plus brillants dédiés à cette technologie en plein boom, prédisent la fin de la suprématie intellectuelle des humains vers le milieu de ce siècle. Ce fait devrait être suffisant pour que nous nous arrêtions et réfléchissions. Le sens dans lequel évolue une technologie peut être inévitable, mais nous ne pouvons pas éviter une attention et une analyse des risques de la manière avec laquelle nous l’abordons.
Dans l’un de ses articles publiés par l’Independent il y a quelques mois, Stephen Hawking, le grand penseur de la physique théorique, a écrit : « le succès dans la création de l’IA sera le plus grand évènement de l’histoire humaine. Il pourrait aussi être le dernier. »
Source photo: Wikimedia
