Richard David Precht ferait le tour du monde complètement nu s’il était la personne idéale. Si l’on suit les arguments de son dernier livre “L’intelligence artificielle et le sens de la vie : un essai“, alors nous n’avons pas besoin de la technologie en général et de l’intelligence artificielle (IA) en particulier, car l’homme est déjà parfait de toute façon. C’est pourquoi Precht n’aurait pas besoin de chaussures, de vêtements et de lunettes, car ce sont toutes des technologies et des atouts culturels créés par l’homme pour nous rendre plus parfaits. Et nous n’avons pas besoin de l’IA pour nous rendre plus parfaits, comme il le suppose généralement, les chercheurs en IA le font.

J’ai lu le livre de la première à la dernière page et j’ai refait les pages : à aucun moment le terme intelligence n’est défini, ou en général une tentative de définition des termes. Ils sont simplement intercalés et parfois mal utilisés, comme c’est le cas avec les émotions et les sentiments, par exemple.

Dès le début, Precht précise qu’il est au-dessus d’expliquer lui-même l’intelligence artificielle. En d’autres termes, techniquement, comment fonctionne l’IA. Et donc ce qu’est réellement l’IA. C’est dommage, car peut-être aurait-il lui-même mieux compris l’IA, ses limites et ses possibilités, et aurait changé son argumentation. Je lui reproche aussi cela, car j’ai moi-même écrit un livre sur l’IA (“Quand les singes apprennent des singes : comment l’IA fait vraiment de nous des humains“) et à l’aide de définitions de termes, j’essaie de rapprocher les lecteurs du sujet.

Ce ne serait pas Precht s’il n’avait pas infailliblement identifié les méchants de l’IA. Ses antagonistes sont Ray Kurzweil, Nick Bostrom et Elon Musk. Musk, qu’il décrit comme un visionnaire – et Precht ne veut pas dire que c’est un compliment – qui promet toujours plus qu’il ne tient ses promesses, mais qui a en fait tenu tout ce qu’il a promis et abordé. Pas toujours à l’heure annoncée, mais il a livré : Tesla, SpaceX, PayPal, Boring, HyperLoop, NeuraLink, OpenAI…

Pendant que Precht tape dans son ordinateur habillé, profite des avantages de son appartement chauffé, de l’électricité et des vaccinations, et se tient de temps en temps devant la caméra, il s’exprime contre toutes les autres technologies qu’il n’a pas encore comprises (et définies), et jette dans le même tiroir tous les chercheurs et développeurs, et les organisations qui les financent.

Il accuse généralement les chercheurs en IA de naïveté et se force dans la discussion, avec des accusations qui en disent finalement plus sur lui et son monde que sur les personnes et les entreprises auxquelles il reproche de manière générale la malveillance, l’avidité et la naïveté. Il n’a pas pris la peine de comprendre réellement l’IA lui-même, ni de proposer des solutions. Il se réfugie dans la position confortable selon laquelle la moralité et l’éthique humaines sont trop complexes et diverses. Il n’y a donc pas de besoin et de possibilité de structurer. Il accuse tous ceux qui tentent de le faire de penser trop utilitaire et d’être moralement et éthiquement cruel.

Il appelle plutôt à une pensée radicale, regrette que les philosophes radicaux n’aient pas leur place dans les comités d’éthique et diabolise un éthicien des affaires pour avoir fait des compromis. A tous les autres, il insinue qu’ils se soucient peu du sort des gens dans les mines de cobalt du Nigeria ou les gisements de lithium d’Amérique du Sud, diabolisant les voitures électriques, l’IA ou d’autres technologies – de la “Silicon Valley”. Qui ne semble pas s’y reconnaître, car les technologies qu’ils utilisent (ordinateurs, téléphones portables, microphones, appareils photo, chauffage au mazout) ont apparemment été produites de manière moralement et éthiquement totalement compatible avec les droits de l’homme et la durabilité.

Ses arguments sont similaires à ceux avec lesquels d’autres moralisateurs ont bavé sur les innovations du passé, comme le chemin de fer, le miroir, le parapluie, l’ascenseur ou l’avion. Ceux-ci ne résolvaient aucun problème, étaient moralement répréhensibles et nuisibles, et portaient préjudice à l’humanité. En principe, ils étaient tous contre la nature, pour faire paraître les gens moins parfaits. Les intelligences, que nous sommes censés créer et développer, sont donc inutiles au vu de ses expériences avec la plupart des gens qui veulent juste se détendre mais ne veulent pas développer leur intelligence. Un argument que nous connaissons grâce à l’introduction de la lecture, de l’écriture et de l’arithmétique. La plupart des gens n’avaient pas besoin de ces compétences – selon l’opinion de l’époque – et pourtant tout le monde les apprend aujourd’hui.

En préparation de mon propre livre sur l’IA “Quand les singes apprennent des singes : comment l’IA fait vraiment de nous des humains“, j’ai pris la peine d’interviewer des chercheurs en IA, de lire plusieurs dizaines de livres de non-fiction sur l’IA et les domaines connexes, et d’écouter tous les épisodes du meilleur et du plus détaillé podcast sur l’IA de Lex Fridman. Et une chose est claire : ces personnes sont tout sauf naïves quant aux implications morales, éthiques et autres de leur travail. Ils posent des questions très précises et plus profondes sur ce que signifie l’intelligence humaine et artificielle, et ils essaient de trouver des réponses et de proposer des solutions.

Quelle que soit l’étendue des recherches effectuées dans le livre de Precht, il ne trouve pas un seul exemple d’application positive de l’IA sur 242 pages. Mais de tels exemples aideraient à montrer aux chercheurs en IA comment faire les choses correctement, selon M. Precht. Mais rien ne vient jamais. Peu importe le nombre de fois où vous retournez le livre, il n’y a rien.

Mais ce serait si simple : les résultats de la recherche sur l’IA, qui se déroule en fait dans plusieurs disciplines entre informaticiens, experts en IA, spécialistes du comportement, neuroscientifiques, biologistes, physiciens, mathématiciens ou scientifiques médicaux et même philosophes, nous montrent déjà aujourd’hui dans les premières étapes – au début de l’histoire de l’IA – comment le cerveau humain, le corps et les sociétés humaines fonctionnent et où cela soulève de nouvelles questions, où nous nous trompons, et sur quelles questions nous n’avons même pas encore effleuré la surface.

L’IA nous oblige aussi à montrer nos couleurs. Jusqu’à présent, nous, les humains et la philosophie, avons pu facilement sortir la tête du noeud coulant lorsque des questions morales et éthiques se posaient. Avec l’IA, nous ne pouvons plus nous débrouiller et tricher, et nous devons devenir plus précis et créer des cadres

Le sous-titre du livre promet des aperçus sur le “sens de la vie”, mais celui-ci n’est abordé qu’à la toute fin, et il n’est pas vraiment expliqué de quoi il s’agit, ni comment les gens pourraient le trouver par eux-mêmes. Et si elle existe réellement.

Precht se facilite la tâche : il est le critique qui crie confortablement depuis la première rangée du public – comme les deux personnages de Muppet Statler & Waldorf, mais cette fois-ci en union personnelle – aux chercheurs en IA trempés de sueur dans l’arène, qui essaient l’IA, s’y attaquent, l’étendent et l’améliorent, que leurs efforts sont inutiles, qu’ils n’ont aucune idée et ne sont que des idiots naïfs. Precht ne présente pas de solutions et ne propose pas de solutions sur une seule page du livre. Precht n’a pas non plus la moindre idée de ce que cela devrait être et de la manière d’y parvenir, car il s’agirait de visions, et les visionnaires dans le monde de pensée en noir et blanc de Precht sont des gens qui n’ont aucune compréhension du monde et de l’humanité et dont nous devons nous protéger.

Le livre est truffé de lieux communs, montre à quel point Precht comprend peu l’IA ou les voitures autonomes (j’ai moi-même écrit des livres sur ces deux sujets) et quelle est sa compréhension simple (mot-clé : algorithmes de mort) et – on ne peut pas se débarrasser de ce sentiment – s’en vante de façon subliminale. Precht éblouit avec des mentions et des citations de philosophes de différents siècles, souvent enchaînées sans contexte. Au lieu de cela, il présente ses opinions avec d’autant plus d’assurance. Assez peu, si vous voulez comprendre, en tant que lecteur, le potentiel et les risques de l’intelligence artificielle.

Quintessence: L’IA est mauvaise, les chercheurs en IA sont naïfs ; les humains sont parfaits et seuls les philosophes ont la perspective.

Après cette critique, je pense que vous pouvez comprendre pourquoi je ne peux pas recommander son livre. Il y en a tant d’autres et de meilleurs par des auteurs qui en comprennent vraiment quelque chose et peuvent l’expliquer de manière plus cohérente.