On dit que la quantité de données générées par les humains dans toute l’histoire de l’humanité double tous les deux ans. Au cours des 24 prochains mois, nous allons générer autant de données que l’humanité en a généré depuis sa création. Cela peut donner le vertige, et cela dépasse notre capacité à vraiment comprendre. Les données sont devenues une monnaie importante dans les rouages de nos vies ; sans elles, la vie moderne serait impossible. Il n’est pas étonnant que les données – ou plus précisément, le “lult autour des données” – attirent l’attention des poètes et des penseurs.

Par exemple, “LOGOS – Glauben und Zweifel” (LOGOS – Foi et Doute), un format d’émission de la station de radio autrichienne Ö1, était consacré au thème de l’intelligence artificielle. Le philosophe, théologien et publiciste Christoph Quarch a été invité à l’émission Comment l’intelligence artificielle change notre façon de penser.

Et parce que l’historien israélien Yuval Noah Harari avait introduit dans son best-seller Homo Deus le terme médiatiquement efficace de dataisme, qui – pour faire simple – décrit le mode de pensée qui rend hommage aux données, ce sujet a aussi été immédiatement abordé. Le dataisme est donc en quelque sorte une nouvelle religion ou une idolâtrie, dont l’élément sous-jacent – les données – est considéré comme la seule source de sagesse et de salut.

Il n’est pas nouveau que les nouvelles technologies se voient souvent attribuer des caractéristiques proches de la religion. Qui ne se souvient pas du discours sur “l’automobile comme idole moderne” à laquelle nous soumettons tout ? Nos villes, notre environnement, nos finances et même nos vies en acceptant simplement les accidents. Les nouvelles technologies revêtent une qualité différente lorsqu’elles ne sont pas faciles à comprendre, voire lorsqu’elles prennent des formes magiques. Voici un paragraphe de mon livre Future Angst, qui sera publié en août 2021 :

La manière contradictoire dont les technologies sont reçues peut être attribuée à plusieurs caractéristiques d’une invention. Jusqu’à l’époque de Galileo Galilei, les machines avaient encore quelque chose de magique. Les machines ne pouvaient être évaluées que qualitativement ; il manquait les connaissances physiques et mécaniques de base pour les exprimer en chiffres et donc les enregistrer quantitativement. Ce n’est qu’alors qu’il a été possible de planifier et de développer efficacement. Jusque-là, il y avait une certaine confusion entre ce qui était mécanique et ce qui était magique. L’idée d’utiliser la puissance d’une machine pour effectuer des opérations simples était considérée comme un moyen de “tromper” la nature. Un machiniste était donc une personne qui avait des pouvoirs magiques. Dans l’opéra […] “Les Contes d’Hoffmann”, E.T.A. Hoffmann joue avec ce cliché en attribuant ce rôle à l’inventeur Spalanzani, en référence au polymathe italien Lazzaro Spallanzani.

Même le phénomène de l’électricité, qui était encore mal compris au début des années 1800, a trouvé un statut quasi-religieux à travers le roman Frankenstein de Mary Shelley, dans la mesure où on lui attribuait le pouvoir de créer la vie. Quelque chose qui n’est habituellement accordé qu’aux dieux. Deux cents ans plus tard, nous n’avons pas écarté les réactions similaires aux technologies et aux découvertes que nous avons du mal à comprendre. Et cette fois, il s’agit de l’intelligence artificielle, et de manière approximative des données qui la sous-tendent. On parle de superintelligences qui seront plus intelligentes que nous, les humains, et qui essaieront ou pourraient essayer de nous subjuguer, voire de nous éradiquer. Et si ce n’est pas le cas, elle ne se contentera pas de changer notre façon de penser, mais elle nous en privera également. C’est du moins l’avertissement de Christoph Quarch, qui se glisse dans le rôle de l‘entrepreneur moral.

Dans l’émission de 25 minutes susmentionnée, il s’inquiète non seulement de la prise de pouvoir des machines sur la pensée et de notre attitude non critique à son égard, mais il prévient également que les humains donnent ainsi aux données (et à l’IA) un statut que Yuval Harari et lui-même, Christoph Quarch, considèrent comme usurpant la divinité de l’homme en créant une nouvelle religion – le dataïsme.

Une substance forte à deux égards, qui peut et doit faire peur. Mais est-ce vrai ? Malheureusement, les producteurs de la radio n’ont invité aucun expert en IA à l’émission, qui aurait pu apporter un point de vue différent. Le processus de pensée était probablement qu’une personne qui traite le sujet jour après jour n’aurait rien de profond à dire à ce sujet, mais un historien et un philosophe, oui. Qui aurait l’idée d’inviter un producteur radio à une émission sur la création radiophonique ? Seuls les historiens et les philosophes ont des choses profondes à dire à ce sujet. Non pas que je veuille suggérer que les historiens et les philosophes n’ont rien à dire sur les différentes questions qui nous concernent et nous affectent, bien au contraire. Leur perspective unique nous fait penser différemment à eux. Mais il faut aussi faire appel à quelqu’un du domaine concerné, qui peut aussi revoir la situation de son point de vue.

Mais regardons les deux prémisses qui servent de leitmotiv à la série. “Sommes-nous en train de laisser la pensée aux machines ?” et “Sommes-nous en train de créer une pseudo-religion ?”.

Est-ce que nous laissons la réflexion aux machines ?

Lorsque nous sommes confrontés à une telle affirmation, une approche contrefactuelle ou la recherche d’analogies peuvent souvent nous aider. Dans ce cas, nous pourrions examiner des technologies qui nous semblent évidentes aujourd’hui et chercher à savoir comment elles étaient perçues par les gens à l’époque.

Ainsi, un commentateur du Sunday Advertiser, un journal hawaïen, du 18 janvier 1908, affirme ce qui suit :

N’oubliez pas comment marcher
Le tramway, l’automobile et le chemin de fer ont rendu la locomotion si facile que les gens marchent rarement. Ils se rendent au magasin, au théâtre, à la boutique, au lieu de villégiature, de la campagne à la ville, d’une rue à l’autre, jusqu’à ce que la marche devienne presque un art perdu. Dans une génération ou deux, nous aurons oublié comment utiliser nos jambes. L’homme est par nature un animal qui marche.

Les transports modernes prennent le pas sur la marche et nous oublierons d’utiliser nos jambes. Cela vous semble familier ? Mais alors, ce n’est pas la première fois dans l’histoire de l’humanité que l’on craint de perdre une compétence importante ? Dans la Grèce antique, l’écriture était considérée comme une menace pour le souvenir et la mémorisation, c’est-à-dire l’utilisation de notre mémoire. Ou à l’âge de pierre, et j’entends par là les années 1990, le four à micro-ondes était quelque chose qui menaçait le danger. Voici à nouveau un extrait de mon livre Future Angst :

Dans un reportage publié en 1990 par le Los Angeles Daily News, Brian, 13 ans, explique au journaliste comment il enfonce son hot-dog dans une miche de pain, l’enveloppe dans un tissu, puis le réchauffe au micro-ondes. L’article du journal déplore ensuite que les jeunes d’aujourd’hui ne puissent pas imaginer la préparation des aliments sans micro-ondes, et que des compétences importantes telles que la cuisson d’un hot-dog sur un gril aient été perdues. Mis à part le fait que vous ne voudriez peut-être pas laisser un enfant de 13 ans manipuler un gril sans surveillance, le micro-ondes fait exactement le travail qu’il est censé faire. La nourriture a été chauffée. Quel est le problème ?

Mais les plaintes continuent. Le velcro empêcherait d’apprendre à nouer les lacets de chaussures. L’écriture manuscrite serait perdue car on n’aurait plus besoin de prendre des notes au téléphone puisque le répondeur enregistre le message vocal. La liste des plaintes et des avertissements pourrait être longue.

Nous ne perdons pas de compétences. Nos compétences évoluent avec les technologies. Nous pouvons également faire plus avec moins, de sorte que l’accusation selon laquelle les nouvelles technologies nous rendent plus paresseux est invalidée. Comme les agriculteurs avaient désormais une poignée sur leur faucille, ils pouvaient moissonner un champ deux fois plus vite tout en ménageant leur dos. Est-ce que ça les a rendus plus paresseux ? Est-ce que ça leur a fait perdre la capacité de balancer une faucille ? Je ne pense pas. Il y a cependant certaines compétences que nous avons perdues, non pas tant parce que de nouvelles technologies les ont remplacées, mais parce que des bouleversements politiques et sociaux ont eu lieu, de sorte que les connaissances les concernant ont été perdues. Par exemple, nous ne savons plus exactement comment était fabriqué le fameux acier de Damas, avec son motif ondulé caractéristique sur une lame de couteau et sa qualité, qui était connu il y a deux mille ans. Personne n’avait écrit d’instructions, ni en cunéiforme ni en sütterlin. La seule crainte que nous devrions avoir est que nous ne documentons pas suffisamment les compétences et les technologies pour la postérité.

Cela signifie-t-il que nous perdons notre capacité à penser ? Pas vraiment. L’intelligence artificielle supprime le travail de réflexion qui est ennuyeux et répétitif, et que la machine peut faire beaucoup plus rapidement. Ce faisant, elle nous libère du temps pour faire ce que la machine ne peut pas faire aujourd’hui : demander le pourquoi, la causalité, le contexte et, si nécessaire, apporter des changements à un cadre et à un modèle de pensée. Elles seront encore et pour longtemps données par nous, les humains. Mais passons maintenant à la deuxième affirmation.

Sommes-nous en train de créer une pseudo-religion avec cela ?

Dans une série télévisée dont le titre a pour leitmotiv la foi et le doute, il n’est guère surprenant que des questions théologiques soient abordées. Il semble donc logique aux protagonistes de placer sans cérémonie la technologie au niveau d’une religion. Seulement, ils ne veulent pas vraiment lui permettre de le faire ; elle est plutôt traitée comme une idole et une pseudo-religion. Ce faisant, des doutes sont émis quant à la véracité de la croyance et de la confiance des gens dans les données et les algorithmes. En même temps, le même doute n’est pas appliqué à une “vraie” religion comme le christianisme – et à un Dieu. Bien au contraire, le fait de se détourner d’une “vraie” religion pour se tourner vers une “fausse” religion comme le dataisme, créée artificiellement à l’image de l’ennemi, est regardé d’un œil désapprobateur. Le sens de la vie serait perdu si les gens ne vénéraient que les données et devenaient eux-mêmes des “ordinateurs”.

Seulement : lequel est le plus réel ? L’ami invisible dans le ciel que les chrétiens vénèrent, ou les données collectées par les scientifiques et autres que nous avons maintenant comme meilleure base pour prendre des décisions ? Dois-je prier le Seigneur Dieu pour être délivré de la pandémie de COVID, ou dois-je encore faire confiance au séquençage des données par les ordinateurs qui nous permettront ensuite de créer des vaccins contre le virus ? Le sens de la vie consiste-t-il à espérer passivement un miracle des dieux ou à prendre activement son destin en main et à s’attaquer au problème ?

Quarch nous met en garde contre le danger de perdre le sens de la vie à cause du datalisme, et attribue aux seules religions authentiques la compétence de transmettre du sens. Mais c’est ce que je voudrais savoir ? Qu’est-ce que les religions nous ont réellement transmis au cours de ces milliers d’années ? S’ils prétendent être les seuls à le faire, c’est qu’ils ont un bilan plutôt médiocre pour la majorité des gens.

Conclusion

L’émission répond à la grande question principale de manière essentiellement unilatérale, et donc inadéquate. Malgré les 25 minutes de temps disponible, vous tournez en rond, vous ruminez vos arguments unilatéraux et vous vous sentez lésé en tant que personne dotée de connaissances technologiques, comme cela devrait en fait arriver aux philosophes et aux historiens qui font juste un petit effort pour la philosophie de la technologie et l’histoire de la technologie. Je ne suis pas historien, mais j’ai trouvé et cité ici suffisamment de données historiques pour réfuter les arguments de Yuval Harari. Les avertissements de Quarch semblent également dépassés et unilatéraux. Unidirectionnel parce qu’ils sont mis en avant avec l’agenda caché que les “vraies” religions sont créées avant les pseudo-religions si artificiellement créées par lui (et Harari) comme images de l’ennemi pour se sentir moralement supérieur à eux.

Ainsi, les animateurs et les invités de la radio n’ont pas réussi à répondre de manière satisfaisante à la question posée, ni à tirer des leçons du passé en général. La religion et la philosophie s’éloignent ainsi de plus en plus d’une contribution constructive aux grandes questions de l’humanité. Le célèbre astrophysicien Neil deGrasse Tyson le regrettait déjà dans un podcast en 2014 :

Ce qui m’inquiète, c’est que les philosophes pensent qu’ils posent des questions profondes sur la nature. Mais en réalité, ils ne contribuent pas de manière productive à notre compréhension du monde naturel… Je suis donc déçu parce qu’il y a là beaucoup d’intelligence qui aurait pu contribuer grandement, mais qui ne le fait pas aujourd’hui. Ce n’est pas qu’il ne puisse pas y avoir d’autres sujets philosophiques, il y a la philosophie de la religion, la philosophie éthique, la philosophie politique, beaucoup de choses à faire pour les philosophes, mais la frontière des sciences physiques ne semble pas en faire partie.

À propos, l’émission LOGOS n’est disponible que jusqu’au 29 juin 2021.