Les activités humaines ne sont pas solubles dans les modélisations

couv_deep-earnings_grand

Un physicien, spécialiste des systèmes complexes, nous rappelle l’impossibilité « de mettre les sociétés humaines en équation »

En introduction, Pablo Jensen aborde les réseaux de neurones, les applications de deep learning, les algorithmes, l’« intelligence artificielle ». L’auteur questionne « Comment fonctionnent ces algorithmes magiques ? Comment a-t-on pu créer de l’intelligence à partir de transistors, au fonctionnement aussi stupides que des interrupteurs ? »

Pour comprendre la logique de ces réseaux, il revient sur l’article « fondateur en ce domaine » du psychologue Frank Rosenblatt. Surprise, ce chercheur cite comme source d’inspiration Friedrich Hayek qui obtiendra en 1974 le prix de la Banque de Suède, mal-nommé « pris Nobel d’économie ».

Friedrich Hayek, un économiste contre les droits humains, un idéologue antidémocratique, « Personnellement, je préfère un dictateur libéral à un gouvernement démocratique qui manque de libéralisme », un admirateur de la dictature d’Augusto Pinochet, un grand prêtre de la religion du marché…

Le livre est composé de six textes. La lectrice et le lecteur n’ont pas besoin de connaissances approfondis dans les domaines abordés. L’auteur use d’un langage courant, donne des explications très pédagogiques et illustre ces propos par des exemples. Nous sommes loin des jargons utilisés par certain·es…

Frank Rosenblatt, la confiance illimitée dans les capacités de la science, les compréhensions du cerveau, la cybernétique, « Le concept central de la cybernétique est la rétroaction, le feedback ». Pablo Jensen aborde les différences entre l’approche cybernétique et l’approche classique, les travaux de Frank Rosenblatt, l’apprentissage et les erreurs, les algorithmes d’apprentissage, les ajustements de millions de paramètres, la force des équations mathématiques dans les espaces reproductibles, la supériorité des réseaux « lorsque la variabilité devient trop forte », l’impossibilité de mettre le cerveau en équations, les boucles d’apprentissage, la fonction d’évaluation, les jeux d’échec et le monde réel, le reproductible et ce qui ne l’est pas, les régularités, les heuristiques, « nous ne sommes pas condamnés au calcul », les algorithmes et les relations mathématiques qui n’existent pas, la difficulté « à adapter la complexité du modèle à celle de l’objet », les bruits aléatoires…

L’auteur souligne que l’intelligence est incarnée, que les capacités des ordinateurs sont abusivement appelés « intelligence artificielle », que le dressage est différent de l’apprentissage, « enrichit la palette de comportements disponibles et comporte des « conversations » », que nous sommes un corps (nous n’« avons » pas un corps). Il aborde la pensée abstraite, les représentations symboliques, ce qui donne sens à ce que nous vivons. Les réseaux de neurones ne sont quant-à eux pas incarnés et demeurent fondamentalement différents de l’intelligence humaine et leur pouvoir de nuisance « provient plutôt de leur scrupuleuse obéissance »…

Il m’a semblé utile de m’attarder sur le premier texte qui désenchante les récits apologiques sur l’« intelligence artificielle ». Le débat démocratique devrait s’emparer de la fabrication et la gestion privative des algorithmes, leur non-neutralité politique (voire leurs biais sexistes ou racistes), sans oublier la critique d’un déterminisme mesquin qui rendrait possible la prédictibilité concrète des actions humaines…

C’est avec une certaine délectation que j’ai lu les pages sur Friedrich Hayek, ses convictions et ses engagements idéologiques, ses prises de positions anti-démocratiques, l’aseptisation de la complexité du monde, le marché divinisé, les règles qui ne seraient pas sociales et issues d’êtres humains mais d’un « ordre spontané, impersonnel et apolitique, similaire à celui émargeant de l’évolution darwinienne », l’assimilation de l’évolution au progrès et du progrès à l’évolution, l’homogénéisation de tous les environnements « créant une échelle unique d’adaptation et donc de légitimité », le refus des choix politiques et démocratiques (et du concept de justice sociale), l’utopie dévastatrice nommée libérale, la soumission au « marché »…

Je souligne les analyses de l’auteur sur les réseaux de neurones et la complexité du monde, l’architecture du réseau ajustée et réajustée par des ingénieurs, les informations et le marché et la question « au bénéfice de qui ? », les impensés de la « théorie » et l’oubli de l’incertitude dans les systèmes sociaux humains, les prophéties auto-réalisante, la division du travail et l’individualisation, le libéralisme autoritaire et ses contraintes, la dictature des marchés, « il faut se soumettre à l’ordre du marché », l’invention d’un domaine réservé hors de portée de la démocratie…

Pablo Jensen discute des conceptions du monde, Platon et « la fixité imperturbable du ciel », le libéralisme radical de John Dewey, l’ouverture à l’expérimentation sociale « sans fin et sans garantie », la connaissance et les transformations du monde. Il rappelle que « plus on crée de l’ordre à l’intérieur des réseaux technologiques, plus on génère du désordre à l’extérieur »…

Au postulat de certains que les réseaux et le marché peuvent contrôler un monde complexe, l’auteur oppose la prise en compte du marché « comme outil de coordination économique utile »et le long terme d’objectifs « transcendant l’optimisation du profit immédiat ». Il nous rappelle que « le modernisme entraîne une concentration de pouvoir et de richesse qui engendre inégalités et corruption ». Il propose de « débrancher la machine moderniste », de prendre soin « des enchevêtrements locaux nécessaires à la création de vie et de valeur », de développer le mouvement des « communs comme alternative au marché et au plan pour apprivoiser le monde sans l’épuiser ».

Pablo Jensen termine sur une nouvelle organisation de la société « qui considère marché, planification et communs comme des moyens au service de buts fixés collectivement, et qui sache équilibrer leurs emprises respectives »…

Pablo Jensen : Deep earnings

Le néolibéralisme au cœur des réseaux de neurones

https://cfeditions.com/deep-earnings/

C&F, Caen 2021, 98 pages, 15 euros

Didier Epsztajn

Votre commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l’aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l’aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l’aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l’aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.