L’Histoire est garnie de rebondissements. Le 26 mars 1811, la mouvance luddiste se met en marche. Les luddistes sont des ouvriers-ouvrières ou des artisans-artisanes de manufactures anglaises qui se sont rebellé contre la mécanisation de l’industrie textile. Des luddistes ont alors saccagé des manufactures et brisé des métiers à coups de marteaux.
Au passage du 19e siècle, la mécanisation des manufactures a entraîné une détérioration des conditions de travail et a été source de paupérisation. De maître de leur métier, ouvriers, ouvrières, artisans et artisanes sont devennu·e·s des assistants et assistantes, âgé·e·s de huit ans et plus, au service de machines performantes, bruyantes et dangereuses. Parallèlement à la mouvance luddiste, a pris place, en Angleterre et en Europe continentale, une mobilisation ouvrière pour exiger des législateurs une réforme des codes du travail.
Les métiers mécaniques impliquent la dégradation des conditions de vie des anciens tisserands à la main, qui voient leurs revenus passer de 21 shillings en 1802 à 14 en 1809. En 1807, plus de 130 000 de ces travailleurs signent une pétition en faveur de l’établissement d’un salaire minimal. (Hérodote)
Le 29 mars 2023, 212 ans après le soulèvement des disciples de Ned Luddlam, de grands noms de l’univers des nouvelles technologies ont lancé un appel, sous la forme d’une lettre, contre les dangers ou les dérives de l’intelligence artificielle (IA).
Les systèmes d’IA pouvant rivaliser avec l’intelligence humaine peuvent poser un grand risque pour l’humanité, plaident les quelque 1 000 signataires de la lettre publiée par le Future of Life Institute, un organisme qui cherche à limiter les risques associés au développement des nouvelles technologies. (Radio-Canada)
L’appel sommait les gouvernements d’agir afin de contrôler le développement de l’Intelligence artificielle. Il ne s’agit plus, à l’image des luddistes, de se débarrasser des métiers à tisser, mais de composer avec l’IA, de le faire en toute sécurité pour le futur de l’Humanité.
Le débat entre les défenseurs et les méfiants à l’IA a débordé sur la place publique. Au Québec, Yoshua Bengio est au nombre des signataires de ladite lettre, tout en étant un acteur clé du développement de l’IA. Toujours au Québec, Yann Le Cun, autre grande sommité québécoise du développement de l’IA, dans une entrevue récente à Radio-Canada, a démystifié les dangers associés au développement de l’IA. Il s’oppose à toute intentionnalité ou tentative de contrer son développement.
On peut imaginer un futur dans lequel tout un chacun interagira avec le monde numérique à travers un assistant intelligent qui nous aidera dans nos vies de tous les jours, dit-il. Ce sera comme avoir un assistant humain. (Radio-Canada)
Être au service d’un métier à tisser, au 19e siècle, représentait une déqualification, un transfert d’une partie de l’expertise humaine à une machine. Assister l’IA n’impliquerait pas une telle désappropriation, selon Yann le Cun, puisque d’autres métiers apparaitront. Le travail humain s’adaptera et continuera à supporter avantageusement le développement de machines de plus en plus intelligentes, apprenantes et auto-génératives.
Certainement, comme avec toute technologie ou transformation technologique, les métiers vont être déplacés, admet-il. Des métiers vont disparaître, d’autres vont apparaître… La meilleure manière de construire une machine intelligente, c’est de la laisser se construire elle-même par apprentissage. (Ibid.)
Les termes du débat sont clairs. D’un côté, pour Yann le Cun, accroître notre dépendance aux machines intelligentes sera bénéfique en autant que nous maintenions en santé nos institutions démocratiques. De l’autre, pour Yoshua Bengio, encadrer rapidement et fermement l’évolution de cette technologie est un incontournable afin de prévenir la dérive d’une IA qui serait mise au service d’autorités pour surveiller et contrôler les populations. Une IA qui permettrait la production d’armements de plus en plus sophistiqués et destructeurs de vies humaines.
En toile de fond, une troisième option se présente. Elle soulève un autre débat. Faut-il encourager ou prévenir le développement d’une civilisation Big Tech d’IA qui serait plus intelligente, rationnelle et raisonnable que les humains ? Une civilisation IA qui n’aurait plus besoin de nous pour exister et se développer, ou encore qui pourrait nous réduire au statut d’esclaves.
La trilogie de la Matrice (écrite et produite par « les Wachowski », en 1999) et La saga Blade Runner (deux films et une série en production), réalisée à partir d’un roman de Philip K. Dick, Do Androids Dream of Electric Sheep (1968) [Les androïdes rêvent-ils de moutons électriques ? (1976)], situent le cadre de cette troisième éventualité. Celle d’une IA plus évoluée, éthiquement et esthétiquement super humaine, devant lutter pour sa survie en réponse à une classe d’humains voulant son extinction par crainte d’être surpassée et déclassée…
L’enjeu posé par ces deux imaginaires artistiques est questionnant : qui est le plus humain, le cyborg ou l’être humain ? Celle d’une IA qui représente un saut évolutif par rapport à homo sapiens. Ou celle d’une IA qui réduit l’humanité à un statut de fournisseur énergétique : le maître réduit au statut d’esclave.
Entre ces deux scénarios, nous retrouvons une option concrète et tout aussi questionnante, celle représentée par l’approche à long terme (longtermism) et du transhumanisme.
Il est clair que, malgré les appels à la prudence, l’Histoire suivra son cours. D’où l’importance de la précaution (Yoshua Bengio) et du maintien d’une culture démocratique (Yann le Cun). Sur ce plan, les médias, les institutions universitaires et les fondations philanthropiques ont un rôle critique important à jouer dans le travail de construction de notre devenir historique.
Le dossier que nous avons préparé explore la place et le rôle de la philanthropie subventionnaire, et du mécénat de grandes fortunes, dans le développement de la cybernétique et de l’intelligence artificielle. Il explore cet univers en se penchant autant sur ses possibilités que les craintes qu’il suscite.
Notre dossier se penche sur les façons dont l’IA peut être utilisée par les fondations, autant pour mieux gérer leurs subventions philanthropiques, que pour les demandes de dons faites auprès d’organisations subventionnaires. Plus spécifiquement, la question du rôle de l’IA dans le soutien à la capacité interne des organismes est regardée : comment les outils de l’IA peuvent être utilisés pour soutenir des tâches administratives ?
Le dossier comprend aussi une dimension politique critique. Les difficultés actuelles sont abordées dans différents articles et podcasts. Elles le sont en répondant à différentes questions sur la gouvernance de l’IA, sur les modalités visant la régulation de son développement, tout en se penchant sur les enjeux portant sa définition et les politiques qui l’entourent.
Enfin, nous explorons le rôle que la philanthropie peut jouer dans son développement : tant pour prévenir de mauvaises utilisations de l’IA que pour assurer le maintien d’une culture démocratique et le développement de la pensée critique en situation de grande complexité et de transition sociale et écologique.
This article is part of the July 2023 special edition: Philanthropy and AI. You can find more here.
