Existe-t-il une relation historique entre la cybernétique, l’intelligence artificielle et la philanthropie subventionnaire ? Une réponse rapide est oui.
Avant de nous pencher sur cette relation, quelques précisions sur la cybernétique.
Cybernétique et enjeux moraux
Wiener en 1949. PHOTO: THE LIFE IMAGES COLLECTION/GETTY IMAGES
La cybernétique est un néologisme popularisé par Norbert Wiener en 1947. Ce dernier, dans une logique de contribution minimale à l’effort de guerre (il a refusé de contribuer au développement de la bombe atomique), a favorisé le développement de l’armement anti-aérien.
Au cœur des travaux réalisés par Norbert Wiener, nous retrouvons le concept de rétroaction. Pour ce chercheur transdisciplinaire, cette notion est au cœur des processus de communication prenant place entre des humains, entre des humains et des machines et entre des machines. Dans deux ouvrages synthèses, il présente une synthèse d’un nouveau champ de recherche, la cybernétique, et une réflexion morale sur le métier de chercheur en temps de guerre.
Le concept de rétroaction s’inscrit dans le paradigme des systèmes ouverts où l’entrée et la sortie de données, et leur traitement par les émetteurs et les récepteurs, a ouvert la voie aux développements majeurs qui prirent place dans une variété de domaines scientifiques, dont celui de l’intelligence artificielle.
La réflexion morale de Norbert Wiener, quant à elle, reposait sur les relations qu’il a entretenues avec l’armée étatsunienne et l’embargo de publication de certains de ses travaux. Ce contexte relationnel tendu l’a conduit à exprimer une analyse critique des contributions de la science aux efforts de guerre. L’apport de chercheur·e·s, indique-t-il, ont, directement ou indirectement, conduit à deux abominations : les camps de concentration (à l’image de Belsen) et les bombes atomiques sur Hiroshima et Nagasaki. Il nous a rappelé que nombre de chercheur·e·s ont contribué à ces évènements. D’où le dilemme moral qui se pose à la science en lien avec l’utilisation de contenus scientifiques à des fins militaires.
Ce dilemme, Norbert Wiener, l’a exprimé en trois idées. La première posait le constat des retombées à la fois positives et négatives de toute recherche scientifique. La deuxième avançait le « principe d’inévitabilité », selon lequel le développement de nouvelles connaissances scientifiques est inéluctable. Enfin, la troisième idée prônait une diffusion élargie et vulgarisée des avancées scientifiques. En sensibilisant l’opinion publique sur les dangers de nouveaux savoirs, cela permettrait de contrecarrer ou de freiner une mauvaise utilisation de ces derniers. Sur ce dernier point, en 1947, il se disait fondamentalement pessimiste.
Contributions historiques de la philanthropie subventionnaire au développement de la cybernétique et de l’intelligence artificielle
Participants à la 10e conférence Macy (1953) source: American Society For Cybernetics
Les liens historiques entre la philanthropie subventionnaire étatsunienne et la science ont été mis en lumière par Evan S. Michelson. Parmi les travaux soutenus, nous retrouvons ceux à la base du développement du champ de la cybernétique, lesquels remontent à la fin des années 1930, et les premiers travaux sur l’intelligence artificielle. Ces liens ont pris différentes formes : des bourses d’études, des bourses pour la réalisation de missions scientifiques, des fonds de recherche, la création de centres ou de laboratoires de recherche ou encore un soutien financier pour soutenir les échanges d’information et les collaborations entre chercheur·e·s de différents domaines scientifiques.
Dans cette veine, nombre des travaux sur la cybernétique et l’intelligence artificielle ont été réalisés entre 1940 et 1960 et financés par des dons philanthropiques. Norbert Wiener figure au nombre des chercheur·e·s qui ont profité de tels dons.
Rappelons qu’entre 1930 et 1960, un environnement propice à l’interdisciplinarité a permis des rapprochements disciplinaires entre des chercheur·e·s des sciences médicales, de la biologie et des sciences sociales. Cet environnement est en parti le fait de fondations, telle la Josiah Macy Jr. Foundation. Cette organisation a soutenu, sur une période de presque vingt ans, la tenue de 160 conférences, dont un bloc, entre 1946 et 1954, portait très spécifiquement sur le développement de la cybernétique.
La fondation Rockefeller, quant à elle, a contribué de différentes façons au développement de la cybernétique puis de l’intelligence artificielle. Mentionnons le financement, en 1956, de la Conférence de Dartmouth. Y ont été réunis une vingtaine de chercheurs, pendant huit semaines, pour poser les fondements d’un champ de recherche complémentaire à la cybernétique, celui de l’intelligence artificielle.
De nos jours, des fondations états-uniennes et quelques fonds ou fondations canadiennes sont toujours actives dans le soutien accordé à la recherche sur l’intelligence artificielle. Les financements actuels soutiennent différents types de recherche dont celles portant sur la façon dont l’intelligence artificielle doit servir le bien-être des populations. Mentionnons, à titre indicatif, le financement de 2,5 millions de dollars US accordé à différents projets et organisations entre 2017 et 2022 par la Fondation MacArthur. Les subventions soutenaient la réalisation tant de projets conduits en partenariat que de recherches visant à s’assurer que l’intelligence artificielle bénéficie réellement aux personnes et à la société.
Au fil des dernières années, des fondations étatsuniennes, à l’image de la Patrick J McGovern Foundation, ont consacré des fonds pour soutenir le secteur philanthropique subventionnaire et de la bienfaisance afin que les communautés aidées soient capables d’utiliser positivement l’intelligence artificielle. L’objectif consistait à mieux outiller le secteur philanthropique dans sa capacité d’utiliser l’intelligence artificielle pour colliger des données et les analyser. Disposer de meilleures données permettrait de résoudre avec plus d’efficacité et d’efficience les problèmes auxquels des causes philanthropiques tentent de répondre.
Rôle de la philanthropie subventionnaire pour assurer un développement plus humain de l’intelligence artificielle?
Maintenant, face à l’intelligence artificielle, en quoi l’action philanthropique subventionnaire diffère-t-elle des interventions gouvernementales ?
De façon générale, l’intervention des fondations favorise des décisions mieux circonscrites et des actions pouvant être déployées plus rapidement. Certes, les fonds dont les fondations disposent sont moins importants que ceux de l’État et visent des actions à durée déterminée, généralement sur quelques années. Si l’État est l’instance clé en matière de régulation, les fondations ont la possibilité de soutenir des innovations sociales et d’en tirer les apprentissages requis pour influencer l’action étatique. Ce travail d’influence, réalisé de concert avec des acteurs de la société civile et des mouvements sociaux, est essentiel pour que l’État développe des lois et des règlements favorables au bien-être des communautés.
La cybernétique et l’intelligence artificielle sont devenues des réalités incontournables dont le développement, n’en déplaise aux technophiles de l’IA, dont Yoshua Bengio, ira en s’accélérant dans les prochaines années. Dès lors, la place, le rôle et les fonctions de l’intelligence artificielle renvoient au questionnement initial soulevé par Norbert Wiener. À savoir, de quelle façon pouvons-nous nous assurer que les applications de l’intelligence artificielle soient utilisées à des fins moralement responsables ?
Norbert Wiener était fondamentalement préoccupé par les abominations propres à son époque. Face à ces dernières, il nous invitait à prendre nos responsabilités et à agir en conformité avec les solutions qui s’imposaient. Il y aurait donc, selon son point de vue, moins à craindre des avancées technologiques de la cybernétique ou de l’intelligence artificielle que des personnes, groupes, organisations ou institutions qui les utilisent ou les utiliseront à des fins moralement inacceptables.
Sur ce point, les fondations subventionnaires n’ont pas encore clairement établi en quoi et jusqu’où elles sont ou seront disposées à mettre leurs ressources à contribution. En nous inscrivant dans les mises en garde avancées par Norbert Wiener, face aux utilisations immorales de l’intelligence artificielle, nous sommes en mesure d’avancer que la philanthropie a la capacité et le devoir de soutenir et de relayer les actions, les interventions et les prises de position visant un recadrage de notre modèle de développement. Le tout afin que la technologie et la science puissent être fondamentalement au service du bien-être des populations et des écosystèmes naturels
This article is part of the July 2023 special edition: Philanthropy and AI. You can find more here.
