Intelligence artificielle et intelligence du cœur: Opportunités et risques pour la philanthropie

Joost Mönks and Charles Sellen

Tandis que la pandémie de Covid-19 a confiné de larges populations, le développement de l’intelligence artificielle (IA) s’est accéléré. De fait, cette révolution technologique est déjà installée dans nos vies. Mais jusqu’à présent, elle a été largement négligée par le secteur philanthropique. Or, ce phénomène aura des répercussions profondes sur ce dernier.

Il devra notamment faire face à quatre enjeux considérables : 1°) protéger la vie privée et garantir une utilisation éthique de cette technologie, 2°) accroître son impact positif, 3°) être vigilant face à l’influence des élites, 4°) mieux comprendre l’évolution du comportement des donateurs. Il convient de sensibiliser les acteurs de la philanthropie à la façon d’exploiter le potentiel de l’IA en faveur des causes caritatives. A plus forte raison, il est urgent de les interpeler sur la façon dont l’IA façonnera la société de demain.

Si les organisations de bienfaisance ne se positionnent pas, […] elles risquent tout simplement de devenir marginalisées.

Au-delà d’une réponse philanthropique mondiale, massive et immédiate à la pandémie de Covid-19, la crise sanitaire actuelle a soulevé des questions fondamentales sur le rôle et la légitimité du secteur, au sein d’un paysage philanthropique mondial renouvelé. L’évolution de cet environnement n’est pas encore claire, mais l’Intelligence Artificielle (IA) aura une incidence déterminante, pour le meilleur ou pour le pire, et requiert une attention immédiate de la part des acteurs de la philanthropie.

L’IA est déjà présente dans nos vies

L’IA était l’un des sujets les plus débattus avant la Covid-19, et la crise actuelle n’a fait que renforcer son emprise potentielle sur nos vies. Le pionnier Marvin Minsky définissait l’IA comme « la science de faire faire aux machines des choses qui nécessiteraient de l’intelligence si elles étaient faites par des humains ». Ainsi l’IA englobe-t-elle la perception visuelle, la reconnaissance vocale ou faciale, la prise de décision automatisée, ou tout autre scénario où les machines exécutent des fonctions cognitives semblables aux facultés humaines.

L’IA est déjà tout autour de nous. Elle est devenue une partie de notre vie quotidienne : notre téléphone intelligent (smartphone), par exemple, joue le rôle de notre extension numérique. Nous mobilisons quotidiennement l’IA lorsque nous utilisons Google, Facebook, ou WeChat. Les capacités sidérantes de l’IA sont innombrables, y compris sa capacité à lire, traduire, reconnaître les visages, parler, ou même traduire nos ondes cérébrales en phrases.

L’IA offre à la philanthropie d’intéressantes possibilités pour accomplir ses missions sociales en empruntant des voies nouvelles et (peut-être) plus efficaces. […] Mais elle pourrait aussi avoir un effet exactement inverse si nous ne sommes pas prêts à l’apprivoiser et à fixer des limites appropriées.

L’IA est en plein essor tandis que les humains sont confinés à la maison et que les mesures de distanciation sociale impliquent l’emploi plus répandu de robots. La Covid-19 accélère l’utilisation de systèmes de données et de technologies de surveillance dans des endroits comme la Chine, Singapour et la Corée du Sud pour lutter contre la pandémie. Cela alimente les systèmes de surveillance propulsés par l’IA d’une manière que nous n’avions jamais imaginée auparavant. L’usage de drones volants pour s’assurer que les gens portent des masques, de caméras thermiques corporelles pour détecter à distance leur température, et d’applications informatiques pour géolocaliser et et suivre l’état de santé des citoyens sont (ou deviendront) une pratique courante dans de nombreux endroits. Le spectre de la « surveillance totalitaire » comme nouvelle normalité au nom de la santé publique se profile à l’horizon. En même temps, d’autres technologies pionnières offrent les moyens d’atténuer ces risques. La chaîne de blocs (blockchain), par exemple, offre des capacités uniques pour décentraliser et sécuriser les bases de données. L’utilisation de la chaîne de blocs pourrait empêcher l’IA de centraliser les données, réduisant ainsi le risque de surveillance massive malveillante et les menaces qu’un « panopticon numérique » ferait peser sur la vie privée.

La prise de conscience simultanée de la puissance de l’IA et de son visage effrayant accentue l’inquiétude légitime au sujet de ses dangers potentiels. Songeons aux effets pervers de la mise en œuvre d’une technologie de cette ampleur en l’absence de cadres éthiques appropriés, de solides principes et de mécanismes de supervision. Des questionnements liés aux biais inhérents des algorithmes, aux conséquences de l’automatisation sur l’avenir du travail, au recours à l’IA pour influencer les processus politiques (voire pour obtenir un contrôle politique) ou à son utilisation dans la guerre, pour n’en nommer que quelques-uns, font désormais partie des réflexions prioritaires aux niveaux national et international.

L’IA a été jusqu’ici négligée par le secteur de la philanthropie

Aujourd’hui, le secteur à but non lucratif ne semble pas être suffisamment conscient des problématiques en jeu. La philanthropie a été largement absente des grands débats sur l’IA jusqu’à présent. Toutefois, certaines associations ou fondations ont commencé à accorder une attention croissante à l’IA en particulier en termes de défis éthiques clés et l’utilisation potentiellement bénéfique de ce nouveau domaine technologique.

La philanthropie a été largement absente des grands débats sur l’IA jusqu’à présent.

Les centres de ressources comme la Charities Aid Foundation du Royaume-Uni sensibilisent l’opinion et font entendre leur voix dans l’élaboration des programmes d’IA d’avenir. Le secteur lance de nouvelles initiatives basées sur l’IA telles que le Covid-19 Open Research Dataset par un groupe de philanthropes américains, ou l’appel à idées de 25 millions de dollars lancé par Google « pour le bien social ». La recherche sur l’IA elle-même bénéficie déjà de dons privés croissants, à l’instar de ce don de 150 millions livres Sterling (environ 165 millions d’euros), le plus grand jamais fait à une université britannique, pour établir un nouvel Institut d’éthique en IA à l’Université d’Oxford. L’IA est utilisée bien au-delà du monde occidental : il existe des applications innovantes en Afrique pour aider les agriculteurs et lutter contre l’insécurité alimentaire, ainsi qu’en Chine, un pays chef-de-file dans ce domaine technologique « sans frontières ».

Pourquoi le secteur de la philanthropie devrait-il d’urgence se préoccuper de l’IA ?

Dans un contexte exacerbé par la pandémie du coronavirus, le secteur philanthropique devrait s’intéresser à l’IA pour se préparer à faire face à quatre enjeux de taille :

  • L’influence de l’IA sur la société : l’IA imprègne la société toute entière et affecte les personnes et les communautés desservies par le secteur philanthropique. La manière dont les bailleurs de fonds interagissent et financent les œuvres caritatives, dans un monde où la technologie numérique se répand inexorablement, sera cruciale pour le bon fonctionnement de notre société civile et de notre démocratie. La plus haute vigilance est de mise, a fortiori face à l’appréhension croissante (et accentuée par la Covid-19) autour de la surveillance numérique qui menace notre vie privée. La véritable question pour la philanthropie, comme l’expert Lucy Bernholz nous met en garde, n’est pas de savoir comment les associations et fondations utiliseront l’IA dans leurs missions, mais « comment l’IA est utilisée dans les domaines dans lesquels [ces organismes] travaillent et comment ils doivent y répondre ». Si les organisations de bienfaisance ne se positionnent pas, en particulier sur les dimensions éthiques de l’IA, et ne parviennent pas à s’adapter, elles risquent tout simplement de devenir marginalisées.
  • Le pouvoir catalyseur de l’IA sur l’impact : L’emphase actuelle mise sur « l’efficacité » de la philanthropie reflète l’importance d’atteindre des objectifs mesurables. La crise sanitaire ajoute une pression supplémentaire à démontrer l’impact, car des contraintes financières plus strictes résulteront de la récession économique. L’IA peut certes répondre à un besoin croissant de prise de décision axée sur les données et à un désir généralisé d’exploiter la puissance des outils analytiques pour mieux évaluer les résultats. En s’appuyant sur des algorithmes, l’IA offre également la promesse technique de favoriser une culture de l’impact et d’accroître les retombées positives. D’innombrables applications basées sur l’IA permettent déjà au secteur d’accompagner les personnes en recherche d’emploi, de fournir aux étudiants des micro-bourses d’études, de suivre les animaux en voie de disparition, de lutter contre le trafic sexuel, ou de reconnecter les familles de réfugiés. Néanmoins, il est primordial que le facteur humain ne soit pas écarté dans l’utilisation de l’IA. Seule la combinaison de l’homme et de la machine – la sensibilité du cœur alliée à la puissance informatique pourrait conduire à amplifier les effets positifs de la philanthropie sans céder à la tyrannie des chiffres et de la performance.
  • L’IA : contrepouvoir ou instrument des élites ? Une IA appuyée sur l’éthique pourrait supprimer ou réduire les discriminations et les biais, comme dans la gestion des ressources humaines, bien que les experts soulignent « un écart substantiel entre les promesses et la réalité». Mais il n’est pas certain que l’IA apporterait automatiquement plus de transparence et de redevabilité dans la philanthropie. Le secteur philanthropique est à la croisée des chemins : son fonctionnement démocratique et sa capacité à juguler les inégalités croissantes sont mis à l’épreuve. La concentration des richesses par un nombre restreint d’entreprises et d’individus fait peser une responsabilité énorme sur les épaules des élites. L’IA est susceptible de renforcer leur influence sur le secteur philanthropique car ces élites sont également liées aux firmes géantes qui promeuvent cette technologie.
  • La compréhension des donateurs : Enfin, il faut considérer les nouvelles tendances comportementales de la générosité. Consciemment ou non, l’humanité s’appuie de plus en plus sur l’IA pour prendre des décisions quotidiennes basées sur des recommandations automatisées. À mesure que cette routine devient omniprésente, les humains s’habituent à recevoir du contenu généré sur-mesure en fonction de préférences liées à leur profil. Il serait anormal que la philanthropie demeure un domaine où de telles possibilités ne fussent pas utilisées. Cette perspective est d’autant plus pertinente que la technologie permet de nouvelles (micro) collectes de fonds et des options personnalisées de financement participatif, comme la « philanthropie de précision» qui cherche à prédire en temps réel les affinités et l’inclination des donateurs à donner.

Repenser l’avenir de la philanthropie à l’ère numérique

Les organisations philanthropiques sont pressées de prendre position et de se réinventer à l’ère numérique. Cela est vrai non seulement dans la façon d’exploiter le pouvoir de l’IA pour accroître l’impact, mais plus fondamentalement dans la mesure où l’IA va transformer la société et probablement les mécanismes de justice sociale. Il nous incombe d’anticiper ces effets pervers et leur atténuation dans un monde post-Covid profondément modifié.

En conclusion, l’IA offre à la philanthropie d’intéressantes possibilités pour accomplir ses missions sociales en empruntant des voies nouvelles et (peut-être) plus efficaces. L’IA pourrait même contribuer à une philanthropie plus démocratique. Cette technologie pourrait donc potentialiser notre intelligence du cœur en augmentant virtuellement nos capacités cognitives. Mais elle pourrait aussi avoir un effet exactement inverse si nous ne sommes pas prêts à l’apprivoiser et à fixer des limites appropriées.

Joost Mönks est un expert international en éducation et en IA et maître de conférences sur la philanthropie émergente à l’Université de Genève en Suisse.

Charles Sellen est chercheur invité comme « Global philanthropy fellow » à la Indiana University Lilly Family School of Philanthropy aux États-Unis.

Read this article in English or Mandarin.


Comments (0)

Leave a Reply

Your email address will not be published. Required fields are marked *



 
Next Analysis to read

Valuing Asian social enterprise

Mehvesh Mumtaz Ahmed and Ruth Shapiro