Intelligence artificielle et action anticipatoire : une conversation - partie 2

Lors d'un récent atelier organisé par le Risk Knowledge Action Network, l'unité ELLIS d'Iéna, la Croix-Rouge allemande et la Société de la Croix-Rouge Malagasy, des membres de la communauté de l'action anticipatoire ont rencontré des chercheurs en intelligence artificielle (IA) et en climatologie pour discuter de l'utilisation de l'IA dans l'atténuation des risques climatiques et l'action anticipatoire. Deux des animateurs de l'atelier, Karen Dall et Vitus Benson, ont poursuivi la conversation par la suite. Voici la deuxième partie de leur discussion, qui explore certaines des opportunités pour le secteur de l'action anticipatoire de bénéficier de l'IA, ainsi que les risques potentiels. Vous pouvez lire la première partie de leur conversation ici.

Vitus : Nous avons parlé de l'état actuel de l'IA et de certaines de ses utilisations dans le domaine des prévisions. Quels exemples avez-vous trouvés particulièrement intéressants au cours de l'atelier ?

Karen : La grande question est de savoir comment l'IA peut nous aider à cartographier les risques, ainsi qu'à analyser les risques et l'impact. Ce dont nous avons besoin dans l'action humanitaire, et l'action anticipatoire en particulier, c'est de comprendre où vivent les personnes vulnérables. Pourquoi sont-elles particulièrement exposées ? Quelles sont les communautés et les ménages les plus exposés ? Pour cela, nous devons comprendre toute une série de facteurs de risque, y compris la capacité d'adaptation des populations, qui dépend également de l'aléa.

Par exemple, pour les sécheresses, il peut être nécessaire de savoir où se trouvent les réservoirs ou les sources d'eau les plus proches, ou quelles sont les zones utilisées par les gens comme terres agricoles. Pour les cyclones et les inondations, il peut être nécessaire de savoir quelles maisons peuvent résister à une tempête et lesquelles se trouvent sur des terrains plus élevés, ainsi que de connaître les sites d'évacuation les plus proches.

En utilisant l'imagerie satellite, l'IA peut contribuer à une cartographie plus efficace pour identifier les zones à haut risque, mais nous pouvons aller à un niveau encore plus granulaire. L'un des exemples présentés lors de l'atelier concernait les ménages : Microsoft a utilisé l'IA pour détecter les types de toits des habitations. Cela peut aider à identifier les zones les plus vulnérables aux inondations et aux cyclones.

L'IA ne peut pas faire le travail toute seule, elle a besoin de personnes sur le terrain qui vérifient et aident à former le modèle. Je pense que c'est l'un des défis à relever lorsque l'on parle d'associer l'IA à l'action humanitaire.

L'IA au service de l'action humanitaire : un risque ou une opportunité ?

Karen : Où voyez-vous les plus grands défis pour que l'IA soit formée, puis utilisée, pour l'action anticipatoire ? Comment passer de la théorie de l'IA à sa mise en œuvre pour les humanitaires ?

Vitus : L'une des choses que j'ai apprises au cours de l'atelier, c'est qu'il reste encore beaucoup de chemin à parcourir et que nous devons vraiment travailler ensemble. L'un des principaux problèmes semble être l'écart de langage entre les acteurs de l'humanitaire et ceux de l'IA, ainsi que l'incompréhension du résultat final d'un système d'IA et de la manière de l'évaluer. Nous, les apprenants automatiques, aimons beaucoup les mesures quantitatives, par exemple l'examen d'un très grand nombre d'exemples ou le calcul d'un score de performance moyen. Mais j'ai l'impression que dans le contexte humanitaire, pour exagérer un peu, ce qui compte vraiment, c'est d'avoir cette étude de cas, ou cet exemple, où cela fonctionne vraiment et où vous essayez de tout comprendre, y compris les problèmes que votre système pourrait avoir. Je pense que cela ne peut fonctionner que grâce à la collaboration.

Qu'en pensez-vous ? Considérez-vous l'IA comme un risque ou une opportunité pour votre travail ?

Karen : Un peu des deux. Elle a beaucoup de potentiel. L'action humanitaire présente de nombreuses lacunes en matière d'information - nous travaillons dans de nombreux domaines où les données sont très rares - et si l'IA peut contribuer à combler certaines de ces lacunes, ce serait formidable.

D'un autre côté, cette pénurie de données est un défi en soi. Comme vous l'avez dit, l'IA a besoin de beaucoup de données pour être formée. Quelles sont donc les données dont nous disposons actuellement, et comment obtenir le type de données dont nous avons besoin pour former les modèles ? Peut-être devrions-nous mieux utiliser les données existantes. Par exemple, il existe de nombreux ensembles de données qui ne sont pas numérisés ou librement accessibles, mais qui sont simplement stockés quelque part, dans un bureau, et auxquels nous n'avons pas accès pour le moment. L'IA peut-elle aider à numériser ces ensembles de données et à les rendre utilisables par les praticiens de l'humanitaire ?

Cela m'amène à un autre point : l'importance d'impliquer les acteurs locaux, c'est-à-dire les personnes qui mettent en œuvre les actions. Aujourd'hui, tout le monde parle de l'IA, tout le monde veut l'utiliser dans le secteur humanitaire, mais ce sont les organisations locales, comme les sociétés nationales de la Croix-Rouge ou du Croissant-Rouge, et en particulier leurs volontaires et leur personnel sur le terrain, qui vont répondre à une catastrophe. Si l'IA doit soutenir les interventions humanitaires, elle doit fonctionner pour les personnes qui interviennent et pour celles qui bénéficient de l'intervention.

Une autre question est celle de la responsabilité et de la transparence. Par exemple, si vous utilisez l'IA pour identifier des communautés cibles pour une action anticipatoire, il faut expliquer pourquoi le modèle d'IA a sélectionné une communauté plutôt qu'une autre. Une décision fondée sur l'IA doit être justifiée, ou du moins être suffisamment transparente pour être comprise par les différents acteurs. Expliquer la "boîte noire" - comment l'IA crée du contenu ou arrive à ses conclusions - est l'une des grandes tâches.

Cela me rappelle comment l'action anticipatoire a démarré il y a une dizaine d'années. Au départ, les réactions étaient les suivantes : comment pouvons-nous baser l'action humanitaire, et plus important encore le financement, sur des prévisions ? Il a fallu quelques années pour intégrer les prévisions dans l'action humanitaire à ce niveau très pratique et opérationnel. Et ce n'est qu'aujourd'hui, ou ces dernières années, que les donateurs et les différentes parties prenantes font globalement confiance au système. Cette tâche, qui consiste à instaurer la confiance dans les résultats générés par l'IA, doit être accomplie conjointement par les scientifiques et les humanitaires.

Prévoir un avenir pour l'IA et l'action anticipatoire

Vitus : Quel est votre rêve pour les 15 à 20 prochaines années ? Que fera l'IA dans le domaine de l'action anticipatoire ?

Karen : J'espère qu'elle comblera certaines des lacunes en matière de données auxquelles nous sommes confrontés aujourd'hui et qui rendent notre travail très difficile. J'espère également que l'IA sera utilisée, conçue et adaptée de manière à ce qu'elle ne se limite pas à nous, dans le Nord, mais qu'elle soit façonnée à l'échelle mondiale et de manière participative. Les questions d'accessibilité et d'alphabétisation demeurent, et j'aimerais qu'elles soient abordées.

Dans 20 ans, j'espère que toutes les questions relatives à la protection des données dans l'IA, ainsi qu'à sa consommation d'énergie, seront résolues. Nous aurons certainement de bien meilleures prévisions, et avec des délais plus longs, grâce aux idées dont vous avez parlé. Ces " nouvelles " prévisions nous permettront de faire des actions anticipatoires encore plus tôt et de manière plus ciblée ; l'amélioration des informations sur les risques nous aidera également à mieux planifier les actions anticipatoires.

Cependant, il ne s'agit pas seulement d'améliorer les prévisions : nous devons également apporter les alertes précoces, et les actions qu'elles déclenchent, aux communautés les plus éloignées en temps utile - ce que l'on appelle le "dernier kilomètre". L'IA peut y contribuer, mais elle ne peut pas remplacer les efforts des acteurs locaux. Exploitons donc le potentiel de l'IA sans l'exagérer. Est-ce une ambition raisonnable ?

Vitus : Je suis tout à fait d'accord avec ce que vous avez dit. J'espère que l'IA pourra révolutionner le domaine d'une manière similaire à la révolution Internet : démocratiser l'accès à l'information et en particulier à l'information sur les alertes précoces. J'imagine l'IA comme un autre "participant" à vos réunions de crise dans la salle de crise. Cela signifie que les humanitaires sur le terrain, où qu'ils soient, peuvent être alertés par un système d'IA de l'approche d'un danger et interagir avec lui, en partageant leurs opinions, leurs expériences, leurs contextes locaux et leurs connaissances autochtones. En fin de compte, cela conduira à des décisions meilleures et mieux informées - des décisions qui nous permettront de sauver plus de vies et d'atténuer considérablement l'impact des risques climatiques sur les moyens de subsistance dans le monde entier.

Mais, ne nous voilons pas la face, nous sommes encore loin de ce scénario ! J'espère que nous pourrons poursuivre cette discussion afin de trouver un moyen de nous en rapprocher un peu plus.