Inteligencia artificial y Acción Anticipatoria: conversación - 2ª parte

En un reciente taller organizado por la Red de Acción para el Conocimiento del Riesgo, la Unidad ELLIS de Jena, la Cruz Roja Alemana y la Sociedad de la Cruz Roja Malgache, miembros de la comunidad de acción anticipatoria se reunieron con investigadores de inteligencia artificial (IA) y clima para debatir el uso de la IA en la mitigación del riesgo climático y la acción anticipatoria. Dos de los facilitadores del taller, Karen Dall y Vitus Benson, continuaron la conversación después. Esta es la segunda parte de su debate, que explora algunas de las oportunidades para que el sector de la Acción Anticipatoria se beneficie de la IA, así como los riesgos potenciales. Puede leer la primera parte de la conversación aquí.

Vitus: Hemos hablado del estado actual de la IA y de algunos de sus usos en la previsión. ¿Qué ejemplos le han parecido especialmente interesantes durante el taller?

Karen: La gran cuestión de cómo la IA puede ayudarnos en la cartografía de riesgos, así como en el análisis de riesgos e impactos. Lo que necesitamos en la acción humanitaria, y en la acción anticipatoria en particular, es comprender dónde viven las personas vulnerables. ¿Por qué corren un riesgo especial? ¿Qué comunidades y hogares están más expuestos? Para ello, es necesario comprender una serie de factores de riesgo, incluida la capacidad de reacción de las personas, que también depende del peligro.

Por ejemplo, en el caso de las sequías, puede ser necesario saber dónde están los embalses o las fuentes de agua más cercanas, o qué zonas utiliza la gente como tierras de cultivo. En el caso de ciclones e inundaciones, puede ser necesario saber qué casas pueden resistir una tormenta y cuáles están en terrenos más elevados, así como dónde están los lugares de evacuación más cercanos.

Utilizando imágenes por satélite, la IA puede ayudar a elaborar mapas más eficientes para identificar las zonas de alto riesgo, pero podemos llegar a un nivel aún más granular. Un ejemplo que vimos en el taller llegó hasta el nivel de los hogares: Microsoft utilizó la IA para detectar los tipos de tejado de los asentamientos. Esto puede ayudar a identificar las zonas más vulnerables a inundaciones y ciclones.

La IA no puede hacer el trabajo por sí sola, necesita personas sobre el terreno que verifiquen y ayuden a entrenar el modelo. Creo que este es uno de los retos cuando hablamos de aunar la IA con la acción humanitaria.

IA para el trabajo humanitario: ¿riesgo u oportunidad?

Karen: ¿Cuáles son, en su opinión, los mayores retos a los que se enfrenta la IA a la hora de ser entrenada, y luego utilizada, para la acción anticipatoria? ¿Cómo pasar de la teoría de la IA a su aplicación práctica por parte de los trabajadores humanitarios?

Vitus: Una de las cosas que aprendí durante el taller es que aún queda mucho camino por recorrer y que realmente necesitamos trabajar juntos. Uno de los grandes problemas parece ser la gran brecha lingüística que existe entre el mundo humanitario y el de la IA, así como en la comprensión del resultado final de un sistema de IA y la forma de evaluarlo. A los que aprendemos con máquinas nos gustan mucho las métricas cuantitativas, por ejemplo, analizar muchísimos ejemplos o calcular una puntuación media de rendimiento. Pero tengo la sensación de que en el contexto humanitario, por exagerar un poco, lo que realmente importa es tener este caso práctico, o este ejemplo, en el que realmente funciona y en el que se intenta averiguar todo, incluidos los problemas que pueda tener el sistema. Supongo que esto sólo puede funcionar a través de la colaboración.

¿Qué opina usted al respecto? ¿Ve la IA como un riesgo o una oportunidad para su trabajo?

Karen: Un poco ambas cosas. Tiene mucho potencial. Hay muchas lagunas de información en la acción humanitaria -trabajamos en muchas áreas con gran escasez de datos- y si la IA puede ayudar a llenar algunas de esas lagunas, sería increíble.

Por otro lado, esta escasez de datos es un reto en sí misma. Como usted ha dicho, la IA necesita muchos datos para entrenarse. Entonces, ¿de qué datos disponemos ahora y cómo obtenemos el tipo de datos que necesitamos para entrenar los modelos? Quizá tengamos que utilizar mejor los datos existentes. Por ejemplo, hay muchos conjuntos de datos que no están digitalizados ni son de libre acceso, sino que están en algún lugar, en alguna oficina, y no tenemos acceso a ellos en este momento. ¿Puede la IA ayudar a digitalizar esos conjuntos de datos y hacerlos utilizables para los profesionales humanitarios?

Esto me lleva a otro punto: la importancia de implicar a los actores locales, es decir, a las personas que ejecutan las acciones. Hoy en día, todo el mundo habla de la IA, todo el mundo quiere utilizarla en el sector humanitario, pero son las organizaciones locales, como las Sociedades Nacionales de la Cruz Roja o de la Media Luna Roja, y especialmente sus voluntarios y personal sobre el terreno, las que van a responder a una catástrofe. Para que la IA apoye las respuestas humanitarias, tiene que funcionar para las personas que responden y para las que se benefician de la respuesta.

Otra cuestión es la responsabilidad y la transparencia. Por ejemplo, si se utiliza la IA para identificar a las comunidades destinatarias de la acción anticipatoria, hay que explicar por qué el modelo de IA ha seleccionado a una comunidad en lugar de a otra. Una decisión basada en la IA tiene que estar justificada, o al menos ser lo suficientemente transparente para que la entiendan los diferentes actores. Explicar la "caja negra" -cómo la IA crea contenidos o llega a sus conclusiones- es una de las grandes tareas.

Me recuerda a cómo empezó la Acción Anticipatoria hace unos 10 años. Al principio, las reacciones fueron: ¿cómo podemos basar la acción humanitaria, y sobre todo la financiación, en una previsión? Hicieron falta algunos años para introducir las previsiones en la acción humanitaria a este nivel tan práctico y operativo. Y sólo ahora, o en los últimos años, los donantes y las diferentes partes interesadas confían globalmente en el sistema. Esta tarea - la de crear confianza en los resultados generados por la IA - es algo que deben hacer conjuntamente científicos y humanitarios.

Previsión de futuro para la IA y la Acción Anticipatoria

Vitus: ¿Cuál es su sueño para los próximos 15 a 20 años? ¿Qué hará la IA en la Acción Anticipatoria?

Karen: Espero que llene algunas de las lagunas de datos a las que nos enfrentamos hoy, que hacen que nuestro trabajo sea muy difícil. También espero que la IA se utilice, diseñe y adapte de forma que no se quede sólo con nosotros en el Norte Global, sino que se moldee globalmente y de forma participativa. Sigue habiendo cuestiones de accesibilidad y alfabetización que me gustaría que se abordaran.

Dentro de 20 años, espero que todas las cuestiones relativas a la protección de datos en la IA, y también a su consumo de energía, estén resueltas. Sin duda tendremos previsiones mucho mejores, y con plazos más largos, gracias a las ideas de las que ha hablado. Estas "nuevas" previsiones nos permitirán realizar acciones anticipatorias incluso antes y de forma más específica; la mejora de la información sobre riesgos también nos ayudará a planificar mejor las acciones anticipatorias.

Sin embargo, no se trata sólo de mejorar las previsiones: también tenemos que hacer llegar a tiempo las alertas tempranas, y las acciones desencadenadas por ellas, a las comunidades más remotas, la llamada "última milla". La IA puede ayudar en este sentido, pero no puede sustituir los esfuerzos de las partes interesadas locales. Así pues, aprovechemos el potencial de la IA sin exagerarlo. ¿Es una ambición razonable?

Vitus: Estoy muy de acuerdo con todo lo que ha dicho. Espero que la IA pueda revolucionar este campo de forma similar a la revolución de Internet: democratizar el acceso a la información y, en particular, a la información de alerta temprana. Me imagino a la IA como un "participante" más en las reuniones de crisis en la sala de situación. Esto significa que el personal humanitario sobre el terreno, esté donde esté, puede recibir una alerta de un peligro inminente de un sistema de IA y luego interactuar con él, compartiendo sus propias opiniones, experiencia, contextos locales y conocimientos autóctonos. En última instancia, esto conducirá a decisiones mejores y más informadas, decisiones que nos permitirán salvar más vidas y amortiguar en gran medida el impacto que los riesgos climáticos tienen en los medios de subsistencia de todo el mundo.

Pero, admitámoslo, ¡todavía estamos lejos de ese escenario! Espero que podamos continuar este debate para encontrar la manera de acercarnos un poco más.