El hombre ha sido un gran depredador del planeta tierra y con espejo retrovisor es fácil decir que faltó gestión del riesgo tecnológico. La esperanza es que la gestión de riesgo sea incorporada en los nuevos desarrollos de la IA para prevenir nuevos desastres. Es decir, que, a medida que se generan avances en lo científico y tecnológico y/o si la IA llegara a reemplazar la capacidad de la decisión individual y colectiva, también entonces incorpore un sistema de IA de gestión de riesgo de igual potencia que prevenga y mitigue los riesgos.
No ha sido así en el pasado porque gestionar los riesgos implica un costo adicional cuyos beneficios están basados en que el riesgo se materialice; pero precisamente la mayor disponibilidad de datos y la mayor capacidad de análisis de estos que provee la IA hará posible una mejor gestión del riesgo con tal que haya la voluntad fruto de una mayor cultura del riesgo en la sociedad. De lo contrario repetiremos el pasado esta vez con peores consecuencias.
La gestión del riesgo implica identificar, evaluar y mitigar posibles amenazas o incertidumbres que afectan los objetivos de una organización o sociedad, tradicionalmente basada en análisis retrospectivos y modelos probabilísticos. Sin embargo, la IA ofrece nuevas oportunidades tales como: (I) la predicción avanzada en base al análisis de grandes volúmenes de datos históricos y la detección de patrones no evidentes, lo cual permite anticipar riesgos antes de que se materialicen, y; (ii) la comprensión y el estudio de riesgos sistémicos mediante modelos no lineales
Estos modelos se están aplicando a (i) la predicción climática con una mayor precisión de eventos extremos como huracanes, sequías e inundaciones; (ii) el monitoreo ambiental mediante sensores y drones equipados con IA para rastrear la deforestación, la calidad del aire y la salud de los ecosistemas; (iii) la optimización energética para unan mejor distribución de energía y reducción de la huella de carbono; (iv) ciberseguridad y defensa para detectar amenazas mediante el análisis de imágenes satelitales y datos de inteligencia para identificar actividades sospechas, y; (v) salud pública y pandemias en el rastreo de brotes de enfermedades y predicción de su propagación, así como también en la investigación médica y farmacológica,y optimización de recursos médicos.
La IA, sin embargo, no está exenta de riesgos y su uso extendido genera inquietudes éticas. Como la IA aprende de datos históricos, puede adquirir sesgos que lleven al establecimiento de modelos menos justos y equitativos. Así mismo, los sistemas de IA deben ser comprensibles (transparentes y explicables) para que los tomadores de decisiones confíen en ellos. Muchos empleos desaparecerán, y es probable que aumenten los ataques cibernéticos, las noticias falsas y la suplantación de persones, el robo de identidad y la manipulación de masas, entre otros. Adicionalmente, ¿quién es responsable de las consecuencias cuando un sistema de IA toma decisiones equivocadas?
En cuanto a la educación y colaboración global, se necesitarán más expertos en IA con conocimientos en gestión de riesgos, y una amplia colaboración internacional pues muchos riesgos trascienden fronteras y requieren un trabajo conjunto.
La IA puede ser una herramienta poderosa para prevenir errores pasados y, hacia el futuro, proteger nuestro planeta y nuestra seguridad. Sin embargo, debemos usarla con responsabilidad y ética, entre otros, por que la gestión del riesgo además de ser una cuestión técnica es también un asunto de supervivencia colectiva. Probablemente este planteamiento sea ingenuo o muy difícil de implementar, pero precisamente por eso debemos exigir que la IA sea capaz de orientarnos y se establezcan controles hacia la mejor forma de hacerlo.
Juan L Gómez C.