El Papa: Una inteligencia artificial que sea camino de paz

Salvatore Cernuzio - Ciudad del Vaticano

Por un lado, "oportunidades apasionantes", como la mejora del trabajo, de las condiciones de vida de las personas, de los instrumentos médicos y de las interacciones personales; por otro, "riesgos graves", como el uso no regulado de las llamadas armas "inteligentes", el consiguiente peligro de atentados terroristas, fomentando así "la locura de la guerra" o las intervenciones destinadas a desestabilizar las instituciones legítimas de gobierno, llegando, por ejemplo, a condicionar las elecciones políticas. Vicios (posibles y reales) y virtudes de la Inteligencia artifical (IA) y las nuevas tecnologías, el Papa los pone en la balanza en su Mensaje para la 57ª Jornada Mundial de la Paz, que se celebrará el 1 de enero de 2024. "Inteligencia artificial y paz" es el título del documento en el que el Pontífice dirige sus mejores deseos de paz -más conmovedores que nunca en un mundo desgarrado por las guerras- al pueblo de Dios, a las naciones, a los Jefes de Estado y de Gobierno, a los representantes de las distintas religiones y a la sociedad civil.

No a la locura de la guerra

Es una paz, de la que habla el Papa, que pasa también por el progreso de la ciencia y de la técnica, que "en la medida en que contribuye a un mejor orden de la sociedad humana", conduce "a la mejora del hombre y a la transformación del mundo".  Por el contrario, este mismo mundo que se ha convertido en el escenario de una tercera guerra mundial en pedazos "no necesita realmente las nuevas tecnologías para contribuir al desarrollo inicuo del mercado y del comercio de armas, fomentando la locura de la guerra". Al hacerlo", escribe Francisco, "no sólo la inteligencia, sino el corazón mismo del hombre, correrán el riesgo de volverse cada vez más 'artificiales'".

Logros extraordinarios 

En su Mensaje, Jorge Mario Bergoglio aplaude los "extraordinarios logros de la ciencia y de la técnica", gracias a los cuales "se han remediado innumerables males que afligían la vida humana y causaban grandes sufrimientos". Al mismo tiempo, esos avances tecnocientíficos "están poniendo en manos del hombre un vasto abanico de posibilidades", y algunas -advierte el Papa- pueden representar "un riesgo para la supervivencia y un peligro para la casa común".

"La libertad y la convivencia pacífica se ven amenazadas cuando los seres humanos sucumben a la tentación del egoísmo, del interés propio, del afán de lucro y de la sed de poder"

Sistemas de armas autónomas letales

La mirada está puesta en el escenario internacional: "La posibilidad de llevar a cabo operaciones militares mediante sistemas de control remoto ha conducido a una menor percepción de la devastación que causan y de la responsabilidad de su uso, contribuyendo a un enfoque aún más frío y distante de la inmensa tragedia de la guerra", escribe el Papa. La investigación sobre tecnologías emergentes en el ámbito de los llamados "sistemas de armas autónomas letales", incluido el uso bélico de la inteligencia artificial, es un "serio motivo de preocupación ética".

Nunca, dice, los sistemas de armas autónomas pueden ser "sujetos moralmente responsables". Una máquina, por inteligente que sea, "sigue siendo una máquina". Es "imperativo", por tanto, "garantizar una supervisión humana adecuada, significativa y coherente de los sistemas de armamento".

"Tampoco podemos ignorar la posibilidad de que armas sofisticadas caigan en manos equivocadas, facilitando, por ejemplo, ataques terroristas o intervenciones destinadas a desestabilizar instituciones gubernamentales legítimas".

Allanar el camino a la paz

Por tanto, las aplicaciones técnicas más avanzadas deberían utilizarse "para allanar los caminos de la paz": "Desde un punto de vista más positivo, si la inteligencia artificial se utilizara para promover el desarrollo humano integral, podría introducir importantes innovaciones en la agricultura, la educación y la cultura, una mejora del nivel de vida de naciones y pueblos enteros, el crecimiento de la fraternidad humana y la amistad social", subraya el Pontífice. En este sentido, habla de una "algor-ética", como el "desarrollo ético de los algoritmos" en la experimentación, el diseño, la producción, la distribución y la comercialización. Fases en las que "las instituciones educativas y los responsables de la toma de decisiones tienen un papel esencial que desempeñar".

Un tratado sobre el uso y el desarrollo de la IA

Varias veces en su Mensaje, el Papa pide controles y supervisión de tales procesos. Y lanza una propuesta a la comunidad internacional para que "trabaje unida con el fin de adoptar un tratado internacional vinculante" que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas, teniendo en cuenta la voz de todas las partes interesadas, incluidas las marginadas en el debate global.  

Profundas transformaciones

Muchas, demasiadas, son de hecho las "profundas transformaciones" que las nuevas tecnologías han provocado ya en los ámbitos de la comunicación, la administración pública, la educación, el consumo, las interacciones personales y otros innumerables aspectos de la vida cotidiana.

"Las tecnologías que emplean una multiplicidad de algoritmos pueden extraer, a partir de los rastros digitales dejados en Internet, datos que permiten controlar los hábitos mentales y relacionales de las personas con fines comerciales o políticos, a menudo sin su conocimiento, restringiendo su ejercicio consciente de la libertad de elección".

No es un progreso real

En un espacio como la web, sobrecargado de información, las tecnologías "pueden estructurar el flujo de datos según criterios de selección no siempre percibidos por el usuario". Los riesgos son reales y pueden afectar a la vida de "personas de carne y hueso". Las "formas de inteligencia" -es correcto hablar de ellas en plural- tienen un impacto que "depende también de los objetivos e intereses de quienes las poseen y desarrollan, así como de las situaciones en las que se emplean", subraya el Pontífice. No es seguro a priori que su desarrollo "contribuya benéficamente al futuro de la humanidad y a la paz entre los pueblos". Tampoco es "suficiente suponer, por parte de quienes diseñan algoritmos y tecnologías digitales, un compromiso de actuar ética y responsablemente". Por eso es necesario "reforzar o, en caso necesario, crear organismos encargados de examinar las nuevas cuestiones éticas y proteger los derechos de quienes utilizan formas de inteligencia artificial o se ven afectados por ellas".  

"Los desarrollos tecnológicos que no conduzcan a una mejora de la calidad de vida de toda la humanidad, sino que, por el contrario, agraven las desigualdades y los conflictos, nunca podrán considerarse un verdadero progreso"

Sistemas que pueden "alucinar

El Papa Francisco habla de 'machine learning', aprendizaje automático, y de 'deep learning', aprendizaje profundo: "La capacidad de algunos dispositivos para producir textos sintáctica y semánticamente coherentes, por ejemplo, no es garantía de fiabilidad", señala el Papa. Estas herramientas pueden "alucinar", es decir, "generar afirmaciones que a primera vista parecen verosímiles, pero que en realidad carecen de fundamento o traicionan prejuicios".

Es evidente cuánto esto puede crear "graves problemas" si la inteligencia artificial se utiliza en "campañas de desinformación que difunden noticias falsas" y conducen a "una creciente desconfianza en los medios de comunicación". De hecho, da paso a la discriminación, la interferencia en los procesos electorales, el control de los individuos, la exclusión digital, así como la "exacerbación de un individualismo cada vez más desconectado de la comunidad". Todos ellos factores que corren el riesgo de "alimentar los conflictos" y "obstaculizar la paz".

El riesgo de caer en la espiral de una dictadura tecnológica

Además, "la gran cantidad de datos analizados por las inteligencias artificiales no es en sí misma una garantía de imparcialidad", es la advertencia de Francisco. "Cuando los algoritmos extrapolan la información, siempre corren el riesgo de distorsionarla, replicando las injusticias y los prejuicios de los entornos en los que se origina". En el sistema tecnocrático, que favorece el eficientismo exagerado, se puede llegar a obviar el "sentido del límite". Lo que, en otras palabras, significa que en la obsesión de "querer controlarlo todo", el ser humano corre el riesgo de "perder el control sobre sí mismo" y "caer en la espiral de una dictadura tecnológica". Así, "las desigualdades podrían crecer desproporcionadamente y el conocimiento y la riqueza acumularse en manos de unos pocos, con graves riesgos para las sociedades democráticas y la convivencia pacífica".

"En el futuro, la fiabilidad de un solicitante de hipoteca, la idoneidad de un individuo para un puesto de trabajo, la probabilidad de reincidencia de un condenado o el derecho a recibir asilo político o asistencia social podrían estar determinados por sistemas de inteligencia artificial". 

Formas de manipulación y control

No sólo eso: "Las formas de inteligencia artificial parecen capaces de influir en las decisiones de los individuos mediante opciones predeterminadas asociadas a estímulos y elementos disuasorios, o mediante sistemas de regulación de las elecciones personales basados en la organización de la información". Son "formas de manipulación o control social" que "requieren una atención y supervisión cuidadosas, e implican una clara responsabilidad legal por parte de los productores, de quienes los emplean y de las autoridades gubernamentales", escribe el Papa. También advierte del peligro de "clasificaciones indebidas entre los ciudadanos" generadas por procesos automáticos que categorizan a los individuos: éstos también pueden llevar a "conflictos de poder", dice el Pontífice, en detrimento de "personas de carne y hueso".

"El respeto fundamental de la dignidad humana postula rechazar que la unicidad de la persona se identifique con un conjunto de datos".

El tema del trabajo

El Mensaje papal aborda finalmente el tema del trabajo: "Tareas que antes eran prerrogativa exclusiva del trabajo humano están siendo rápidamente absorbidas por las aplicaciones industriales de la inteligencia artificial", escribe el Papa. También en este caso," existe un riesgo sustancial de ventaja desproporcionada para unos pocos a costa del empobrecimiento de muchos". El llamamiento es para que la comunidad internacional tenga como "alta prioridad" el respeto de la dignidad de los trabajadores y la importancia del empleo para el bienestar económico de las personas, las familias y las sociedades, la seguridad en el empleo y unos salarios justos.

Llamamiento a las escuelas e instituciones

De ahí también el llamamiento a las instituciones para que eduquen en el uso de la inteligencia artificial: "Es necesario que los usuarios de todas las edades, pero especialmente los jóvenes, desarrollen una capacidad de discernimiento en el uso de los datos y contenidos recogidos en la web o producidos por sistemas de inteligencia artificial", remarcó Francisco. "Las escuelas, las universidades y las sociedades científicas están llamadas a ayudar a los estudiantes y a los profesionales a asumir los aspectos sociales y éticos del desarrollo y del uso de la tecnología."

La oración del Papa

Como conclusión del Mensaje, una oración del Obispo de Roma para el Año Nuevo:

"Que el rápido desarrollo de formas de inteligencia artificial no aumente las demasiadas desigualdades e injusticias ya presentes en el mundo, sino que ayude a poner fin a guerras y conflictos, y a aliviar muchas formas de sufrimiento que afligen a la familia humana."