Francisco Rey Alamillo
El pasado mes de noviembre de 2020, el Papa Francisco nos convocó a rezar para que el progreso de la robótica y de la inteligencia artificial esté siempre al servicio del ser humano. Este tema, “específicamente la inteligencia artificial, está en el corazón mismo del cambio de época que estamos experimentando”, afirma Francisco. Para el Papa «no estamos viviendo simplemente una época de cambios, sino un cambio de época.” Estamos en uno de esos momentos en que los cambios son de profunda transformación. Debemos estar seguros, dice Francisco, de que “podemos ampliar nuestra visión. Tenemos la libertad necesaria para limitar y dirigir la tecnología; podemos ponerlo al servicio de otro tipo de progreso, más saludable, más humano, más social, más integral” (Laudato Si, 112). De lo contrario, un paradigma dominante ―el “paradigma tecnocrático” (cf. ibíd., 111) “que promete un progreso incontrolado e ilimitado se impondrá” con enormes peligros para toda la humanidad.
Hace 40 años san Juan Pablo II en un viaje a Hiroshima nos decía:
“La crítica de la ciencia y la tecnología es a veces tan severa que llega a la conclusión de condenar la ciencia en sí misma. Al contrario, la ciencia y la tecnología son un maravilloso producto de la creatividad humana donada por Dios, ellas nos han proporcionado estupendas posibilidades y nos hemos beneficiado de ellas agradecidamente. Pero sabemos que este potencial no es neutral: puede ser usado tanto para el progreso del hombre como para su degradación. Al igual que ustedes, yo he vivido en este período que llamaría la «era del post-Hiroshima», y participo de sus ansiedades. Hoy me siento movido a decirles a ustedes: seguramente ha llegado el tiempo para nuestra sociedad, y especialmente para el mundo de la ciencia, de comprender que el futuro de la humanidad depende, más que nunca, de nuestras opciones morales colectivas.”
Francisco a los participantes del seminario “El Bien Común en la era digital”, les dice:
“Un buen ejemplo podría ser la robótica en el mundo laboral. Por un lado, podrá poner fin a algunos trabajos fatigosos, peligrosos y repetitivos ―pensemos en los que surgieron a principios de la revolución industrial del siglo XIX― que a menudo causan sufrimiento, aburrimiento y embrutecimiento. Sin embargo, por otro lado, la robótica podría convertirse en una herramienta puramente eficiente: utilizada sólo para aumentar beneficios y rendimientos, privaría a miles de personas de su trabajo, poniendo en peligro su dignidad. […] Un mundo mejor es posible gracias al progreso tecnológico si éste va acompañado de una ética basada en una visión del bien común, una ética de libertad, responsabilidad y fraternidad, capaz de favorecer el pleno desarrollo de las personas en relación con los demás y con la creación”.
Francisco en 2015 se dirigió con estas palabras al presidente del Foro de Davos, Klaus Schwab:
“A todos ustedes me dirijo una vez más: ¡No se olviden de los pobres! Este es el principal desafío que tienen ustedes, como líderes en el mundo de los negocios. Quien tiene los medios para vivir una vida digna, en lugar de preocuparse por sus privilegios, debe tratar de ayudar a los más pobres para que puedan acceder también a una condición de vida acorde con la dignidad humana, mediante el desarrollo de su potencial humano, cultural, económico y social […] Se enfrentan al reto de garantizar que la futura «cuarta revolución industrial», resultado de la robótica y de las innovaciones científicas y tecnológicas, no conduzca a la destrucción de la persona humana —remplazada por una máquina sin alma—, o a la transformación de nuestro planeta en un jardín vacío para el disfrute de unos pocos elegidos”. Tres años después, en su mensaje al encuentro de Davos, recordaba: “También la inteligencia artificial, la robótica y otras innovaciones tecnológicas deben emplearse de tal manera que contribuyan al servicio de la humanidad y a la protección de nuestra casa común, en lugar de lo contrario, como algunos análisis, lamentablemente, prevén.
Para la conferencia Internacional “De Populorum Progressio a Laudato Si” escribía en 2017:
“Otra contribución importante de los trabajadores para el desarrollo sustentable, es la de resaltar otra triple conexión, un segundo juego de tres «T»: esta vez entre trabajo, tiempo y tecnología. En cuanto al tiempo, sabemos que la «continua aceleración de los cambios» y la «intensificación de ritmos de vida y de trabajo», que algunos llaman «rapidación», no colaboran con el desarrollo sostenible ni con la calidad del mismo. También sabemos que la tecnología, de la cual recibimos tantos beneficios y oportunidades, puede obstaculizar el desarrollo sustentable cuando está asociada a un paradigma de poder, dominio y manipulación.
En el contexto actual, conocido como la cuarta revolución industrial, caracterizado por esta rapidación y la refinada tecnología digital, la robótica, y la inteligencia artificial, el mundo necesita de voces como la de ustedes. Son los trabajadores quienes, en su lucha por la jornada laboral justa, han aprendido a enfrentarse con una mentalidad utilitarista, cortoplacista, y manipuladora. Para esta mentalidad, no interesa si hay degradación social o ambiental; no interesa qué se usa y qué se descarta; no interesa si hay trabajo forzado de niños o si se contamina el río de una ciudad. Sólo importa la ganancia inmediata. Todo se justifica en función del dios dinero. Dado que muchos de ustedes han contribuido a combatir esta patología en el pasado, se encuentran hoy muy bien posicionados para corregirla en el futuro. Les ruego que aborden esta difícil temática y que nos muestren, desde su misión profética y creativa, que es posible una cultura del encuentro y del cuidado. Hoy ya no es sólo la dignidad del empleado la que está en juego, sino la dignidad del trabajo de todos, y de la casa de todos, nuestra madre tierra. Por ello, y tal como lo afirmé en la encíclica Laudato Si, necesitamos de un diálogo sincero y profundo para redefinir la idea del trabajo y el rumbo del desarrollo. Pero no podemos ser ingenuos y pensar que el diálogo se dará naturalmente y sin conflictos […] Además, podremos encontrar el modo de salir de una economía de mercado y de finanzas, que no da al trabajo el valor que corresponde, y orientarla hacia aquella en la que la actividad humana es el centro […] Sindicato es una palabra bella que proviene del griego dikein (hacer justicia), y syn (juntos). Por favor, hagan justicia juntos, pero en solidaridad con todos los pobres, marginados y excluidos del sistema”.
Su mensaje a la Asamblea de la Academia Pontificia para la Vida en febrero de 2019, reunida con el tema:»Roboética. Personas, máquinas y salud «, decía:
“A este respecto, conviene señalar que la denominación de “inteligencia artificial”, aunque ciertamente de efecto, puede ser engañosa. Los términos ocultan el hecho de que, a pesar del útil cumplimiento de las tareas serviles (es el significado original del término “robot”), los automatismos funcionales siguen estando cualitativamente distantes de las prerrogativas humanas del saber y del actuar. Y por lo tanto pueden llegar a ser socialmente peligrosos. Además, el riesgo de que el hombre sea ‘tecnologizado’, en lugar de la técnica humanizada, ya es real: a las llamadas “máquinas inteligentes” se atribuyen apresuradamente las capacidades que son propiamente humanas.
Necesitamos entender mejor qué significan, en este contexto, la inteligencia, la conciencia, la emocionalidad, la intencionalidad afectiva y la autonomía de la acción moral. Los dispositivos artificiales que simulan las capacidades humanas, en realidad, carecen de calidad humana. Hay que tenerlo en cuenta para orientar su regulación de uso y la investigación misma, hacia una interacción constructiva y equitativa entre los seres humanos y las últimas versiones de las máquinas. Las máquinas, de hecho, se propagan en nuestro mundo y transforman radicalmente el escenario de nuestra existencia. Si conseguimos tener en cuenta estas referencias también en los hechos, el extraordinario potencial de los nuevos descubrimientos puede irradiar sus beneficios a cada persona y a toda la humanidad.
El debate en curso entre los mismos especialistas ya muestra los graves problemas de gobernabilidad de los algoritmos que procesan grandes cantidades de datos. Asimismo, también plantean graves cuestiones éticas las tecnologías para la manipulación del patrimonio genético y de las funciones cerebrales. En cualquier caso, el intento de explicar todo lo que atañe al pensamiento, a la sensibilidad, al psiquismo humano sobre la base de la suma funcional de sus partes físicas y orgánicas, no explica la aparición de los fenómenos de la experiencia y la conciencia. El fenómeno humano supera el resultado del ensamblaje calculable de los elementos individuales. También en este contexto, el axioma según el cual el todo es superior a las partes adquiere una nueva profundidad y significado “
Para concluir, comparto con vosotros un resumen del discurso de Francisco de este año, a los participantes de la Asamblea de la Academia Pontificia por la vida, el 28 de febrero de este año 2020:
“La innovación digital toca todos los aspectos de nuestras vidas, tanto personales como sociales. Afecta nuestra forma de entender el mundo y a nosotros mismos. Está cada vez más presente en la actividad humana e incluso en las decisiones humanas, por lo que está alterando nuestra forma de pensar y actuar. Las decisiones, incluso las decisiones más importantes, como por ejemplo en los campos médico, económico o social, son ahora el resultado de la voluntad humana y una serie de entradas algorítmicas. Un acto personal es ahora el punto de convergencia entre un input que es verdaderamente humano y un cálculo automático.
Sin duda, la humanidad ya ha experimentado profundas conmociones en su historia: por ejemplo, la introducción de la máquina de vapor, o la electricidad, o la invención de la imprenta que revolucionó la forma en que almacenamos y transmitimos la información. En la actualidad, la convergencia entre diferentes campos del conocimiento científico y tecnológico se está expandiendo y permite intervenir sobre fenómenos de magnitud infinitesimal y alcance planetario, hasta el punto de desdibujar fronteras que hasta ahora se consideraban claramente distinguibles: por ejemplo, entre materia inorgánica y orgánica, entre lo real y lo virtual, entre identidades estables y eventos en constante interconexión.
A nivel personal, la era digital está cambiando nuestra percepción del espacio, del tiempo y del cuerpo. Está inculcando un sentido de posibilidades ilimitadas, incluso cuando la estandarización se está convirtiendo cada vez más en el principal criterio de agregación. Se ha vuelto cada vez más difícil reconocer y apreciar las diferencias. En el nivel socioeconómico, los usuarios a menudo se reducen a «consumidores», presa de intereses privados concentrados en manos de unos pocos. De los rastros digitales dispersos en Internet, los algoritmos ahora extraen datos que permiten controlar los hábitos mentales y relacionales, con fines comerciales o políticos, frecuentemente sin nuestro conocimiento. Esta asimetría, por la que unos pocos elegidos saben todo sobre nosotros y nosotros no sabemos nada de ellos, entorpece el pensamiento crítico y el ejercicio consciente de la libertad. Las desigualdades se expanden enormemente; el conocimiento y la riqueza se acumulan en unas pocas manos con graves riesgos para las sociedades democráticas. Sin embargo, estos peligros no deben restar valor al inmenso potencial que ofrecen las nuevas tecnologías. Nos encontramos ante un regalo de Dios, un recurso que puede dar buenos frutos […]
Como creyentes, debemos dejarnos desafiar, para que la palabra de Dios y nuestra tradición de fe nos ayuden a interpretar los fenómenos de nuestro mundo e identificar caminos de humanización, y por tanto de evangelización amorosa, que podamos recorrer juntos […]
Teniendo esto en cuenta, la mera formación en el uso correcto de las nuevas tecnologías no resultará suficiente. Como instrumentos o herramientas, estos no son «neutrales», ya que, como hemos visto, dan forma al mundo y comprometen las conciencias a nivel de valores. Necesitamos un esfuerzo educativo más amplio. Es necesario desarrollar razones sólidas para promover la perseverancia en la búsqueda del bien común, incluso cuando no se aprecia una ventaja inmediata. Existe una dimensión política en la producción y uso de la inteligencia artificial, que tiene que ver con algo más que la expansión de sus beneficios individuales y puramente funcionales. En otras palabras, no basta simplemente con confiar en el sentido moral de los investigadores y desarrolladores de dispositivos y algoritmos. Es necesario crear cuerpos sociales intermedios que puedan incorporar y expresar las sensibilidades éticas de usuarios y educadores […]
Empezamos a vislumbrar una nueva disciplina que podríamos llamar “el desarrollo ético de los algoritmos” o más simplemente “algor-ética” […] En nuestra búsqueda común de estos objetivos, los principios de la doctrina social de la Iglesia pueden aportar una contribución fundamental: la dignidad de la persona, la justicia, la subsidiariedad y la solidaridad. Son expresiones de nuestro compromiso de estar al servicio de cada individuo en su integridad y de todas las personas, sin discriminación ni exclusión. La complejidad del mundo tecnológico nos exige un marco ético cada vez más claro, para que este compromiso sea realmente efectivo.
El desarrollo ético de algoritmos – algor-ética – puede ser un puente que permita que esos principios entren concretamente en las tecnologías digitales a través de un diálogo interdisciplinario efectivo. Además, en el encuentro entre diferentes visiones del mundo, los derechos humanos representan un importante punto de convergencia en la búsqueda de un terreno común. En la actualidad, parece necesaria una nueva reflexión sobre los derechos y deberes en este ámbito […] Los invito a continuar con audacia y discernimiento, mientras buscan formas de aumentar la participación de todos aquellos que tienen en el corazón el bien de la familia humana”
No quisiera acabar sin esta anécdota que cuenta Francisco en una audiencia con expertos ecologistas:
“El otro día, una persona me preguntaba hablando de la inteligencia artificial —tenemos en el Dicasterio de Cultura un grupo de estudio de muy alto nivel sobre la inteligencia artificial—: “Pero la inteligencia artificial, ¿podrá hacerlo todo?”. — “Los futuros robots serán capaces de hacer todo, todo lo que hace una persona. ¿Excepto una cosa? — dije— ¿Qué es lo que no pueden hacer?” Y esa persona pensó un poco y dijo: “Sólo les faltará una cosa: la ternura”. Y la ternura es como la esperanza. Como dice Péguy, son virtudes humildes. Son virtudes que acarician, que no afirman… Y creo —me gustaría subrayarlo— que, en nuestra conversión ecológica, debemos trabajar en esta ecología humana; trabajar en nuestra ternura y capacidad de acariciar… Tú, con tus hijos… La capacidad de acariciar, que es algo para vivir bien en armonía.
