MENSAJE DEL SANTO PADRE FRANCISCO
PARA LA 58 JORNADA MUNDIAL
DE LAS COMUNICACIONES SOCIALES
Inteligencia artificial y sabiduría del corazón
para una comunicación plenamente humana
La evolución de los sistemas de la así llamada "inteligencia artificial", sobre la que ya reflexioné en mi reciente Mensaje para la Jornada Mundial de la Paz, también está modificando radicalmente la información y la comunicación y, a través de ellas, algunos de los fundamentos de la convivencia civil. Es un cambio que afecta a todos, no sólo a los profesionales. La difusión acelerada de sorprendentes inventos, cuyo funcionamiento y potencial son indescifrables para la mayoría de nosotros, suscita un asombro que oscila entre el entusiasmo y la desorientación y nos coloca inevitablemente frente a preguntas fundamentales: ¿qué es pues el hombre? ¿cuál es su especificidad y cuál será el futuro de esta especie nuestra llamada homo sapiens, en la era de las inteligencias artificiales? ¿Cómo podemos seguir siendo plenamente humanos y orientar hacia el bien el cambio cultural en curso?
Comenzando desde el corazón
Ante todo, conviene despejar el terreno de lecturas catastrofistas y de sus efectos paralizantes. Hace un siglo, Romano Guardini, reflexionando sobre la tecnología y el hombre, instaba a no ponerse rígidos ante lo “nuevo” intentando «conservar un mundo de infinita belleza que está a punto de desaparecer». Sin embargo, al mismo tiempo de manera encarecida advertía proféticamente: «Nuestro puesto está en el porvenir. Todos han de buscar posiciones allí donde corresponde a cada uno […], podremos realizar este objetivo si cooperamos noblemente en esta empresa; y a la vez, permaneciendo, en el fondo de nuestro corazón incorruptible, sensibles al dolor que produce la destrucción y el proceder inhumano que se contiene en este mundo nuevo». Y concluía: «Es cierto que se trata, de problemas técnicos, científicos y políticos; pero es preciso resolverlos planteándolos desde el punto de vista humano. Es preciso que brote una nueva humanidad de profunda espiritualidad, de una libertad y una vida interior nuevas». [1]
En esta época que corre el riesgo de ser rica en tecnología y pobre en humanidad, nuestra reflexión sólo puede partir del corazón humano. [2] Sólo dotándonos de una mirada espiritual, sólo recuperando una sabiduría del corazón, podremos leer e interpretar la novedad de nuestro tiempo y redescubrir el camino de una comunicación plenamente humana. El corazón, bíblicamente entendido como la sede de la libertad y de las decisiones más importantes de la vida, es símbolo de integridad, de unidad, a la vez que evoca afectos, deseos, sueños, y es sobre todo el lugar interior del encuentro con Dios. La sabiduría del corazón es, pues, esa virtud que nos permite entrelazar el todo y las partes, las decisiones y sus consecuencias, las capacidades y las fragilidades, el pasado y el futuro, el yo y el nosotros.
Esta sabiduría del corazón se deja encontrar por quien la busca y se deja ver por quien la ama; se anticipa a quien la desea y va en busca de quien es digno de ella (cf. Sab 6,12-16). Está con los que se dejan aconsejar (cf. Prov 13,10), con los que tienen el corazón dócil y escuchan (cf. 1 Re 3,9). Es un don del Espíritu Santo, que permite ver las cosas con los ojos de Dios, comprender los vínculos, las situaciones, los acontecimientos y descubrir su sentido. Sin esta sabiduría, la existencia se vuelve insípida, porque es precisamente la sabiduría —cuya raíz latina sapere se relaciona con el sabor— la que da gusto a la vida.
Oportunidad y peligro
No podemos esperar esta sabiduría de las máquinas. Aunque el término inteligencia artificial ha suplantado al más correcto utilizado en la literatura científica, machine learning, el uso mismo de la palabra “inteligencia” es engañoso. Sin duda, las máquinas poseen una capacidad inconmensurablemente mayor que los humanos para almacenar datos y correlacionarlos entre sí, pero corresponde al hombre, y sólo a él, descifrar su significado. No se trata, pues, de exigir que las máquinas parezcan humanas; sino más bien de despertar al hombre de la hipnosis en la que ha caído debido a su delirio de omnipotencia, creyéndose un sujeto totalmente autónomo y autorreferencial, separado de todo vínculo social y ajeno a su creaturalidad.
En efecto, el hombre siempre ha experimentado que no puede bastarse a sí mismo e intenta superar su vulnerabilidad utilizando cualquier medio. Empezando por los primeros artefactos prehistóricos, utilizados como prolongación de los brazos, pasando por los medios de comunicación empleados como prolongación de la palabra, hemos llegado hoy a las máquinas más sofisticadas que actúan como ayuda del pensamiento. Sin embargo, cada una de estas realidades puede estar contaminada por la tentación original de llegar a ser como Dios sin Dios (cf. Gn 3), es decir, de querer conquistar por las propias fuerzas lo que, en cambio, debería acogerse como un don de Dios y vivirse en la relación con los demás.
Según la orientación del corazón, todo lo que está en manos del hombre se convierte en una oportunidad o en un peligro. Su propio cuerpo, creado para ser un lugar de comunicación y comunión, puede convertirse en un medio de agresión. Del mismo modo, toda extensión técnica del hombre puede ser un instrumento de servicio amoroso o de dominación hostil. Los sistemas de inteligencia artificial pueden contribuir al proceso de liberación de la ignorancia y facilitar el intercambio de información entre pueblos y generaciones diferentes. Pueden, por ejemplo, hacer accesible y comprensible una enorme riqueza de conocimientos escritos en épocas pasadas o hacer que las personas se comuniquen en lenguas que no conocen.
Pero al mismo tiempo pueden ser instrumentos de “contaminación cognitiva”, de alteración de la realidad a través de narrativas parcial o totalmente falsas que se creen —y se comparten— como si fueran verdaderas. Baste pensar en el problema de la desinformación al que nos enfrentamos desde hace años en forma de fake news [3] y que hoy se sirve de deepfakes, es decir, de la creación y difusión de imágenes que parecen perfectamente verosímiles pero que son falsas (también yo he sido objeto de ello), o de mensajes de audio que utilizan la voz de una persona para decir cosas que nunca ha dicho. La simulación, que está a la base de estos programas, puede ser útil en algunos campos específicos, pero se vuelve perversa cuando distorsiona la relación con los demás y la realidad.
Ya desde la primera ola de la inteligencia artificial, la de los medios sociales, hemos comprendido su ambivalencia, dándonos cuenta tanto de sus potencialidades como de sus riesgos y patologías. El segundo nivel de inteligencia artificial generativa marca un salto cualitativo indiscutible. Por lo tanto, es importante tener la capacidad de entender, comprender y regular herramientas que en manos equivocadas podrían abrir escenarios adversos. Como todo lo que ha salido de la mente y de las manos del hombre, los algoritmos. Por ello, es necesario actuar preventivamente, proponiendo modelos de regulación ética para frenar las implicaciones nocivas y discriminatorias, socialmente injustas, de los sistemas de inteligencia artificial y contrarrestar su uso en la reducción del pluralismo, la polarización de la opinión pública o la construcción de un pensamiento único. Así pues, renuevo mi llamamiento exhortando a «la comunidad de las naciones a trabajar unida para adoptar un tratado internacional vinculante, que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas». [4] Sin embargo, como en cualquier ámbito humano, la sola reglamentación no es suficiente.
Crecer en humanidad
Estamos llamados a crecer juntos, en humanidad y como humanidad. El reto que tenemos ante nosotros es dar un salto cualitativo para estar a la altura de una sociedad compleja, multiétnica, pluralista, multirreligiosa y multicultural. Nos corresponde cuestionarnos sobre el desarrollo teórico y el uso práctico de estos nuevos instrumentos de comunicación y conocimiento. Grandes posibilidades de bien acompañan al riesgo de que todo se transforme en un cálculo abstracto, que reduzca las personas a meros datos, el pensamiento a un esquema, la experiencia a un caso, el bien a un beneficio, y sobre todo que acabemos negando la unicidad de cada persona y de su historia, disolviendo la concreción de la realidad en una serie de estadísticas.
La revolución digital puede hacernos más libres, pero no ciertamente si nos dejamos atrapar por los fenómenos mediáticos hoy conocidos como cámara de eco. En tales casos, en lugar de aumentar el pluralismo de la información, corremos el riesgo de perdernos en un pantano desconocido, al servicio de los intereses del mercado o del poder. Es inaceptable que el uso de la inteligencia artificial conduzca a un pensamiento anónimo, a un ensamblaje de datos no certificados, a una negligencia colectiva de responsabilidad editorial. La representación de la realidad en macrodatos, por muy funcional que sea para la gestión de las máquinas, implica de hecho una pérdida sustancial de la verdad de las cosas, que dificulta la comunicación interpersonal y amenaza con dañar nuestra propia humanidad. La información no puede separarse de la relación existencial: implica el cuerpo, el estar en la realidad; exige poner en relación no sólo datos, sino también las experiencias; exige el rostro, la mirada y la compasión más que el intercambio.
Pienso en los reportajes de las guerras y en la “guerra paralela” que se hace mediante campañas de desinformación. Y pienso en cuántos reporteros resultan heridos o mueren sobre el terreno para permitirnos ver lo que han visto sus ojos. Porque sólo tocando el sufrimiento de niños, mujeres y hombres podemos comprender lo absurdo de las guerras.
El uso de la inteligencia artificial podrá contribuir positivamente en el campo de la comunicación si no anula el papel del periodismo sobre el terreno, sino que, por el contrario, lo respalda; si aumenta la profesionalidad de la comunicación, responsabilizando a cada comunicador; si devuelve a cada ser humano el papel de sujeto, con capacidad crítica, respecto de la misma comunicación.
Interrogantes para el hoy y para el mañana
Así pues, surgen espontáneamente algunas preguntas: ¿cómo proteger la profesionalidad y la dignidad de los trabajadores del ámbito de la comunicación y la información, junto con la de los usuarios de todo el mundo? ¿Cómo garantizar la interoperabilidad de las plataformas? ¿Cómo garantizar que las empresas que desarrollan plataformas digitales asuman la responsabilidad de lo que difunden y de lo cual obtienen beneficios, del mismo modo que los editores de los medios de comunicación tradicionales? ¿Cómo hacer más transparentes los criterios en los que se basan los algoritmos de indexación y desindexación y los motores de búsqueda, capaces de exaltar o cancelar personas y opiniones, historias y culturas? ¿Cómo garantizar la transparencia de los procesos de información? ¿Cómo hacer evidente la autoría de los escritos y rastreables las fuentes, evitando el manto del anonimato? ¿Cómo poner de manifiesto si una imagen o un vídeo retratan un acontecimiento o lo simulan? ¿Cómo evitar que las fuentes se reduzcan a un pensamiento único, elaborado algorítmicamente? ¿Y cómo fomentar, en cambio, un entorno que preserve el pluralismo y represente la complejidad de la realidad? ¿Cómo hacer sostenible esta herramienta potente, costosa y de alto consumo energético? ¿Cómo hacerla accesible también a los países en desarrollo?
A partir de las respuestas a estas y otras preguntas, comprenderemos si la inteligencia artificial acabará construyendo nuevas castas basadas en el dominio de la información, generando nuevas formas de explotación y desigualdad; o si, por el contrario, traerá más igualdad, promoviendo una información correcta y una mayor conciencia del cambio de época que estamos viviendo, favoreciendo la escucha de las múltiples necesidades de las personas y de los pueblos, en un sistema de información articulado y pluralista. Por una parte, se cierne el espectro de una nueva esclavitud, por la otra, una conquista de la libertad; por un lado, la posibilidad de que unos pocos condicionen el pensamiento de todos, por otro, la posibilidad de que todos participen en la elaboración del pensamiento.
La respuesta no está escrita, depende de nosotros. Corresponde al hombre decidir si se convierte en alimento de algoritmos o en cambio sí alimenta su corazón con la libertad, ese corazón sin el cual no creceríamos en sabiduría. Esta sabiduría madura sacando provecho del tiempo y comprendiendo las debilidades. Crece en la alianza entre generaciones, entre quienes tienen memoria del pasado y quienes tienen visión de futuro. Sólo juntos crece la capacidad de discernir, de vigilar, de ver las cosas a partir de su cumplimiento. Para no perder nuestra humanidad, busquemos la Sabiduría que es anterior a todas las cosas (cf. Si 1,4), la que pasando por los corazones puros hace amigos de Dios profetas (cf. Sab 7,27). Ella nos ayudará también a orientar los sistemas de inteligencia artificial a una comunicación plenamente humana.
Roma, en San Juan de Letrán, 24 de enero de 2024
FRANCISCO
[1] Cartas del Lago de Como , Pamplona 2013, 101-104. [2] En continuidad con los Mensajes de las anteriores Jornadas Mundiales de las Comunicaciones Sociales, dedicadas a encontrar a las personas donde están y como son (2021), escuchar con los oídos del corazón (2022) y hablar con el corazón (2023).
[3] “La verdad os hará libres” (Jn 8, 32). Fake news y periodismo de paz. Mensaje de la 52 Jornada Mundial de las Comunicaciones Sociales, 2018 .
[4] Mensaje para la Celebración de la 57 Jornada Mundial de la Paz (1 enero 2024), 8
Ya desde la primera ola de la inteligencia artificial, la de los medios sociales, hemos comprendido su ambivalencia, dándonos cuenta tanto de sus potencialidades como de sus riesgos y patologías. El segundo nivel de inteligencia artificial generativa marca un salto cualitativo indiscutible. Por lo tanto, es importante tener la capacidad de entender, comprender y regular herramientas que en manos equivocadas podrían abrir escenarios adversos. Como todo lo que ha salido de la mente y de las manos del hombre, los algoritmos. Por ello, es necesario actuar preventivamente, proponiendo modelos de regulación ética para frenar las implicaciones nocivas y discriminatorias, socialmente injustas, de los sistemas de inteligencia artificial y contrarrestar su uso en la reducción del pluralismo, la polarización de la opinión pública o la construcción de un pensamiento único. Así pues, renuevo mi llamamiento exhortando a «la comunidad de las naciones a trabajar unida para adoptar un tratado internacional vinculante, que regule el desarrollo y el uso de la inteligencia artificial en sus múltiples formas». [4] Sin embargo, como en cualquier ámbito humano, la sola reglamentación no es suficiente.
Crecer en humanidad
Estamos llamados a crecer juntos, en humanidad y como humanidad. El reto que tenemos ante nosotros es dar un salto cualitativo para estar a la altura de una sociedad compleja, multiétnica, pluralista, multirreligiosa y multicultural. Nos corresponde cuestionarnos sobre el desarrollo teórico y el uso práctico de estos nuevos instrumentos de comunicación y conocimiento. Grandes posibilidades de bien acompañan al riesgo de que todo se transforme en un cálculo abstracto, que reduzca las personas a meros datos, el pensamiento a un esquema, la experiencia a un caso, el bien a un beneficio, y sobre todo que acabemos negando la unicidad de cada persona y de su historia, disolviendo la concreción de la realidad en una serie de estadísticas.
La revolución digital puede hacernos más libres, pero no ciertamente si nos dejamos atrapar por los fenómenos mediáticos hoy conocidos como cámara de eco. En tales casos, en lugar de aumentar el pluralismo de la información, corremos el riesgo de perdernos en un pantano desconocido, al servicio de los intereses del mercado o del poder. Es inaceptable que el uso de la inteligencia artificial conduzca a un pensamiento anónimo, a un ensamblaje de datos no certificados, a una negligencia colectiva de responsabilidad editorial. La representación de la realidad en macrodatos, por muy funcional que sea para la gestión de las máquinas, implica de hecho una pérdida sustancial de la verdad de las cosas, que dificulta la comunicación interpersonal y amenaza con dañar nuestra propia humanidad. La información no puede separarse de la relación existencial: implica el cuerpo, el estar en la realidad; exige poner en relación no sólo datos, sino también las experiencias; exige el rostro, la mirada y la compasión más que el intercambio.
Pienso en los reportajes de las guerras y en la “guerra paralela” que se hace mediante campañas de desinformación. Y pienso en cuántos reporteros resultan heridos o mueren sobre el terreno para permitirnos ver lo que han visto sus ojos. Porque sólo tocando el sufrimiento de niños, mujeres y hombres podemos comprender lo absurdo de las guerras.
El uso de la inteligencia artificial podrá contribuir positivamente en el campo de la comunicación si no anula el papel del periodismo sobre el terreno, sino que, por el contrario, lo respalda; si aumenta la profesionalidad de la comunicación, responsabilizando a cada comunicador; si devuelve a cada ser humano el papel de sujeto, con capacidad crítica, respecto de la misma comunicación.
Interrogantes para el hoy y para el mañana
Así pues, surgen espontáneamente algunas preguntas: ¿cómo proteger la profesionalidad y la dignidad de los trabajadores del ámbito de la comunicación y la información, junto con la de los usuarios de todo el mundo? ¿Cómo garantizar la interoperabilidad de las plataformas? ¿Cómo garantizar que las empresas que desarrollan plataformas digitales asuman la responsabilidad de lo que difunden y de lo cual obtienen beneficios, del mismo modo que los editores de los medios de comunicación tradicionales? ¿Cómo hacer más transparentes los criterios en los que se basan los algoritmos de indexación y desindexación y los motores de búsqueda, capaces de exaltar o cancelar personas y opiniones, historias y culturas? ¿Cómo garantizar la transparencia de los procesos de información? ¿Cómo hacer evidente la autoría de los escritos y rastreables las fuentes, evitando el manto del anonimato? ¿Cómo poner de manifiesto si una imagen o un vídeo retratan un acontecimiento o lo simulan? ¿Cómo evitar que las fuentes se reduzcan a un pensamiento único, elaborado algorítmicamente? ¿Y cómo fomentar, en cambio, un entorno que preserve el pluralismo y represente la complejidad de la realidad? ¿Cómo hacer sostenible esta herramienta potente, costosa y de alto consumo energético? ¿Cómo hacerla accesible también a los países en desarrollo?
A partir de las respuestas a estas y otras preguntas, comprenderemos si la inteligencia artificial acabará construyendo nuevas castas basadas en el dominio de la información, generando nuevas formas de explotación y desigualdad; o si, por el contrario, traerá más igualdad, promoviendo una información correcta y una mayor conciencia del cambio de época que estamos viviendo, favoreciendo la escucha de las múltiples necesidades de las personas y de los pueblos, en un sistema de información articulado y pluralista. Por una parte, se cierne el espectro de una nueva esclavitud, por la otra, una conquista de la libertad; por un lado, la posibilidad de que unos pocos condicionen el pensamiento de todos, por otro, la posibilidad de que todos participen en la elaboración del pensamiento.
La respuesta no está escrita, depende de nosotros. Corresponde al hombre decidir si se convierte en alimento de algoritmos o en cambio sí alimenta su corazón con la libertad, ese corazón sin el cual no creceríamos en sabiduría. Esta sabiduría madura sacando provecho del tiempo y comprendiendo las debilidades. Crece en la alianza entre generaciones, entre quienes tienen memoria del pasado y quienes tienen visión de futuro. Sólo juntos crece la capacidad de discernir, de vigilar, de ver las cosas a partir de su cumplimiento. Para no perder nuestra humanidad, busquemos la Sabiduría que es anterior a todas las cosas (cf. Si 1,4), la que pasando por los corazones puros hace amigos de Dios profetas (cf. Sab 7,27). Ella nos ayudará también a orientar los sistemas de inteligencia artificial a una comunicación plenamente humana.
Roma, en San Juan de Letrán, 24 de enero de 2024
FRANCISCO
[1] Cartas del Lago de Como , Pamplona 2013, 101-104. [2] En continuidad con los Mensajes de las anteriores Jornadas Mundiales de las Comunicaciones Sociales, dedicadas a encontrar a las personas donde están y como son (2021), escuchar con los oídos del corazón (2022) y hablar con el corazón (2023).
[3] “La verdad os hará libres” (Jn 8, 32). Fake news y periodismo de paz. Mensaje de la 52 Jornada Mundial de las Comunicaciones Sociales, 2018 .
[4] Mensaje para la Celebración de la 57 Jornada Mundial de la Paz (1 enero 2024), 8