“La habilidad de algunos dispositivos para producir textos sintáctica y semánticamente coherentes, por ejemplo, no es garantía de confiabilidad. Se dice que pueden alucinar, es decir, generar afirmaciones que a primera vista parecen plausibles, pero que en realidad son infundadas o delatan prejuicios”, alertó el pontífice en el mensaje para la Cuaresma de este año dado a conocer por la oficina de Prensa de la Santa Sede.
Según Jorge Bergoglio, “esto crea un serio problema cuando la inteligencia artificial se emplea en campañas de desinformación que difunden noticias falsas y llevan a una creciente desconfianza hacia los medios de comunicación”.
Con el mensaje de este jueves, el Papa vuelve a enfatizar que la irrupción de la IA es una de las principales preocupaciones de la Santa Sede, tras los mensajes que le dedicó para la Jornada Mundial de la Paz de enero y para la Mundial de las Comunicaciones de mayo.
Para el Papa, en ese marco, “la confidencialidad, la posesión de datos y la propiedad intelectual son otros ámbitos en los que las tecnologías en cuestión plantean graves riesgos, a los que se añaden ulteriores consecuencias negativas unidas a su uso impropio, como la discriminación, la interferencia en los procesos electorales, la implantación de una sociedad que vigila y controla a las personas, la exclusión digital y la intensificación de un individualismo cada vez más desvinculado de la colectividad”.
De acuerdo a Francisco, “todos estos factores corren el riesgo de alimentar los conflictos y de obstaculizar la paz“.
En el escrito que lleva por título “Inteligencia Artificial y paz”, el Papa agregó que “además, las tecnologías que usan un gran número de algoritmos pueden extraer, de los rastros digitales dejados en internet, datos que permiten controlar los hábitos mentales y relacionales de las personas con fines comerciales o políticos, frecuentemente sin que ellos lo sepan, limitándoles el ejercicio consciente de la libertad de elección”.
“De hecho, en un espacio como la web, caracterizado por una sobrecarga de información, se puede estructurar el flujo de datos según criterios de selección no siempre percibidos por el usuario”, alertó el pontífice.
En particular, además de la información, Francisco enfatizó que “en estos días, mirando el mundo que nos rodea, no podemos eludir las graves cuestiones éticas vinculadas al sector de los armamentos”.
“La posibilidad de conducir operaciones militares por medio de sistemas de control remoto ha llevado a una percepción menor de la devastación que estos han causado y de la responsabilidad en su uso, contribuyendo a un acercamiento aún más frío y distante a la inmensa tragedia de la guerra”, desarrolló luego.
“La posibilidad de conducir operaciones militares por medio de sistemas de control remoto ha llevado a una percepción menor de la devastación que estos han causado y de la responsabilidad en su uso, contribuyendo a un acercamiento aún más frío y distante a la inmensa tragedia de la guerra”
Así, sostuvo que “la búsqueda de las tecnologías emergentes en el sector de los denominados sistemas de armas autónomos letales, incluido el uso bélico de la inteligencia artificial, es un gran motivo de preocupación ética”.
“Los sistemas de armas autónomos no podrán ser nunca sujetos moralmente responsables. La exclusiva capacidad humana de juicio moral y de decisión ética es más que un complejo conjunto de algoritmos”, profundizó. Y reclamó: “Por este motivo, es imperioso garantizar una supervisión humana adecuada, significativa y coherente de los sistemas de armas”.
Francisco se refirió también a los “procesos automáticos que clasifican a los individuos, por ejemplo, por medio del uso generalizado de la vigilancia o la adopción de sistemas de crédito social”, y advirtió que podrían “llevar incluso a conflictos de poder, no sólo en lo que respecta a destinatarios virtuales, sino a personas de carne y hueso”.
“El respeto fundamental por la dignidad humana postula rechazar que la singularidad de la persona sea identificada con un conjunto de datos”, añadió.
Las advertencias de Francisco se dan en un marco en el que, sostuvo, “los progresos técnico-científicos, haciendo posible el ejercicio de un control sobre la realidad, nunca visto hasta ahora, están poniendo en las manos del hombre una vasta gama de posibilidades, algunas de las cuales representan un riesgo para la supervivencia humana y un peligro para la casa común”.
“¿Cuáles serán las consecuencias, a medio y a largo plazo, de las nuevas tecnologías digitales? ¿Y qué impacto tendrán sobre la vida de los individuos y de la sociedad, sobre la estabilidad internacional y sobre la paz?”, se preguntó por último.
