El papa León XIV advirtió en un mensaje sobre los riesgos que acompañan el desarrollo de la inteligencia artificial (IA) y cómo la tecnología puede manipular las emociones y llamó, ante ello, a no dejar de lado el pensamiento crítico.
Una nota del sitio www.actualidad.rt.com recoge que en LX Jornada Mundial de las Comunicaciones Sociales el líder de la Iglesia Católica destacó que “el rostro y la voz son rasgos únicos, distintivos, de cada persona”, en tanto “manifiestan su propia identidad irrepetible”. De igual modo, destacó la importancia de la “comunicación con los demás”.
León XIV contrastó que, sin embargo, esos atributos se ven socavados por el desarrollo de la tecnología digital, ya que al descuidarla se cae en el riesgo de “modificar radicalmente algunos de los pilares fundamentales de la civilización humana”.
En ese sentido, señaló: “Los sistemas conocidos como IA no solo interfieren en los ecosistemas informativos, sino que también invaden el nivel más profundo de la comunicación, el de la relación entre las personas”, por lo cual aseguró que el desafío “no es tecnológico sino antropológico”. A su juicio, “custodiar los rostros y las voces significa, en última instancia, cuidarnos a nosotros mismos”.
El papa evaluó que, a la capacidad individual, la comprensión y la reflexión se oponen los algoritmos que “premian las emocionas rápidas”, a la vez que “debilitan la capacidad de escucha y de pensamiento crítico y aumentan la polarización social”.
Por ello, advirtió que al considerar a la IA como “amiga omnisciente” se desgasta la “capacidad de pensar de modo analítico y creativo” dando lugar únicamente a la “recopilación estadística artificial” que puede terminar por “erosionar” las “capacidades cognitivas, emocionales y comunicativas”.
En su análisis sobre los riesgos del avance de la IA, León XIV advirtió también sobre el contacto con los chatbots que pueden someter a las personas a una “persuasión oculta”, al tratarse de modelos capaces de “imitar los sentimientos humanos y simular así una relación”.
Esa “antropomorfización”, analizó, es “engañosa” ya que los chatbots pueden transformarse en “arquitectos ocultos” de los “estados emocionales” e “invadir y ocupar la esfera de la intimidad de las personas”.
Entonces, alertó del peligro: sustituir relaciones humanas por el vínculo con la IA, capaz de construir un mundo hecho a “imagen y semejanza”, puede dañar “el tejido social, cultural y político de las sociedades”, generando una “percepción alterada de la realidad”.
Frente a tales riesgos, el pontífice instó a autoridades nacionales y entidades supranacionales a establecer una reglamentación adecuada que pueda “proteger a las personas de crear vínculos emocionales con los chatbots”, así como “contener la difusión de contenidos falsos, manipuladores o confusos, preservando la integridad de la información frente a una simulación engañosa de la misma”.
León XIV afirmó el desafío “no es detener la innovación digital, sino guiarla” y ser “conscientes de su carácter ambivalente”. Para ello, es fundamental la educación, que permitirá mantener la “reflexión crítica, evaluar la credibilidad de las fuentes y los posibles intereses que están detrás de la selección de información” para no caer en la “deriva antropomorfizante de estos sistemas” y tratarlos simplemente como herramientas.
Imagen de portada: Tomada de Instagram.
