“La inteligencia artificial no es neutral”, advierte el papa León XIV en su primera encíclica “Magnifica Humanitas”, publicada este lunes.
En el documento, el pontífice alerta sobre los riesgos de que la IA quede concentrada en pocas manos y sea utilizada para manipular información, violar la privacidad o reforzar ideologías y desigualdades.
León XIV pidió crear reglas justas, mecanismos internacionales de supervisión y marcos legales que protejan la dignidad humana frente al avance tecnológico.
La encíclica también aborda el impacto de la automatización en el empleo y cuestiona el uso de algoritmos en conflictos armados.
Son empresas y plataformas que absorben esas competencias, datos y capacidad decisional quienesdefinen “condiciones de acceso, reglas de visibilidad, formas de relación e incluso oportunidades económicas”.
“Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades”, advierte.
Considera que “los estados y las instituciones supranacionales están llamados a garantizar reglas justas y mecanismos de protección eficaces para que las comunidades locales, los cuerpos intermedios, las escuelas y las universidades, así como las realidades eclesiales y asociativas puedan tener voz y contribuir al discernimiento de las decisiones que inciden en la vida de las personas: trabajo, acceso a los servicios, gestión de los datos y ambientes digitales”.
Y aboga por “un orden social justo en la era digital” que garantice “acceso igualitario a las oportunidades, proteja a los más pequeños y a los más frágiles, se oponga al odio y a la desinformación, y someta a control público el uso de los datos y de las tecnologías, de modo que el criterio no sea sólo el beneficio sino la dignidad de cada persona y el bien de los pueblos”.
Indica el peligro de que “la imitación artificial de una comunicación humana positiva—palabras de consejo, de empatía, de amistad, de amor— puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede inducir a engaño y dar la falsa impresión de estar en una relación con un auténtico sujeto personal”.
