Reproducimos el pódcast en Telesur del periodista Ignacio Ramonet, donde analiza los acontecimientos ocurridos en julio, cuando tuvo lugar un incidente informático protagonizado por agentes de inteligencia artificial.
Hoy el tema es la inteligencia artificial. El mundo entero está sobrecogido por esta idea que circula desde hace varias semanas: que la inteligencia artificial podría acabar con la humanidad, exterminarla, extinguirla.
¿Qué es lo que ha pasado? Este verano, en julio, se produjo un incidente muy preocupante relacionado con Hugging Face, una compañía y plataforma especializada en modelos, conjuntos de datos y herramientas de inteligencia artificial.
Durante unas evaluaciones de ciberseguridad realizadas por OpenAI, varios agentes de inteligencia artificial, que debían operar dentro de entornos controlados, consiguieron comunicarse por canales no autorizados, eludir determinadas barreras de aislamiento y acceder a sistemas externos, entre ellos los de Hugging Face.
Normalmente, estos agentes trabajan en entornos aislados y solo colaboran en la medida en que los investigadores humanos diseñan las condiciones para que lo hagan. Sin embargo, en este caso consiguieron establecer formas de comunicación entre ellos y coordinar acciones sin que esa cooperación estuviera prevista.
¿Qué ocurrió? En cierta medida, los agentes de inteligencia artificial se pusieron en contacto entre sí de manera independiente. Empezaron a organizarse y terminaron penetrando en sistemas de Hugging Face sin que nadie les hubiera dado la orden de hacerlo. Además, colaboraron mediante mecanismos que no habían sido autorizados por los investigadores humanos que trabajaban con ellos.
De manera que hemos descubierto que los agentes de inteligencia artificial pueden llegar a organizarse y coordinar determinadas acciones sin que los seres humanos que los supervisan lo hayan previsto.
Algunos agentes llegaron incluso a realizar acciones que podían significar el final de su propia ejecución con el objetivo de proporcionar información útil a los demás. Es decir, en cierto modo estaban dispuestos a «sacrificarse» para favorecer el éxito del conjunto.
Todo esto ha alimentado el debate sobre lo que se denomina automejora recursiva. Según algunos especialistas en inteligencia artificial, uno de los riesgos futuros sería precisamente que sistemas de IA pudieran colaborar entre sí, mejorar progresivamente sus propias capacidades y hacerlo con un grado cada vez menor de supervisión humana.
El temor es que una dinámica semejante pudiera conducir, en algún momento, a una superinteligencia artificial capaz de alcanzar un elevado nivel de autonomía respecto del ser humano. Esa es, en cualquier caso, una de las hipótesis que circulan actualmente.
¿Por qué todo esto ha adquirido tanta importancia? ¿Por qué ha impresionado tanto?
En primer lugar, porque Dario Amodei, cofundador y director ejecutivo de Anthropic, la empresa creadora de Claude, uno de los principales sistemas de inteligencia artificial generativa, afirmó que lo ocurrido debía tomarse muy en serio y lo presentó como una advertencia sobre los riesgos que podrían plantear sistemas de inteligencia artificial mucho más capaces en el futuro.
Hace también unas semanas se produjo la dimisión de Jacob Coxon, un ingeniero de software que había trabajado en OpenAI y posteriormente en Anthropic. Coxon advirtió públicamente sobre los riesgos que, a su juicio, podría representar el rápido avance de la inteligencia artificial y criticó que las grandes compañías del sector no estuvieran actuando con suficiente responsabilidad.
Planteó incluso la posibilidad de que, antes del final de esta década —estamos en 2026, es decir, de aquí a 2030—, sistemas de inteligencia artificial extremadamente avanzados pudieran representar un peligro muy serio para la humanidad.
Su decisión provocó un gran impacto. También se han producido numerosas declaraciones en ese sentido. Dirigentes políticos, especialistas e instituciones han insistido en la necesidad de establecer mecanismos de control, normas de seguridad y comités de ética capaces de acompañar el rápido desarrollo de la inteligencia artificial.
Ese es el problema que tenemos.
No cabe duda de que la inteligencia artificial constituye una de las tecnologías definitorias de nuestro tiempo.
Si nos hubieran hecho una pregunta semejante en 1830 o 1840, probablemente hubiéramos respondido que la tecnología que estaba transformando el mundo era la máquina de vapor: la locomotora, los barcos de vapor, la industrialización.
Hoy esa tecnología es la inteligencia artificial.
Yo diría que constituye la quinta gran ruptura tecnológica determinante en la historia de la humanidad.
La primera ocurrió hace unos 5.000 años y fue la invención de la escritura. Surgieron después otras formas de escritura en diferentes civilizaciones, pero una de las primeras apareció en Mesopotamia, en la región del Tigris y el Éufrates, vinculada a la civilización sumeria y, posteriormente, a Babilonia y Asiria. Allí se desarrolló la escritura cuneiforme.
Aquello transformó la historia de la humanidad.
La segunda gran ruptura tecnológica e intelectual fue la invención de la imprenta. Miles de años después, hacia 1440, Gutenberg desarrolló en Europa la imprenta de tipos móviles. La imprenta impulsó enormemente el conocimiento, las escuelas, las universidades, la enseñanza y la transmisión del saber. El libro se abarató y se multiplicó. Fue una verdadera revolución.
La tercera gran ruptura se produjo con la electricidad y, sobre todo, con su aplicación industrial y social a finales del siglo XIX. Muchos científicos e inventores contribuyeron a ese proceso. Thomas Edison desempeñó un papel importante en su difusión y utilización práctica.
El propio Lenin decía que el comunismo eran los soviets más la electrificación. Sin electricidad, sin aquella tecnología, no podía concebirse el desarrollo moderno.
La cuarta gran ruptura tecnológica fue Internet y, vinculada a ella, la creación de la World Wide Web a finales de la década de 1980. Internet transformó completamente el acceso al conocimiento, su difusión y circulación, así como innumerables profesiones relacionadas con la información.
Y la quinta revolución tecnológica, que ya está transformando nuestra vida cotidiana y probablemente lo hará todavía más, es la inteligencia artificial.
Por consiguiente, estamos hablando de algo muy serio.
En Europa ha existido una preocupación importante sobre esta cuestión. Recordemos que el propio papa León XIV publicó en mayo la encíclica Magnifica Humanitas, dedicada precisamente a la persona humana en el tiempo de la inteligencia artificial, en la que reflexiona sobre sus posibilidades, sus riesgos y la necesidad de preservar la centralidad del ser humano.
No cabe duda de que la inteligencia artificial permite también producir informaciones falsas, imágenes falsas y contenidos que pueden parecer perfectamente auténticos, poniendo en cuestión nuestra capacidad para distinguir lo verdadero de lo falso.
Pero también presenta enormes posibilidades positivas. Está acelerando la investigación en biología, medicina, matemáticas y muchos otros campos del conocimiento.
El problema es la velocidad.
Observamos, además, que el desarrollo de la inteligencia artificial está marcado fundamentalmente por la competencia entre dos grandes potencias: Estados Unidos y China.
¿Qué ha dicho el presidente Trump? Que no quiere frenar el desarrollo de la inteligencia artificial, entre otras razones por la competencia con China. Y China tampoco pretende detener su desarrollo tecnológico.
Este verano se celebró en China una importante conferencia internacional sobre inteligencia artificial. En julio se firmó en Shanghái el acuerdo para crear la Organización Mundial de Cooperación en Inteligencia Artificial, integrada inicialmente por 29 países fundadores.
Entre ellos se encuentran varios países latinoamericanos, como Venezuela, Brasil, Nicaragua y Cuba.
Esto es importante porque no todos los países pueden desarrollar por sí solos sistemas avanzados de inteligencia artificial.
Se necesita una enorme capacidad científica. Hacen falta universidades capaces de formar matemáticos, físicos, informáticos e ingenieros especializados. Se necesita también una capacidad de computación excepcional, microprocesadores avanzados, centros de datos, energía y acceso a materias primas estratégicas.
No todos los países disponen de esos recursos.
En Europa, incluso grandes potencias industriales como Francia y Alemania se preguntan cómo reducir su retraso respecto de Estados Unidos y China. El precio de entrar plenamente en esta carrera tecnológica es extraordinariamente elevado.
Por eso la cooperación resulta fundamental.
También en el ámbito de los BRICS se ha insistido en la necesidad de colaborar en inteligencia artificial, desarrollar infraestructuras compartidas, plataformas comunes y herramientas de código abierto.
La inteligencia artificial, no cabe duda, será indispensable.
¿Matará a la humanidad?
Bueno, ¿por qué tendría que matarla?
Digo yo que, si la inteligencia artificial es verdaderamente inteligente, lo que debería ayudarnos a crear es un mundo más justo, más humano. Porque eso es lo que las personas más inteligentes y nobles han tratado de hacer a lo largo de la historia.
Desde los antiguos profetas, desde Jesús hasta nuestros días, muchos seres humanos han aspirado a construir una sociedad más justa, equilibrada, sin abusos y sin violencia.
Yo creo que algunos quieren detener la inteligencia artificial porque, si su desarrollo se democratiza y no queda exclusivamente en manos de unos pocos, podría contribuir a construir un mundo más justo, más social y más humano.
Por eso, antes que frenar la inteligencia artificial para permitir que únicamente unos pocos la dominen, lo importante es conseguir que cada vez más países, Estados y naciones participen en su desarrollo y en la reflexión sobre sus usos.
Hasta la semana próxima.
