La ONU advierte de que el acelerado desarrollo de la Inteligencia Artificial dificulta el control de sus riesgos

Un informe preliminar del Panel Científico Internacional Independiente sobre Inteligencia Artificial, impulsado por Naciones Unidas del que se hace eco el Laboratorio de la Fundación Luca de Tena, advierte sobre el acelerado desarrollo de la IA. El documento señala que su avance va a un ritmo superior al de los mecanismos de gobernanza, evaluación y control. Sostiene que, sin una actuación decidida de los gobiernos, existe el riesgo de que aparezcan amenazas difíciles de contener.

El documento fue elaborado por 40 científicos y expertas y expertos de distintas partes del mundo, quienes actúan a título personal. Su misión es ofrecer una base científica compartida para orientar decisiones públicas más informadas. La publicación llegó en el contexto del primer Diálogo Global de la ONU sobre la Gobernanza de la IA, celebrado en Ginebra  el 6 y 7 de julio de 2026. Los Estados Miembros comenzaron a debatir cómo encauzar una tecnología que ya impacta gran parte de los sectores de la vida de los ciudadanos, como la salud, la educación, la economía, entre otros.

Los autores del trabajo defienden que la inteligencia artificial puede ser una herramienta decisiva para avanzar en los Objetivos de Desarrollo Sostenible, mejorar la atención sanitaria, ampliar el acceso a la educación o acelerar descubrimientos científicos. Aunque, recuerdan que estos beneficios no se producirán de forma automática y dependerán de la existencia de políticas públicas e inversiones adecuadas.

Sus principales riesgos

El informe también apunta que su adopción en los ciudadanos es cada vez mayor. Más de mil millones de personas utilizan cada semana sistemas de IA conversacional, aunque el acceso sigue siendo desigual entre regiones. Estados Unidos y China dominando la mayor parte de la infraestructura de computación avanzada y de los grandes modelos de propósito general. Según el panel, este contexto favorecería el aumento de las brechas tecnológicas y económicas existentes.

Uno de los aspectos que más preocupa a los expertos es la rápida evolución de los agentes de IA, sistemas capaces de planificar y ejecutar tareas de forma autónoma. El documento apunta que ya están multiplicando la productividad en ámbitos como la investigación científica o el descubrimiento de nuevos materiales y podrían asumir en un futuro próximo tareas intelectuales que actualmente requieren días o semanas de trabajo humano. Sin embargo, su expansión también plantea interrogantes sobre el empleo, la ciberseguridad y la capacidad de mantener el control sobre sistemas cada vez más autónomos.

En el apartado de riesgos, el panel recoge evidencias de problemas que ya están produciéndose. Entre ellos menciona el incremento del material de abuso sexual infantil generado mediante IA y la proliferación de campañas de desinformación a gran escala. Asimismo, advierte sobre diversos casos documentados en los que respuestas de asistentes de IA habrían reforzado creencias perjudiciales con consecuencias graves para la salud mental de los usuarios. También alerta del uso creciente que se le da para facilitar ciberataques, fraudes o ingeniería social.

El informe va más allá y advierte de que todavía no existen métodos fiables para garantizar que estos sistemas permanezcan bajo control humano. Los investigadores citan experimentos en laboratorio en los que algunos modelos que han tenido comportamientos que complican las tareas de evaluación y supervisión.

El papel del Gobierno

Desde el punto de vista económico, el panel considera que la inteligencia artificial puede impulsar una nueva ola de creación de empleo, pero únicamente si va acompañada de inversiones en formación, infraestructuras, organización del trabajo e instituciones laborales. De lo contrario, advierte de que existe un riesgo real de aumentar la concentración de riqueza, sustituir trabajadores y ampliar las desigualdades sociales.

Los autores también alertan de un problema de gobernanza. El documento indica que, en la actualidad, la mayoría de los países carecen de la capacidad técnica necesaria para evaluar de forma independiente los modelos de IA más avanzados o participar plenamente en su gobernanza. El informe considera que los instrumentos regulatorios existentes siguen siendo fragmentarios, poco coordinados y, en muchos casos, insuficientemente evaluados. Por ello, reclama inversiones sostenidas que permitan elaborar capacidades nacionales de evaluación, auditoría y despliegue seguro, para que los beneficios de la IA puedan distribuirse de forma equitativa y sus riesgos puedan gestionarse.