António Guterres, Secretario General de la ONU, advirtió en el Consejo de Seguridad sobre los peligros de una inteligencia artificial (IA) sin regulación, enfatizando la necesidad de control humano en su uso, especialmente en armas y decisiones críticas. Guterres destacó que la IA puede ser beneficiosa si se utiliza responsablemente, pero también puede ser militarizada y amenazar la integridad de la información. Propuso cuatro prioridades para los gobiernos: mantener el control humano sobre el uso de la fuerza, establecer marcos normativos globales, proteger la información y cerrar la brecha tecnológica entre países. Además, instó a actuar rápidamente para regular esta tecnología antes de que sea demasiado tarde.
La inteligencia artificial (IA) se presenta como una herramienta de inmenso potencial, pero también conlleva riesgos significativos si no se regula adecuadamente. Así lo expresó el Secretario General de la ONU, António Guterres, durante su intervención ante el Consejo de Seguridad este miércoles. Guterres subrayó que la IA ha dejado de ser un concepto futurista para convertirse en una realidad que transforma la vida cotidiana, el panorama informativo y la economía global a un ritmo acelerado.
“La cuestión no es si la IA afectará la paz y la seguridad internacionales, sino cómo moldearemos esa influencia”, afirmó Guterres en el debate sobre las implicaciones de seguridad que esta tecnología tiene en la guerra moderna.
El Secretario General destacó que, si se utiliza de manera responsable, la IA puede servir para prevenir la inseguridad alimentaria, apoyar operaciones de desminado y detectar brotes de violencia antes de que escalen. Sin embargo, advirtió que sin las debidas salvaguardias, existe el riesgo de militarización. Mencionó ejemplos recientes donde la IA ha sido utilizada para dirigir ataques en conflictos armados, llevar a cabo ciberataques contra infraestructuras críticas y crear deepfakes, los cuales pueden incrementar la polarización o socavar procesos diplomáticos.
“La capacidad de manipular audio y video pone en peligro la integridad informativa, alimenta divisiones y puede provocar crisis diplomáticas... El futuro de la humanidad no puede depender de un algoritmo”, enfatizó Guterres.
Guterres delineó cuatro prioridades esenciales para los gobiernos: asegurar el control humano sobre el uso de la fuerza, establecer marcos normativos globales coherentes, proteger la integridad informativa y abordar lo que denominó como “la brecha de capacidad en materia de IA” entre naciones ricas y pobres.
“Reitero mi llamado a prohibir los sistemas de armas autónomas letales que operan sin supervisión humana, con el objetivo de concluir un acuerdo jurídicamente vinculante para el próximo año”, declaró. Además, insistió en que las decisiones relacionadas con armas nucleares deben ser tomadas por seres humanos y no por máquinas.
El Secretario General mencionó iniciativas ya en marcha, como un panel científico independiente sobre IA y un nuevo diálogo global sobre su gobernanza programado para llevarse a cabo en Nueva York. “Estas iniciativas buscan conectar ciencia, políticas y prácticas; ofrecer representación a cada país; y reducir fragmentaciones”, explicó.
Yejin Choi, investigadora senior del Instituto de Inteligencia Artificial Centrada en el Ser Humano en Stanford, también dirigió su mensaje al Consejo de Seguridad. Afirmó que el progreso actual en IA está excesivamente concentrado en unas pocas empresas y países. “Cuando solo unos pocos tienen los recursos necesarios para desarrollar y beneficiarse de la IA, dejamos al resto del mundo esperando afuera”, advirtió.
Choi instó a gobiernos e instituciones internacionales a invertir en enfoques alternativos más allá del simple escalado de modelos grandes. Argumentó que sistemas más pequeños y adaptativos podrían facilitar el acceso. También abogó por una mayor representación lingüística y cultural dentro del desarrollo tecnológico, señalando que muchos modelos avanzados actuales "tienen un bajo rendimiento en idiomas distintos al inglés y reflejan suposiciones culturales limitadas".
Al finalizar su intervención, Guterres advirtió que el tiempo para implementar regulaciones efectivas está disminuyendo rápidamente. “Desde controlar armas nucleares hasta garantizar seguridad aérea, hemos visto cómo la comunidad internacional responde ante tecnologías capaces de desestabilizar sociedades mediante reglas claras e instituciones sólidas”, comentó.
“La oportunidad para dar forma a la IA —en favor de la paz, justicia y humanidad— se está cerrando. Es imperativo actuar sin demora”, concluyó Guterres.
Esta sesión del Consejo fue parte de las actividades paralelas a la semana de alto nivel correspondiente a la 80ª sesión de la Asamblea General, actualmente en curso.
La reunión fue convocada por Corea del Sur (presidida por este país durante septiembre) e incluyó a jefes de Estado como Lee Jae Myung, Presidente surcoreano quien lideró dicha sesión.
António Guterres advierte que la inteligencia artificial (IA) presenta graves riesgos si no se regula adecuadamente y enfatiza que el destino de la humanidad no debe quedar en manos de algoritmos.
Guterres señala que, utilizada de manera responsable, la IA puede ayudar a anticipar inseguridades alimentarias, apoyar operaciones de desminado y detectar brotes de violencia antes de que se salgan de control.
Las prioridades incluyen mantener el control humano sobre el uso de la fuerza, crear marcos normativos globales coherentes, proteger la integridad de la información y cerrar la brecha de capacidad en materia de IA entre países ricos y pobres.
Se ha creado un panel científico independiente sobre IA y se llevará a cabo un nuevo diálogo global sobre gobernanza de la IA en Nueva York.
Yejin Choi destacó que el avance actual en IA está demasiado concentrado en pocas empresas y países, lo que deja al resto del mundo esperando. Propone ampliar el acceso y permitir que todos participen en su desarrollo.
Guterres concluyó advirtiendo que la ventana para una regulación efectiva se está cerrando rápidamente y enfatizó la necesidad de actuar sin demora para moldear la IA hacia fines pacíficos y justos.