El Consejo de Seguridad de Naciones Unidas (ONU) se reunió este martes por primera vez para tratar el riesgo que podría generar el mal uso de la Inteligencia Artificial. China pidió que no se convierta en un "caballo desbocado" y EEUU advirtió contra su uso para censurar o reprimir.
El Consejo, compuesto por 15 miembros, fue informado por el secretario general de la ONU, António Guterres, Jack Clark, cofundador de Anthropic, una de las principales empresas de inteligencia artificial, y el profesor Zeng Yi, codirector del Centro Chino-Reino Unido de investigación sobre Ética y Gobernanza de la Inteligencia Artificial.
James Cleverly, ministro de Asuntos Exteriores de Gran Bretaña - país que preside el organismo durante julio - afirmó que la IA "alterará fundamentalmente todos los aspectos de la vida humana".
"Necesitamos urgentemente dar forma a la gobernanza mundial de las tecnologías transformadoras porque la IA no conoce fronteras", añadió tras afirmar que la IA podría ayudar a hacer frente al cambio climático e impulsar las economías.
El embajador de China ante la ONU, Zhang Jun, describió la IA como un "arma de doble filo" y afirmó que Pekín apoya un papel central de coordinación de la ONU en el establecimiento de principios rectores para la IA.
"Si es buena o mala, buena o mala, depende de cómo la humanidad la utilice, la regule y cómo equilibremos el desarrollo científico con la seguridad", dijo Zhang, que añadió que debería haber un enfoque en las personas y la IA para regular el desarrollo y para "evitar que esta tecnología se convierta en un caballo desbocado".
El embajador adjunto de Estados Unidos ante la ONU, Jeffrey DeLaurentis, también dijo que era necesario que los países también trabajaran juntos en la IA y otras tecnologías emergentes para hacer frente a los riesgos para los derechos humanos que amenazan con socavar la paz y la seguridad. "Ningún Estado miembro debe utilizar la IA para censurar, coartar, reprimir o privar de poder a las personas", declaró ante el Consejo.
Rusia puso en duda que el Consejo, encargado de mantener la paz y la seguridad internacionales, deba debatir sobre la IA. "Lo que se necesita es un debate profesional, científico y basado en la experiencia que puede llevar varios años, y este debate ya está en marcha en plataformas especializadas", dijo el embajador adjunto de Rusia ante la ONU, Dmitri Polyanskiy.
Por su parte, el secretario general de la ONU advirtió de los riesgos que genera la inteligencia artificial para la paz y la seguridad en el mundo e instó a tomar medidas urgentemente contra una tecnología "sin precedentes".
"Esta claro que la IA va a tener un impacto en todos los aspectos de nuestra vida", en particular la inteligencia artificial generativa, la creadora de imágenes y textos, declaró Antonio Guterres en la primera reunión que el Consejo de Seguridad consagra a este asunto. "La IA generativa tiene un enorme potencial para el bien y para el mal a gran escala", advirtió.
Al mismo tiempo, consideró que estas tecnologías pueden "erradicar la pobreza, luchar contra el hambre, curar el cáncer y potenciar la acción climática" pero "las aplicaciones militares y no militares pueden tener consecuencias graves para la paz y la seguridad mundial".
Guterres pidió que para fines de 2026 se establezca un instrumento vinculante para prohibir los "sistemas de armas letales autónomos" que funcionan sin supervisión humana y que "nunca se retire" a las personas del control de las armas nucleares.
Cada vez se utiliza más la inteligencia artificial en materia de seguridad, incluso por la ONU, para "identificar esquemas de violencia, vigilancia de los altos el fuego" o "reforzar el mantenimiento de la paz, la mediación y los esfuerzos humanitarios", recordó, pero pueden ser tecnologías de doble filo, porque "pueden ser utilizadas también por personas malintencionadas".
"El uso malintencionado de sistemas de inteligencia artificial con fines terroristas, delictivos o estatales podría causar niveles terribles de muerte y destrucción, traumas generalizados y profundos daños psicológicos a una escala inimaginable", agregó.
En este contexto, "se necesitan urgentemente mecanismos para la gobernanza de la inteligencia artificial", dijo el jefe de la ONU, que va a pedir a un grupo de expertos que proponga "opciones" en este campo para fin de año.
Mientras tanto, reiteró su apoyo a la creación de una "entidad de Naciones Unidas" para ayudar a optimizar los beneficios de la inteligencia artificial y reducir los riesgos, como ya hacen el Organismo Internacional de Energía Atómica (OIEA) o el grupo de expertos de la ONU sobre el clima (GIEC).
