GINEBRA – El Jefe de Derechos Humanos de las Naciones Unidas, Volker Türk, hizo un llamamiento el lunes a los Estados y a las empresas de inteligencia artificial ‘de frontera’ del mundo para que actúen con urgencia con el fin de asegurar que una gobernanza significativa de la IA siga el ritmo de su desarrollo acelerado y de los riesgos sin precedentes para los derechos humanos.

“Estamos al borde de un cambio irreversible, que afecta no solo a nosotros sino a generaciones futuras de la humanidad”, aseguró el Alto Comisionado en una carta dirigida a los Estados y desarrolladores de IA.

“La carrera actual hacia una IA con poderes cada vez mayores representa un cambio radical hacia riesgos existenciales considerables para todos los aspectos de nuestras vidas. Los fallos en los que están involucrados sistemas de IA agéntica, y no digamos algunos sistemas diseñados deliberadamente para ello, podrían paralizar los servicios esenciales, interrumpir las comunicaciones, desestabilizar infraestructura crítica y atacar el corazón mismo de las instituciones democráticas”, escribió.

“Poblaciones enteras podrían quedar sin acceso a agua limpia, calefacción y servicios financieros, y además la IA agéntica ya está acelerando el ritmo y el alcance de la guerra y erosionando las salvaguardas que nos protegen del lanzamiento de armas de destrucción masiva.”

El Alto Comisionado subrayó el escaso margen de oportunidad que existe para regular la IA y escribió cómo nuestro destino dependerá fundamentalmente de las decisiones deliberadas que se tomen hoy sobre cómo se diseña, implementa y gobierna la IA.

“Los daños provocados por la IA no son hipotéticos, ya están ocurriendo, y tienen una gran importancia,” añadió Türk. «Los servicios esenciales se están automatizando usando vías que dejan a las personas en los márgenes aún más rezagadas. El apetito por los datos y las nuevas herramientas potentes de vigilancia están erosionando la privacidad a gran escala, potencialmente de manera irreversible. Las campañas de desinformación impulsadas por IA ya están distorsionando el debate público, socavando la cohesión social y poniendo a prueba las instituciones democráticas de maneras insidiosas y nuevas.»

El Alto Comisionado explicó que las empresas que están a la vanguardia en el desarrollo de la IA de frontera tienen tanto la responsabilidad como la capacidad de actuar de inmediato para reducir los riesgos.

«Es necesario desarrollar, aplicar en todo el sector y mejorar continuamente una debida diligencia sólida en materia de derechos humanos que incorpore normas de seguridad acordadas entre todos. Además, la puesta en práctica de esas normas debe estar sujeta a una supervisión interna independiente con el fin de aumentar la transparencia y la rendición de cuentas”, escribió.

El Alto Comisionado también hizo hincapié en que los Estados que albergan a las principales empresas de inteligencia artificial de vanguardia tienen una obligación específica de exigir que esas empresas actúen de manera responsable y de rendir cuentas si no lo hacen. Él hizo un llamamiento a los Estados a garantizar una verificación independiente y técnicamente competente de las capacidades agénticas, con acceso a modelos, documentación y entornos de prueba, y para exigir una debida diligencia continua en materia de derechos humanos.

“Teniendo en cuenta lo que está en juego, y la situación actual, insto a los Estados y a las empresas para que se movilicen urgentemente a través de foros multilaterales con el objetivo de trazar una ruta a seguir que regule los modelos avanzados y de vanguardia de IA, con base en la normativa internacional de derechos humanos”, escribió.

«Ningún país puede gobernar esta tecnología por sí solo. Ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo. Ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de supuestos avances tecnológicos.»

«La generación que actualmente está entrando en la edad adulta heredará las consecuencias de las decisiones que se están tomando sobre este tema sin tener voz en ellas. Les debemos a esta generación el asegurarnos de que esas decisiones se tomen de manera pública, con sus derechos en mente y con la humildad que exige la magnitud de esta tarea.»

Con información de Naciones Unidas