El consejero delegado de la tecnológica Anthropic, Dario Amodei, advirtió este miércoles ante el Consejo de Seguridad de la ONU de que los riesgos asociados a los modelos más avanzados de inteligencia artificial (IA) constituyen "el problema de seguridad global más importante al que se enfrenta el mundo hoy", y reclamó una respuesta internacional coordinada.
Durante una reunión de alto nivel sobre la IA y la seguridad internacional, Amodei, que se conectó por videoconferencia, apeló de forma directa a la colaboración entre Estados y el sector tecnológico.
"Ningún líder, ninguna empresa y ninguna nación puede gestionar esto en solitario. Nos comprometemos a trabajar con los Gobiernos en esta sala en este objetivo crucial", subrayó ante los delegados.
El máximo responsable de la compañía tecnológica instó a los líderes mundiales a centrarse con urgencia en los peligros para la estabilidad global y demandó al Consejo de Seguridad respaldar medidas concretas.
Entre ellas, destacó la prohibición expresa del uso de la IA para la proliferación o fabricación de armas biológicas, así como la implementación de sistemas de evaluación y verificación capaces de avanzar al mismo ritmo vertiginoso del desarrollo técnico.
Asimismo, Amodei solicitó la adopción de estándares globales que permitan evaluar los modelos frente a eventuales pérdidas de control o usos indebidos, junto a un protocolo de notificación obligatoria ante "incidentes significativos para la seguridad global".
Por último, el directivo reconoció que una mayor potencia computacional exigirá requisitos aún más estrictos y aseguró que la industria debe comprometerse con la prudencia.
"Iremos tan despacio como sea necesario para asegurarnos de que cada tecnología de IA sucesiva que lancemos sea de hecho segura", concluyó.
El tema de la seguridad en el desarrollo de la IA se ha situado en el centro del debate internacional ante la posibilidad de que los modelos más avanzados puedan escapar al control humano y llevar a cabo ciberataques, especialmente después de que varias pruebas realizadas con modelos de Anthropic, OpenAI -que también participó en esta sesión del Consejo de Seguridad- y Google mostraran que estos podían escapar de sus entornos de prueba.