Oficiales del gobierno y ejecutivos de la industria de la inteligencia artificial acordaron el martes aplicar medidas de seguridad elementales en este campo en constante movimiento y establecer una red internacional de investigación de seguridad.
Casi seis meses después de la cumbre mundial inaugural sobre seguridad en inteligencia artificial en Bletchley Park, Inglaterra, Gran Bretaña y Corea del Sur están organizando esta semana la cumbre de seguridad en inteligencia artificial en Seúl. El encuentro destaca los nuevos desafíos y oportunidades que enfrenta el mundo con la llegada de la tecnología de inteligencia artificial.
El gobierno británico anunció el martes un nuevo acuerdo entre 10 países y la Unión Europea para establecer una red internacional similar al Instituto de Seguridad en Inteligencia Artificial del Reino Unido, que es la primera organización respaldada públicamente en el mundo para acelerar el avance de la ciencia de seguridad en inteligencia artificial. La red promoverá un entendimiento común de la seguridad en inteligencia artificial y alineará su trabajo con la investigación, estándares y pruebas. Australia, Canadá, la Unión Europea, Francia, Alemania, Italia, Japón, Singapur, Corea del Sur, el Reino Unido y Estados Unidos han firmado el acuerdo.
En el primer día de la Cumbre de Inteligencia Artificial en Seúl, líderes globales y compañías líderes en inteligencia artificial se reunieron para una reunión virtual presidida por el primer ministro inglés, Rishi Sunak, y el presidente surcoreano, Yoon Suk Yeol, para discutir la seguridad, innovación e inclusión en inteligencia artificial. Durante las discusiones, los líderes acordaron la amplia Declaración de Seúl, enfatizando una mayor colaboración internacional en la construcción de inteligencia artificial para abordar importantes problemas globales, defender los derechos humanos y cerrar las brechas digitales en todo el mundo, todo mientras se prioriza ser «centrado en el ser humano, confiable y responsable».
«La inteligencia artificial es una tecnología sumamente emocionante y el Reino Unido ha liderado los esfuerzos globales para lidiar con su potencial, albergando la primera Cumbre de Seguridad en Inteligencia Artificial del mundo el año pasado», dijo Sunak en un comunicado del gobierno británico. «Pero para obtener beneficios, debemos asegurarnos de que sea segura. Es por eso que estoy encantado de que hoy hayamos llegado a un acuerdo para una red de Institutos de Seguridad en Inteligencia Artificial».
Justo el mes pasado, el Reino Unido y Estados Unidos sellaron un memorando de entendimiento para colaborar en investigación, evaluación de seguridad y orientación sobre seguridad en inteligencia artificial.
El acuerdo anunciado hoy sigue los primeros Compromisos de Seguridad en Inteligencia Artificial del mundo de 16 empresas involucradas en inteligencia artificial, incluidas Amazon, Google, IBM, Meta, Microsoft, Samsung Electronics y otras. Las empresas de inteligencia artificial, incluidas las de Estados Unidos, China y los Emiratos Árabes Unidos, han acordado los compromisos de seguridad para «no desarrollar ni implementar un modelo o sistema en absoluto si las mitigaciones no pueden mantener los riesgos por debajo de los umbrales», según el comunicado del gobierno británico.
«Es un hito mundial tener tantas empresas líderes en inteligencia artificial de tantas partes diferentes del mundo acordando los mismos compromisos sobre seguridad en inteligencia artificial», dijo Sunak. «Estos compromisos aseguran que las principales empresas de inteligencia artificial del mundo proporcionarán transparencia y responsabilidad en sus planes para desarrollar inteligencia artificial segura».
