Habrá desarrollo responsable de la IA
Un histórico acuerdo es el inicio de regular la inteligencia artificial para mitigar riesgos a futuro
Histórico. Así fue calificado por el gobierno de Reino Unido la decisión de firmar por parte de 28 países la Declaración de Bletchley, que regulará en el corto plazo el desarrollo y uso responsable de la inteligencia artificial en el mundo.
Este acuerdo internacional enumera oportunidades, riesgos y necesidades para una acción global sobre la “IA fronteriza”, sistemas que plantean los peligros más urgentes. Los firmantes incluyen a EU, Reino Unido, China, seis países de la Unión Europea y a algunos Estados miembros como son Brasil, Nigeria, Israel y Arabia Saudita.
Durante la Cumbre de Seguridad de la IA de Reino Unido, que tiene lugar en Bletchley Park, Inglaterra, ayer 1 y hoy 2 de noviembre, se señaló que la declaración cumple con los objetivos clave de establecer un acuerdo y una responsabilidad compartidos sobre los riesgos, las oportunidades y un proceso de avance para la colaboración internacional en la investigación y la seguridad de la IA de frontera, particularmente a través de una mayor colaboración científica.
Muchos de los riesgos que surgen de la inteligencia artificial (IA) son inherentemente de naturaleza internacional y, por tanto, es mejor abordarlos mediante la cooperación de todos los países involucrados”, se lee en una declaración pública publicada ayer, 1 de noviembre, por el Departamento de Ciencia, Innovación y Tecnología del Reino Unido (DSIT).
El primer ministro de Reino Unido, Rishi Sunak, comentó que este es un logro histórico que permite a las mayores potencias de IA del mundo ponerse de acuerdo sobre la urgencia de comprender sus riesgos, “ayudando a garantizar el futuro a largo plazo de nuestros hijos y nietos”.
Michelle Donelan, secretaria de Tecnología del Reino Unido, insistió en su participación en la cumbre en que la necesidad de colaboración internacional para hacer que la IA sea más segura siempre ha sido la posición de su país. “Bletchley Park marca el comienzo de un largo camino por recorrer, y la Cumbre impulsará un proceso duradero para garantizar que cada nación y cada ciudadano pueda aprovechar los beneficios ilimitados de la IA”.
Los 28 países también apoyarán una red internacionalmente inclusiva de investigación científica sobre la seguridad de la “IA de frontera” que abarque y complemente la colaboración multilateral, plurilateral y bilateral existente y nueva, incluso a través de foros internacionales existentes y otras iniciativas relevantes.
Se llevarán a cabo dos futuros eventos internacionales sobre la seguridad de la IA. Corea del Sur será anfitrión de una minicumbre virtual sobre IA en los próximos seis meses y Francia será la anfitriona de la próxima cumbre presencial en 2024.
¡ATENTOS!
Los países en la Cumbre coincidieron en que pueden surgir riesgos sustanciales a partir de un posible uso indebido intencional o problemas no intencionados de control de la IA fronteriza, con especial preocupación causada por los riesgos de ciberseguridad, biotecnología y desinformación.
La Declaración establece un acuerdo en que existe “potencial de daño grave, incluso catastrófico, ya sea deliberado o no, derivado de las capacidades más significativas de los modelos de IA”. Los países también notaron los riesgos más allá de la IA fronteriza , incluidos el sesgo y la privacidad.
Carlos III, rey de Reino Unido, dijo en un discurso virtual que la IA es uno de los mayores avances tecnológicos en la historia del esfuerzo humano, y elogió el enorme potencial de la tecnología para transformar las vidas de los ciudadanos de todo el mundo a través de mejores tratamientos para enfermedades como el cáncer y las enfermedades cardíacas.
Es imperativo garantizar que esta tecnología en rápida evolución siga siendo segura y existe la necesidad de coordinación y colaboración internacionales”.
El primer ministro del Reino Unido dio a conocer la semana pasada de que su nación establecerá el primer Instituto de Seguridad de IA del mundo y complementará los esfuerzos internacionales existentes, incluidos los del G7, la OCDE, el Consejo de Europa, las Naciones Unidas y la Asociación Global sobre IA . Esto garantizará que se pueda utilizar la mejor investigación científica disponible para crear una base de evidencia para gestionar los riesgos y al mismo tiempo desbloquear los beneficios de la tecnología, incluso a través del Instituto de Seguridad de IA del Reino Unido, que analizará la gama de riesgos que plantea esta tecnología.
El acuerdo firmado por los asistentes de todo el mundo ofrece un primer paso importante al comenzar dos días de debates de vital importancia aquí en Bletchley Park. “Siempre hemos dicho que ningún país puede enfrentar por sí solo los desafíos y riesgos que plantea la IA, y la histórica Declaración de hoy marca el comienzo de un nuevo esfuerzo global para generar confianza pública garantizando el desarrollo seguro de la tecnología”, señaló Sunak.
La IA no conoce fronteras y su impacto en el mundo no hará más que profundizarse. El Reino Unido se enorgullece de haber iniciado el debate global en Bletchley Park sobre cómo garantizar que el poder transformador de la IA se utilice como una fuerza para el bien por todos nosotros”, dijo el secretario de Asuntos Exteriores de Reino Unido, James Cleverly.
¿Cuáles son los primeros pasos en la agenda de la Declaración de Bletchley?
Identificar los riesgos de seguridad de la IA de interés compartido mediante la construcción de una comprensión científica conjunta y basada en evidencia de estos riesgos y el mantenimiento de esa comprensión a medida que las capacidades continúan aumentando.
Construir políticas respectivas basadas en riesgos en todos nuestros países para garantizar la seguridad a la luz de dichos riesgos. Esto incluye impulsar una mayor transparencia por parte de los actores privados que desarrollan capacidades de IA de vanguardia, desarrollando métricas de evaluación apropiadas, herramientas para pruebas de seguridad y capacidades relevantes del sector público e investigación científica.
