EE.UU., Europa y China firman declaración sobre potenciales consecuencias "catastróficas" de la IA

Los gobiernos mundiales reunidos desde este miércoles en una cumbre de seguridad sobre inteligencia artificial (IA) en el Reino Unido alertaron en una declaración conjunta sobre las potenciales consecuencias "catastróficas" de la nueva tecnología.

Estados Unidos, China, India y países de la Unión Europea como Francia, Alemania y España están entre los 29 firmantes de un texto que recalca que es "especialmente urgente" analizar los peligros que presenta la nueva tecnología y acordar medidas preventivas tempranas.

"Nos comprometemos a trabajar juntos de manera inclusiva para asegurar una inteligencia artificial centrada en el ser humano, confiable y responsable", señala la declaración, pactada antes de la cumbre y que subraya que el mejor modo de afrontar los riesgos es la "cooperación internacional"·.

Reunidos en Bletchley Park, el enclave inglés en el que se decodificaban los códigos nazis durante la Segunda Guerra mundial, representantes de las principales potencias globales en el sector tecnológico constaron el "potencial transformador" de la IA, que puede impulsar "el bienestar, la paz y la prosperidad".

Junto con esos posibles beneficios, sin embargo, van asociados "riesgos significativos" que obligan a velar por que el desarrollo de la tecnología se mantenga bajo "una supervisión humana adecuada".

Dado el rápido e incierto ritmo de los cambios en la IA, y en el contexto de una aceleración de las inversiones en tecnología, afirmamos que profundizar en nuestra comprensión de esos riesgos potenciales y las acciones para mitigarlos es especialmente urgente"

Preocupación por ciberseguridad y biotecnología

La declaración reconoce el peligro de que la IA genere "contenido manipulado" o "engañoso", y urge a tomar medidas en ese sentido, pero va más allá y alerta sobre futuras amenazas provenientes de sistemas "de frontera", que excederán las habilidades de los actuales modelos más avanzados.

Además de la desinformación, los gobiernos se declaran especialmente preocupados por las aplicaciones de la IA en terrenos como la ciberseguridad y la biotecnología.

"Existe el potencial de que se produzcan daños graves, incluso catastróficos, ya sea de manera deliberada o no intencional", subraya el comunicado conjunto.

"Dado el rápido e incierto ritmo de los cambios en la IA, y en el contexto de una aceleración de las inversiones en tecnología, afirmamos que profundizar en nuestra comprensión de esos riesgos potenciales y las acciones para mitigarlos es especialmente urgente", agrega la declaración.

El Reino Unido ha impulsado la primera cumbre de seguridad global sobre inteligencia artificial (AISS, en inglés), que volverá a convocarse dentro de seis meses en la República de Corea y dentro de un año en Francia.

A este primer encuentro, que durará hasta el jueves, asisten, además de gobiernos, representantes de las principales empresas tecnológicas globales, como OpenAI, Google DeepMind, Anthropic, Meta y Microsoft. 

Te recomendamos

Más Tecnología

Estados Unidos y todo el G7 establecen un marco para regular el desarrollo de la inteligencia artificial

Más Tecnología

Creador de ChatGPT asegura que la inteligencia artificial ya está aprendiendo a persuadir humanos

Cooperación internacional 

A falta de políticas comunes, el Reino Unido busca poner en marcha una cooperación internacional sobre la IA. También propone crear un grupo de analistas internacionales, inspirado en el modelo del panel de expertos de la ONU sobre el cambio climático (IPCC).

El principal desafío es conseguir definir salvaguardias sin poner trabas a la innovación en los laboratorios de IA y los gigantes tecnológicos.

A nivel de gobiernos, el presidente estadounidense, Joe Biden, anunció el último lunes un amplio conjunto de normas y principios para "marcar el camino" a nivel internacional.

Por su parte, varias empresas como OpenAI, Meta (Facebook) o DeepMind (Google) aceptaron la semana pasada hacer públicas algunas de sus reglas de seguridad sobre la IA, después de que lo solicitara el Reino Unido. (Con información de EFE y AFP)

Te recomendamos

Elecciones

Inteligencia Artificial, el próximo desafío: ¿cómo identificar imágenes o voces creadas con esta tecnología?

Estado

Inteligencia Artificial: ¿qué es la 'inmunidad social' y cómo puede ayudarnos a reconocer contenido falso?

Más Tecnología

OpenAI descarta crear "el iPhone de la inteligencia artificial"

Más Tecnología

¿ChatGPT? China responde con una IA que "no tiene nada que envidiar"