'Riesgos catastróficos': en cumbre de seguridad de IA expertos lanzan esta advertencia

En Londres se inició la primera cumbre mundial sobre la seguridad de la Inteligencia Artificial.

En muchos negocios se utilizan los chatbots para facilitar procesos operativos. Foto: iStock

PERIODISTA01.11.2023 08:14 Actualizado: 02.11.2023 00:00

Comentar

Con una carta abierta sobre los "riesgos catastróficos" del desarrollo de la tecnología firmada por 250 expertos comenzó la primera cumbre mundial sobre la seguridad de la Inteligencia Artificial (IA), evento que se realiza en Bletchley Park, a 80 kilómetros de Londres (Inglaterra).

(Puede leer: El uso de la IA en la computación cuántica: el nuevo reto para la ciberseguridad)

La carta, según el diario El Mundo, es apadrinada por el científico canadiense Yoshua Bengio y el profesor Yui Zeng, máxima autoridad académica de China en la materia.

"Hacemos un llamamiento a los gobiernos del mundo a responder activamente ante los riesgos potencialmente catastróficos que los sistemas avanzados de IA pueden causar a la humanidad", se puede leer en la carta abierta.

En esa declaración también se puede leer: "Esta responsabilidad no recae solo sobre unos pocos hombros, sino sobre la fuerza de la comunidad global. Nuestro futuro está en juego. Debemos asegurarnos de que la IA se desarrolla de una manera segura, responsable y para la mejora de toda la humanidad".

Crearán un instituto de seguridad de IA en Londres

En esta cumbre se reúnen más de un centenar de expertos académicos, otros tantos representantes de empresas tecnológicas, 50 países y representantes de la sociedad civil y de organizaciones multilaterales.

(Le puede interesar: Aprueban en primer debate la creación de la agencia de Seguridad Nacional Digital)

El encuentro, que durará dos días, se realiza en un lugar icónico: la mansión en la campiña inglesa donde Alan Turing y su equipo descifraron el código de la máquina alemana Enigma durante la Segunda Guerra Mundial y sentaron de paso las bases para la ciencia de la computación.

Primer ministro británico, Rishi Sunak Foto:EFE / EPA / Neil Hall

El primer ministro del Reino Unido, Rishi Sunak, quien es el anfitrión del evento, afirmó que la cumbre pretende "lograr un acuerdo para crear un global sobre la seguridad de IA, comparable al IPCC sobre el cambio climático y con la capacidad para evaluar los avances y los riesgos año a tras año".

Sunak añadió que se busca crear el AI Security Institute en el Reino Unido, el cual aspira a ser esencial para el análisis de la inteligencia artificial en Europa.

Sin embargo, en Estados Unidos ya se están tomando decisiones importantes en cuanto a los riesgos de la IA. El presidente Joe Biden ordenó medidas como la obligación para las compañías de IA de compartir sus pruebas de seguridad con el Gobierno y garantizar que no ponen en peligro la seguridad nacional, la economía o la salud pública.

(Le puede interesar: Ciberataques: el campo de batalla digital en el conflicto Israel-Hamás)

"Tenemos el deber moral, ético y social de asegurarnos que la IA avanza de una manera que protege al público da los daños potenciales y asegura que todo el mundo se beneficie", declaró la vicepresidente de EE.UU., Kamala Harris, quien asistirá a la cumbre.

REDACCIÓN ÚLTIMAS NOTICIAS