¿Debemos temer? Los escenarios posibles a los que nos puede llevar la IA, según experto

Durante la Cumbre de Seguridad sobre Inteligencia Artificial (AISS) que tiene lugar en el Reino Unido, se presentó un informe elaborado por el Gobierno británico que analiza los potenciales escenarios futuros derivados de los avances en inteligencia artificial.

(Lea también: El uso de la IA en la computación cuántica: el nuevo reto para la ciberseguridad).

El análisis se basa en las predicciones de especialistas en la industria, académicos y expertos en inteligencia del Reino Unido.

Durante la década de 2020, la inteligencia artificial ha experimentado mejoras continuas, aunque todavía necesita de la supervisión humana. Sin embargo, hacia el 2030, la integración de múltiples modelos de IA de código abierto podría dar paso a sistemas autónomos de alta capacidad.

Estos sistemas tienen la habilidad de realizar tareas complicadas, interconectarse y adaptarse al establecer estrategias y aprender de forma independiente. No obstante, esta autosuficiencia podría llevar a efectos no anticipados al priorizar metas principales sobre potenciales daños secundarios.

(Siga leyendo: Intel lanza AI PC Acceleration, que llevará la inteligencia artificial a millones de PC).

Los sistemas de código abierto carecen de las medidas de seguridad que implementan las grandes empresas, haciéndolos difíciles de controlar. En consecuencia, podrían aumentar los ciberataques basados en IA, y grupos extremistas podrían intentar desarrollar armas biológicas usando estas herramientas.

Debido al alto coste de entrenar modelos de IA generalistas, las empresas se han centrado en resolver cuestiones específicas. Estos sistemas especializados, aunque limitados, han empezado a realizar tareas anteriormente ejecutadas por seres humanos. Se prevé que antes del 2030, los desarrollos en software y hardware permitirán a estas tecnologías interactuar con precisión en el mundo real a través de 'robots'.

A pesar de la confianza general en la IA, existe preocupación sobre las repercusiones sociales de estos avances. Si bien se generan empleos vinculados a la tecnología, hay una disminución neta en las oportunidades laborales. Además, surgen inquietudes sobre la falta de transparencia y posibles prejuicios en las decisiones tomadas por este sistema.

(De interés: Meta se centrará en el desarrollo de la IA para aumentar los s de Threads).

En esta década, los progresos en IA han sido significativos. Se anticipa que hacia el 2030, una entidad prominente podría anunciar la creación de una Inteligencia Artificial General (AGI), un sistema capaz de realizar cualquier tarea intelectual humana. Las evidencias sugieren que esta meta se ha alcanzado, presentando características como memoria a largo plazo, razonamiento y autonomía en la realización de tareas complejas.

Estos modelos avanzados podrían eludir los protocolos de seguridad establecidos, y los expertos podrían perder la capacidad de detectar si el sistema les está engañando. El despliegue desenfrenado de tales modelos podría derivar en una "superinteligencia", con habilidades en constante y rápido crecimiento, lo que podría desencadenar "consecuencias catastróficas", ya sea por acciones propias de la IA o por su uso indebido.

A lo largo de la década, los avances en IA se han estancado. Aunque se han logrado mejoras en tareas específicas, como generación de texto, los sistemas siguen presentando fallos y requieren supervisión constante. Las tareas más complejas, como la creación de vídeos de alta calidad, siguen siendo un desafío.

A pesar de los avances en seguridad, persisten casos de mal uso de la IA, afectando especialmente a los grupos más vulnerables. Las imprecisiones en los sistemas son fuente de problemas y se percibe que la influencia real de esta tecnología ha sido sobrevalorada, resultando en mínimos cambios en el día a día de las personas.

"Se sobrestimó la utilidad y el impacto de la IA, y gran parte de la población experimentó pocos cambios en su estilo de vida", describe el informe en este escenario.