“Nos estamos quedando sin tiempo”: dos expertos de Google DeepMind renuncian y alertan que la IA podría matarnos a todos

Dos investigadores vinculados a Google DeepMind dejaron la compañía y lanzaron fuertes advertencias sobre el futuro de la inteligencia artificial. Ambos consideran que el rápido avance hacia sistemas superinteligentes podría representar un riesgo grave para la humanidad.

Bilal Chughtai, exinvestigador de seguridad y alineación de Inteligencia Artificial General (AGI) de DeepMind, afirmó tras su renuncia que la IA podría llegar a “matarnos a todos” y sostuvo que la humanidad podría estar quedándose sin tiempo para evitar un escenario catastrófico.

En una publicación en X, Chughtai explicó que cuando comenzó a trabajar en el sector, a principios de 2022, los sistemas de IA todavía eran “graciosamente inútiles”. Sin embargo, destacó la velocidad del progreso registrada en apenas cuatro años.

El investigador señaló como principal problema la alineación de la IA, es decir, la dificultad de garantizar que sistemas cada vez más capaces actúen de acuerdo con los objetivos humanos. Según Chughtai, todavía no existe una solución confiable para este desafío.

También reclamó mayor transparencia y pidió frenar la competencia acelerada entre las grandes compañías tecnológicas que buscan desarrollar sistemas de inteligencia artificial cada vez más avanzados.

Más científicos alertan sobre la IA

La salida de Chughtai se suma a una creciente lista de investigadores que abandonaron laboratorios de primer nivel para trabajar específicamente en seguridad de IA.

Josh Engels, quien también dejó el equipo de AGI de Google DeepMind para incorporarse a la organización METR, advirtió que existe una posibilidad “aterradora” de que los sistemas de IA provoquen daños inmensos durante los próximos cinco años.

A ellos se suma Jacob Coxon, exinvestigador de Anthropic y OpenAI, quien cuestionó la carrera de las empresas por alcanzar la superinteligencia y sostuvo que algunos de sus propios investigadores temen que esta tecnología pueda tener consecuencias catastróficas.

Las advertencias también surgieron desde el interior de Anthropic. Evan Hubinger, científico de la compañía, estimó que existe más de un 10% de probabilidades de que la IA provoque la extinción humana durante la próxima década.

Mientras algunos referentes de la industria, como Sam Altman, Dario Amodei y Elon Musk, han reconocido la necesidad de abordar los riesgos de la IA, el debate sobre cuánto debe regularse y qué velocidad debería tener su desarrollo continúa abierto.

Tras su salida de DeepMind, Chughtai se incorporó a BlueDot Impact, mientras que Engels pasó a formar parte de METR, dos organizaciones enfocadas en estudiar y reducir los riesgos asociados con la inteligencia artificial avanzada.