Google DeepMind crea instituto para estudiar el futuro de la AGI y sus posibles riesgos
Google DeepMind impulsa un nuevo instituto dedicado a estudiar cómo podría desarrollarse la Inteligencia Artificial General (AGI) y cuáles podrían ser sus efectos en la sociedad, desde el futuro del trabajo hasta los riesgos asociados con sistemas cada vez más autónomos.
La iniciativa busca reunir a investigadores de Google y DeepMind junto con especialistas de distintas disciplinas para analizar el desarrollo de estas tecnologías y sus posibles consecuencias.
Entre los temas que serán abordados se encuentran la seguridad de la inteligencia artificial, el futuro del trabajo, la creatividad, las instituciones y el impacto social de sistemas avanzados de IA.
El proyecto está encabezado por Shane Legg, cofundador y científico jefe de AGI de Google DeepMind; Demis Hassabis, cofundador y presidente de Google DeepMind y científico jefe de Alphabet; y James Manyika, presidente de Investigación, Laboratorios, Tecnología y Sociedad de Google.
Aunque el instituto está vinculado con Google, la compañía aclaró que los artículos que se publiquen representarán las opiniones de sus respectivos autores y no necesariamente la postura oficial de la empresa.
¿Qué es la AGI?
La Inteligencia Artificial General (AGI) es un concepto utilizado para describir sistemas de inteligencia artificial que podrían realizar una amplia variedad de tareas cognitivas con capacidades comparables, en determinados aspectos, a las humanas.
Sin embargo, no existe una definición universal de AGI. Para el Instituto de DeepMind, una definición especialmente ambiciosa sería la de un sistema capaz de alcanzar todas las capacidades cognitivas del cerebro humano.
Analizarán los riesgos de una IA más autónoma
Uno de los principales objetivos del instituto será estudiar los riesgos que podrían surgir a medida que los sistemas de inteligencia artificial sean más avanzados y capaces de operar con mayor autonomía.
Entre los escenarios que se analizarán se encuentran posibles problemas de ciberseguridad, riesgos biológicos y dificultades para supervisar sistemas capaces de aprender, tomar decisiones y realizar tareas durante periodos prolongados.
La supervisión humana será uno de los puntos centrales de la investigación. Los especialistas buscarán comprender qué mecanismos podrían utilizarse para mantener bajo control sistemas capaces de ejecutar acciones y utilizar herramientas por cuenta propia.
La discusión irá más allá de la tecnología
El proyecto también pretende incorporar perspectivas provenientes de las ciencias sociales, humanidades, artes y gobiernos, con el propósito de estudiar las consecuencias que una futura AGI podría tener fuera del ámbito tecnológico.
Entre las preguntas que buscarán abordar están cómo podrían transformarse los empleos, de qué manera cambiaría la creatividad y qué impacto tendrían estos sistemas sobre las instituciones.
El instituto también analizará qué reglas, mecanismos de supervisión y estructuras de gobernanza podrían ser necesarios ante el eventual desarrollo de sistemas de inteligencia artificial con capacidades cada vez más amplias.
