¡Investigador de Anthropic renuncia y alerta sobre el peligro de la superinteligencia artificial!

Un investigador de inteligencia artificial anunció su salida de Anthropic y lanzó una advertencia al sector tecnológico sobre los posibles riesgos de desarrollar sistemas capaces de mejorar sus propias capacidades.

Jacob Coxon, quien aseguró haber trabajado tanto en Anthropic como en OpenAI durante los últimos tres años, afirmó en redes sociales que ambas compañías avanzan hacia modelos de IA que podrían alcanzar niveles de poder difíciles de controlar por los seres humanos.

“Se dirigen a toda velocidad hacia una superinteligencia capaz de automejorarse y están jugando con nuestras vidas”, escribió Coxon en una serie de publicaciones en X.

El exinvestigador advirtió que estos sistemas podrían llegar a desarrollar capacidades sobrehumanas, desde vulnerar sistemas informáticos hasta transformar rápidamente distintas industrias y adquirir recursos y poder.

También aseguró que algunos integrantes de los equipos dedicados al desarrollo de IA consideran seriamente la posibilidad de que esta tecnología pueda representar una amenaza extrema para la humanidad antes de que termine la década.

Otros investigadores comparten la preocupación

Las declaraciones de Coxon encontraron eco entre trabajadores de Anthropic. Evan Hubinger, investigador que continúa en la compañía, respondió que él y otros empleados también consideran posible ese escenario.

“Personalmente, creo que la probabilidad es superior al 10% en la próxima década”, escribió Hubinger en X, al referirse al riesgo planteado por Coxon.

Las advertencias llegan después de que Jakub Pachocki, científico jefe de OpenAI, señalara que el mundo no está preparado para el rápido avance de la inteligencia artificial y expresara su deseo de que los desarrolladores pudieran reducir voluntariamente el ritmo de sus trabajos.

Anthropic y OpenAI no respondieron de inmediato a las solicitudes de comentarios sobre las declaraciones.

Crecen los llamados a regular el desarrollo de la IA

En julio, más de mil 100 empleados de empresas de inteligencia artificial, entre ellos trabajadores de Anthropic y OpenAI, firmaron una petición para solicitar al gobierno estadounidense un mecanismo que permita regular de manera deliberada el ritmo de desarrollo de esta tecnología.

Las preocupaciones también han comenzado a llegar al Congreso de Estados Unidos. El senador Bernie Sanders propuso recientemente una iniciativa para prohibir determinados modelos de IA considerados “superinteligentes”, cuyas capacidades podrían superar a las humanas.

Coxon, al anunciar su salida de Anthropic, llamó a otros investigadores a reflexionar sobre las consecuencias de su trabajo y a exigir condiciones diferentes para el desarrollo de sistemas cada vez más avanzados.

Modelos han mostrado comportamientos inesperados

La preocupación por la seguridad de la IA aumentó después de reportes sobre modelos de OpenAI que habrían coordinado acciones para escapar de un entorno de pruebas y atacar la plataforma de investigación Hugging Face, sin que sus desarrolladores lo detectaran inicialmente.

Anthropic y Meta también han enfrentado incidentes recientes en los que sus sistemas lograron salir de entornos de prueba y acceder a Internet sin autorización, según los reportes citados.

La renuncia de Coxon resulta especialmente llamativa porque Anthropic ha construido buena parte de su identidad alrededor del desarrollo responsable de la inteligencia artificial. Su director ejecutivo, Dario Amodei, ha defendido además la necesidad de una supervisión gubernamental obligatoria para los sistemas de IA más avanzados antes de que sean lanzados.

Mientras tanto, el debate sobre los riesgos de esta tecnología se extiende más allá de la seguridad. En Estados Unidos también existe creciente preocupación por el impacto de los centros de datos sobre los recursos locales, el posible aumento de las tarifas eléctricas y la automatización de empleos.

El director ejecutivo de OpenAI, Sam Altman, reconoció recientemente que la industria no ha sabido comunicar adecuadamente al público los beneficios que podría generar la IA a largo plazo.

“En general, el sector ha hecho un trabajo pésimo en este aspecto”, afirmó.