IA y riesgos existenciales: ¿qué tan cerca está la humanidad de una amenaza catastrófica?
La inteligencia artificial ha impulsado avances tecnológicos sin precedentes, pero también ha generado una pregunta cada vez más presente entre científicos, investigadores y responsables de políticas públicas: ¿podría esta tecnología representar algún día una amenaza para la supervivencia de la humanidad?
Entre los escenarios que se plantean están desde el uso de sistemas de IA para facilitar la creación de armas biológicas hasta la posibilidad, todavía hipotética, de que máquinas altamente autónomas lleguen a interactuar con infraestructuras críticas como redes eléctricas, mercados financieros o sistemas militares.
Las preocupaciones volvieron a ocupar los titulares recientemente luego de que un investigador de Anthropic dejara la industria al expresar sus temores sobre el desarrollo de sistemas superinteligentes que, según su postura, podrían resultar difíciles de controlar.
Sin embargo, especialistas en evaluación de riesgos advierten que estas posibilidades deben analizarse dentro de un panorama mucho más amplio. La humanidad también enfrenta amenazas como pandemias, una guerra nuclear, el cambio climático, impactos de asteroides, alteraciones ecológicas y fenómenos naturales extremos.
James Hammitt, director del Centro de Análisis de Riesgos de Harvard, señala que las personas tienden a percibir de manera diferente los riesgos conocidos y aquellos que son nuevos o difíciles de comprender. En el caso de la IA, su rápido desarrollo y la incertidumbre sobre sus capacidades futuras pueden incrementar la preocupación social.
¿Qué riesgos de la IA son reales y cuáles siguen siendo hipotéticos?
En el corto plazo, una de las preocupaciones consiste en que herramientas de inteligencia artificial puedan facilitar que personas con conocimientos limitados desarrollen sustancias tóxicas o agentes biológicos peligrosos.
Anthropic informó recientemente que había detectado y bloqueado intentos de utilizar sus sistemas en investigaciones que podrían haber contribuido al desarrollo de armas biológicas.
A más largo plazo, algunos investigadores advierten sobre los riesgos de otorgar a los sistemas de IA mayor autonomía y acceso a internet o a infraestructura crítica. La preocupación central es que sistemas cada vez más capaces puedan tomar acciones no previstas por sus desarrolladores.
No obstante, expertos como Oren Etzioni, profesor de la Universidad de Washington y fundador del Instituto Allen de Inteligencia Artificial, consideran que algunos de estos escenarios todavía están muy alejados de las capacidades actuales.
Por ahora, cuando un sistema de IA presenta un comportamiento inesperado, sus desarrolladores conservan mecanismos para limitarlo o apagarlo. La posibilidad de que futuras tecnologías puedan resistirse a esas medidas pertenece, hasta el momento, al terreno de las hipótesis.
La dificultad de poner los riesgos en perspectiva
Los especialistas en análisis de riesgos también señalan que no todas las amenazas tienen la misma probabilidad ni las mismas consecuencias.
La NASA, por ejemplo, mantiene programas específicos para identificar y evaluar asteroides potencialmente peligrosos. Sus estimaciones indican que el riesgo de un impacto durante este siglo capaz de poner en peligro la existencia humana es extremadamente bajo.
En materia de pandemias, el investigador de la Universidad de Oxford Toby Ord estimó en su libro The Precipice que el riesgo de una catástrofe existencial provocada por una pandemia durante los próximos 100 años sería de aproximadamente 3 por ciento. Se trata de una estimación discutida dentro del campo de los riesgos existenciales y no de una predicción de que necesariamente ocurrirá una pandemia de esas dimensiones.
El debate también divide a los propios investigadores de inteligencia artificial. Mientras algunos consideran que los riesgos futuros justifican medidas preventivas desde ahora, otros sostienen que las preocupaciones sobre una IA capaz de provocar la extinción humana están sobredimensionadas frente a amenazas más inmediatas.
La prevención como herramienta
Más allá de las diferencias entre expertos, existe un punto de coincidencia: muchos riesgos catastróficos pueden reducirse mediante sistemas de vigilancia, protocolos de seguridad, investigación científica y mecanismos de respuesta temprana.
La discusión sobre la inteligencia artificial, por tanto, no se limita a imaginar escenarios extremos. También plantea cómo desarrollar esta tecnología mientras se establecen medidas capaces de reducir daños potenciales y mantener bajo control los riesgos asociados con sistemas cada vez más avanzados.
Para investigadores como Toby Ord, el objetivo a largo plazo sería alcanzar una situación de “seguridad existencial”: un escenario en el que los grandes riesgos para la supervivencia humana sean reducidos y existan mecanismos permanentes para evitar que vuelvan a convertirse en amenazas sustanciales.
