Bill Gates advierte que la IA podría provocar una catástrofe de escala global y pide mayor regulación
El cofundador de Microsoft, Bill Gates, lanzó una nueva advertencia sobre los riesgos asociados con el desarrollo de inteligencia artificial y afirmó que esta tecnología tiene el potencial de provocar acontecimientos con consecuencias humanas de una escala sin precedentes.
En un adelanto de una entrevista con NBC News, Gates sostuvo que la IA es lo suficientemente poderosa como para desencadenar eventos que podrían causar hasta mil millones de muertes. La entrevista completa está prevista para transmitirse en el programa Meet the Press.
Gates también señaló que la combinación de sistemas avanzados de inteligencia artificial con personas que tengan malas intenciones podría representar un riesgo especialmente grave, al considerar que nunca había existido una herramienta con capacidades comparables.
Aumentan las advertencias dentro de la industria
Las declaraciones de Gates se producen en medio de un debate cada vez más intenso dentro de Silicon Valley sobre los riesgos que podrían acompañar el desarrollo de sistemas de IA cada vez más capaces.
En septiembre, Jacob Coxon, quien trabajaba en Anthropic, anunció su salida de la empresa y expresó preocupación por la velocidad con la que los principales laboratorios compiten por desarrollar sistemas de inteligencia artificial cada vez más avanzados. Otro investigador de la compañía, Evan Hubinger, afirmó que considera superior al 10% la posibilidad de que la IA provoque la extinción humana durante la próxima década. Se trata de estimaciones y opiniones personales de investigadores, no de una predicción científica consensuada.
Estas declaraciones han incrementado la atención sobre una discusión que desde hace años divide a investigadores, empresas y autoridades: cómo desarrollar sistemas de IA capaces de ofrecer beneficios económicos y sociales sin perder de vista los riesgos derivados de su uso indebido o de sistemas que superen las capacidades de supervisión humana.
Gates pide que las autoridades intervengan
Durante la entrevista, Gates también cuestionó que la industria dependa exclusivamente de la autorregulación y consideró necesaria la participación de los gobiernos para establecer salvaguardas y mecanismos de supervisión obligatorios.
La discusión sobre una mayor regulación ya llegó al Congreso estadounidense. Legisladores de ambos partidos han analizado propuestas que contemplan auditorías independientes y mecanismos para comprobar que los desarrolladores de los modelos más avanzados implementen medidas para reducir riesgos potencialmente catastróficos.
La preocupación no se limita a los escenarios de extinción. Gates ha advertido previamente sobre posibles usos maliciosos de sistemas avanzados de IA en ciberataques, fraude y campañas de desinformación, además de riesgos para sectores considerados críticos.
Al mismo tiempo, Gates ha señalado que la inteligencia artificial también podría generar importantes beneficios, particularmente en áreas como salud, educación y agricultura, siempre que su desarrollo y acceso se gestionen de manera adecuada.
El debate continúa mientras gobiernos y empresas tecnológicas analizan qué mecanismos de seguridad y supervisión deberían acompañar el desarrollo de sistemas de inteligencia artificial cada vez más sofisticados.
