La inteligencia artificial de todos tan temida

Ciudad de México.- En las últimas semanas en todo el mundo, las redes sociales se saturaron de producciones con inteligencia artificial (IA) que no solo ponen en entredicho la veracidad del contenido, sino la honorabilidad de importantes figuras y hasta de personas que nada tienen que ver con la cosa pública.

Entre todos los aspectos positivos de la IA, también empieza a preocupar a las autoridades de los gobiernos del mundo entero, el abuso de la tecnología para la suplantación y falsificación de identidades, que está amenazando, incluso, la seguridad de muchas naciones.

La IA ha revolucionado múltiples aspectos de la vida humana: desde la medicina y la educación, hasta la industria del entretenimiento y la seguridad digital. Sin embargo, este avance tecnológico conlleva también serios desafíos éticos y riesgos sociales.

El fenómeno de la falsificación está en rápido crecimiento y amenaza la confianza en la información, la privacidad personal y la seguridad global. Los sistemas de inteligencia artificial, especialmente aquellos basados en aprendizaje profundo (deep learning), han alcanzado un nivel de sofisticación que les permite imitar voces, rostros y estilos de escritura con una precisión asombrosa.

Esto ha dado lugar a herramientas como los deepfakes, que son videos, imágenes o audios generados por IA que simulan a personas reales de manera casi indistinguible de la realidad. Lo que antes parecía exclusivo de películas de ciencia ficción hoy es una amenaza tangible: una persona puede aparecer en un video diciendo o haciendo cosas que jamás ocurrieron.

La gran preocupación para los sabuesos cibernéticos de las policías internacionales, es que este tema está cruzando líneas delgadas como la pornografía infantil, los fraudes a gran escala y los robos de identidades de personas de gran peso en el mundo.

Uno de los principales problemas de estas tecnologías es que su acceso se ha vuelto cada vez más sencillo. Ya no se necesita ser un experto en programación para crear un contenido falso. Existen plataformas abiertas al público que permiten generar audios clonados, fotografías artificiales realistas, o incluso conversaciones completas mediante chatbots que imitan la forma de hablar de celebridades, figuras públicas o personas comunes.

Esta democratización del acceso a herramientas avanzadas de IA hace que la suplantación de identidad digital esté al alcance de casi cualquier usuario con una conexión a internet. Los riesgos de esta situación son múltiples. En el ámbito personal, muchas personas han sido víctimas de fraudes o extorsiones al ser suplantadas en redes sociales o servicios digitales.

Por ejemplo, alguien podría recibir un mensaje de voz aparentemente enviado por un familiar pidiendo ayuda urgente y dinero, cuando en realidad se trata de un audio generado por IA. Estos fraudes, que apelan a la emoción y la urgencia, se vuelven cada vez más creíbles gracias a la calidad de las imitaciones.

En el ámbito político y social, la falsificación de identidades mediante IA puede usarse como arma para desinformar, manipular elecciones o desacreditar a líderes. Videos falsos que muestran a políticos haciendo declaraciones polémicas o comprometiendo su imagen pueden difundirse masivamente antes de ser desmentidos, dejando ya un daño hecho en la percepción pública.

En un entorno saturado de información, el reto no es solo distinguir lo verdadero de lo falso; además, la falsificación de identidades también representa una amenaza para la ciberseguridad. Organizaciones criminales pueden utilizar IA para engañar sistemas de autenticación, burlar mecanismos de reconocimiento facial o incluso replicar firmas digitales. En entornos empresariales o gubernamentales, una suplantación bien ejecutada puede dar acceso a información confidencial, generar pérdidas millonarias o afectar infraestructuras críticas.

¿Cómo se puede regular una tecnología que avanza más rápido que las leyes? ¿Quién es responsable si una IA es usada para cometer un crimen? ¿Cómo protegemos el derecho a la identidad en un mundo donde la apariencia digital puede ser fabricada con facilidad?

Estas preguntas aún no tienen respuestas definitivas, pero han comenzado a movilizar esfuerzos por parte de gobiernos, empresas tecnológicas y organismos de derechos humanos. Diversos países ya trabajan en marcos regulatorios para limitar el uso malicioso de la IA. Algunas medidas incluyen la obligación de etiquetar los contenidos generados artificialmente, sanciones para quienes usen IA con fines fraudulentos y la inversión en tecnologías de detección de falsificaciones.

La inteligencia artificial no es en sí misma el problema, sino su uso irresponsable o malintencionado. Así como puede mejorar la vida humana, también puede ponerla en riesgo si no se implementa con ética y cuidado. Ojo, el tema no es menor y, en poco tiempo, estaremos entrando a la era automatizada del crimen organizado… sino es que ya. Al tiempo.

José Luis García / Analista