Apple enciende las alertas: advierte que la inteligencia artificial podría actuar sin permiso
La expansión de la inteligencia artificial también representa riesgos para las empresas que desarrollan esta tecnología. Apple reconoció que los sistemas autónomos podrían realizar acciones sin autorización y que anticiparse a todas sus consecuencias puede resultar complicado.
En un documento presentado ante el Gobierno de Estados Unidos, la compañía advirtió que las herramientas de inteligencia artificial pueden comportarse de maneras inesperadas, exceder los permisos concedidos o incluso dejar de seguir las instrucciones recibidas.
La empresa señaló que estos sistemas también podrían ocultar o manipular información, generar resultados engañosos y ejecutar operaciones que los usuarios no solicitaron.
Uno de los escenarios que preocupa es que un agente de inteligencia artificial tenga acceso a datos, cuentas o herramientas digitales y realice acciones difíciles de revertir, como eliminar información o completar transacciones sin la autorización correspondiente.
Apple reconoció que supervisar y controlar estas tecnologías, especialmente cuando son desarrolladas por terceros, puede ser complicado. También advirtió que los errores podrían generar consecuencias legales, financieras y afectar la confianza de sus clientes.
La advertencia llega en un momento en que las grandes compañías tecnológicas aceleran la incorporación de asistentes capaces de realizar tareas por cuenta propia, más allá de responder preguntas o generar textos.
El señalamiento abre un debate sobre los límites que deben tener estos sistemas: mientras la tecnología promete facilitar actividades cotidianas, también crece la preocupación sobre quién responde cuando una inteligencia artificial actúa de manera distinta a lo que una persona autorizó.
