El vacío de mando ante la inteligencia artificial: el 71% de las empresas opera sin un responsable claro de sus riesgos

El vacío de poder corporativo frente a trabajadores digitales que nadie vigila

Imagine que una empresa contrata a cientos de analistas junior, les entrega credenciales maestras de acceso a las bases de datos financieras, les permite comunicarse con clientes por correo electrónico y les da permiso para ejecutar órdenes de compra. Ahora imagine que la dirección no sabe quién es el jefe directo de estos empleados, quién evalúa sus errores ni quién tiene la autoridad para cortarles el acceso si comienzan a filtrar información confidencial.

Este escenario no es una hipótesis de ciencia ficción: es la realidad cotidiana de miles de corporaciones tras la llegada masiva de los modelos de lenguaje y la inteligencia artificial basada en agentes autónomos. Estas herramientas ya no se limitan a redactar textos o responder dudas básicas en un chat de atención al cliente. Hoy leen correos, modifican registros en herramientas de gestión interna, programan código y toman decisiones operativas en tiempo real.

El problema surge cuando estos sistemas fallan, alucinan datos o son manipulados por atacantes externos. Según el informe global Digital Trust Insights publicado por PwC tras encuestar a casi 4.000 directivos de negocio y tecnología en 71 países, las cúpulas directivas admiten un problema grave: nadie tiene claro quién debe asumir la culpa y el control cuando un agente inteligente comete un error grave.

La velocidad a la que los departamentos integran asistentes autónomos supera con creces la capacidad de las organizaciones para fijar normas básicas de convivencia digital. Mientras los consejos de administración exigen incorporar inteligencia artificial para recortar costes y acelerar tareas, la línea de defensa operativa queda en tierra de nadie. No se trata únicamente de prevenir ataques informáticos sofisticados, sino de responder a una pregunta elemental de gestión: si un agente autónomo autoriza una transferencia errónea o borra un archivo crítico, ¿a qué despacho debe acudir el director general a pedir explicaciones?

La fractura del liderazgo en cifras: 4.000 directivos divididos sobre el control del riesgo algorítmico

La encuesta elaborada por PwC demuestra que la preocupación por el impacto de los algoritmos ya llegó a la alta dirección, pero las soluciones organizativas están completamente atomizadas. Aunque nueve de cada diez ejecutivos aseguran contar con marcos teóricos de supervisión y gestión de riesgos, la asignación de responsabilidades reales muestra una división irreconciliable entre perfiles técnicos y operativos.

Apenas un 47% de los consejos de administración incluye la ciberseguridad como un punto fijo en sus reuniones periódicas. Esta desconexión se agrava cuando se analiza el control específico de los agentes inteligentes: solo un tercio de las empresas encuestadas (33%) ha creado puestos formales dedicados a liderar la estrategia algorítmica, como directores de inteligencia artificial o vocales especializados en el consejo. Sin embargo, tener a una persona con ese título no resuelve el problema operativo del día a día.

La dispersión de criterios que refleja el gráfico anterior paraliza la toma de decisiones. El 29% de los encuestados asume que el responsable final debe ser el Director de Tecnología (CIO) o el Director de Sistemas (CTO), figuras centradas tradicionalmente en que los programas funcionen rápido y no se caigan. Por su parte, un 26% defiende que la tarea corresponde en exclusiva a nuevas figuras directivas dedicadas a la inteligencia artificial, mientras que solo un 17% traslada la carga al Director de Seguridad de la Información (CISO).

El dato más alarmante se encuentra en el 11% que confiesa abiertamente que la responsabilidad no está asignada a nadie o se diluye en comités multidisciplinares donde ninguna persona tiene poder de veto ni obligación de rendir cuentas.

Esta fractura interna recuerda a lo ocurrido en 1994, cuando Citigroup nombró al primer CISO formal de la historia corporativa tras sufrir una oleada de ataques cibernéticos procedentes de Rusia. Antes de aquel hito, la seguridad informática era un problema secundario que los directores de sistemas atendían cuando les sobraba tiempo. Treinta años después, el mercado se encuentra al borde de una transición similar: la necesidad de consolidar una figura con autoridad exclusiva para vigilar el comportamiento, los permisos y las consecuencias legales de los algoritmos corporativos.

Tres impactos directos en la cuenta de resultados: costes ocultos, parálisis operativa y brechas de cumplimiento

Cuando las líneas de mando no están claras, las consecuencias no tardan en reflejarse en los costes del negocio. Dejar que los agentes de software actúen sin un dueño definido genera tres problemas concretos que golpean la operativa diaria de cualquier compañía mediana o grande.

Costes operativos desbocados y el fenómeno del secuestro de modelos

El uso corporativo de modelos avanzados de lenguaje funciona de manera idéntica al taxímetro de un vehículo: cada consulta, procesamiento de datos o razonamiento automático consume unidades de cálculo denominadas fichas (tokens). Cuando los empleados o los departamentos despliegan agentes autónomos que se conectan entre sí sin límites de gasto configurados, los costes en la nube pueden multiplicarse por diez en cuestión de horas.

A este problema se suma el secuestro de credenciales algorítmicas (LLMjacking). Si un atacante descubre una clave de acceso a los sistemas de inteligencia artificial de la empresa debido a una mala configuración, no necesita robar datos para causar daño: simplemente utiliza la cuenta corporativa para procesar sus propios trabajos pesados de computación. Sin un responsable técnico que supervise las alertas de consumo minuto a minuto, la empresa se entera del incidente únicamente cuando recibe una factura astronómica del proveedor de infraestructura en la nube.

Tiempos de respuesta lentos: la parálisis entre el departamento de sistemas y seguridad

En una empresa convencional, cuando un empleado sospecha que un ordenador está infectado con un virus, el protocolo es claro: el equipo de seguridad aísla la máquina de la red interna de inmediato. Con los agentes inteligentes, esta cadena de mando está rota.

Si un asistente autónomo de atención al cliente empieza a divulgar descuentos no autorizados o si un agente conectado al almacén genera pedidos duplicados por error, rara vez existe un protocolo de desconexión rápida. El equipo de sistemas duda en apagar el modelo para no interrumpir el servicio comercial, el equipo de seguridad afirma que no tiene las claves de acceso a esa plataforma externa, y los mandos intermedios discuten por correo electrónico sobre quién tiene la potestad de desconectar la herramienta. Mientras se suceden las reuniones internas, el fallo operativo sigue erosionando el margen del negocio.

Riesgo reputacional y multas regulatorias directas a la junta directiva

Los agentes autónomos no poseen personalidad jurídica ni pueden responder ante los tribunales. Si un sistema automatizado de selección de personal descarta candidatos mediante criterios discriminatorios, o si un asistente financiero procesa datos personales vulnerando regulaciones de privacidad, la sanción económica y el daño a la marca recaen directamente sobre la entidad legal y sus administradores.

Las regulaciones internacionales actuales ya no admiten la ignorancia como justificación legal. Los reguladores exigen trazabilidad: saber quién aprobó el despliegue del sistema, bajo qué parámetros de seguridad operaba y qué medidas de mitigación se tomaron para supervisarlo. Diluir la responsabilidad entre el departamento de innovación y el de soporte informático deja a la empresa completamente desprotegida ante cualquier auditoría oficial o demanda colectiva de clientes.

Tratar a los agentes inteligentes como empleados humanos: identidades digitales, permisos mínimos y llaves de corte

Frente a la dispersión de opiniones revelada por el estudio de PwC, los especialistas en gestión de identidades corporativas proponen una solución práctica que no requiere reinventar la rueda: aplicar a los sistemas de inteligencia artificial los mismos principios de control que las empresas llevan décadas utilizando para gestionar a sus trabajadores humanos.

Tal como señala la dirección de estrategia de producto de RSA, todo modelo o agente inteligente desplegado dentro de una compañía debe ser tratado como una identidad digital individualizada. Cada agente posee credenciales propias, niveles específicos de autorización para acceder a servidores internos y la capacidad de ejecutar tareas en nombre de un puesto de trabajo. Olvidar este detalle y permitir que múltiples agentes compartan una clave genérica de administrador equivale a dejar la puerta principal de la oficina abierta de par en par durante la noche.

Para recuperar el mando sobre las herramientas automatizadas, las empresas líderes están adoptando tres mecanismos de contención técnica:

• Asignación obligatoria de un dueño humano: Ningún agente autónomo puede operar en la red corporativa si no está vinculado nominalmente a un empleado o director específico. Ese tutor humano es el responsable de autorizar sus permisos, supervisar sus informes de actividad y responder en caso de comportamiento irregular.
• Autorización de doble factor para tareas críticas: Si una persona necesita verificar su identidad en dos pasos para acceder a su nómina o realizar un pago, un agente inteligente debe operar bajo límites similares. Las acciones de alto riesgo —como modificar tablas maestras de datos, descargar registros masivos de clientes o emitir pagos a proveedores— deben requerir siempre la validación explícita de un supervisor humano mediante una notificación segura.
• Mecanismos de desconexión inmediata (Kill Switch): Las plataformas corporativas deben disponer de un botón de apagado centralizado. Ante la primera señal de comportamiento anómalo o gasto excesivo de computación, el equipo de guardia debe ser capaz de revocar los certificados de seguridad del agente con un solo clic, sin necesidad de reiniciar servidores ni alterar el resto de las operaciones del negocio.
• Auditoría y retirada programada: Los proyectos de prueba suelen abandonarse con frecuencia. Es habitual que un departamento cree un agente para un evento o análisis concreto y se olvide de él una vez finalizado el trabajo. Si ese agente conserva credenciales activas, se convierte en un objetivo idóneo para atacantes externos. Establecer revisiones periódicas para desactivar credenciales en desuso resulta indispensable para mantener el perímetro limpio.

Estrategia de contención inmediata: tres líneas de defensa para evitar el descontrol corporativo

Dado que las juntas directivas continúan debatiendo el reparto teórico de cargos mientras los departamentos ya utilizan herramientas de inteligencia artificial en su operativa diaria, las organizaciones no pueden esperar a que surja un consenso espontáneo. Es imprescindible establecer un plan de respuesta inmediata estructurado en tres líneas de contención operativa para frenar los riesgos antes de que se conviertan en incidentes públicos.

Primera línea de defensa: auditoría de inventario e identificación de agentes en la sombra

El primer paso no consiste en redactar manuales de uso ético, sino en descubrir qué herramientas se están ejecutando realmente en los equipos corporativos. El fenómeno de la tecnología en la sombra (Shadow AI) se multiplica cuando los empleados conectan extensiones de navegador y programas de automatización sin avisar al departamento de sistemas.

• Levantamiento del censo de automatizaciones: El equipo técnico debe rastrear las llamadas a interfaces de programación (API) externas para identificar qué servicios de inteligencia artificial reciben datos de la empresa de forma habitual.
• Registro obligatorio con titularidad individual: Toda integración debe quedar registrada en una lista única de herramientas autorizadas. Si un modelo no cuenta con un director de área o mando intermedio que firme formalmente como tutor de la herramienta, se procede a su bloqueo en los cortafuegos corporativos.
• Prohibición expresa de cuentas compartidas: Ningún asistente automatizado puede utilizar credenciales genéricas del departamento. Cada proceso debe identificarse con un identificador único que permita rastrear cada consulta y modificación en los registros del sistema.

Segunda línea de defensa: recorte drástico de privilegios y límites de consumo

Una vez identificadas las herramientas en funcionamiento, la prioridad se traslada a restringir el radio de impacto que tendría un fallo en el modelo o una intrusión informática.

• Aplicación del principio de mínimo privilegio: Los agentes inteligentes deben tener acceso de solo lectura en la inmensa mayoría de los casos. La capacidad de modificar registros, borrar información o enviar comunicaciones masivas al exterior debe estar bloqueada por defecto y habilitarse únicamente bajo petición justificada.
• Topes estrictos de facturación en la nube: Para evitar sustos financieros derivados de consultas recursivas infinitas o secuestro de cuentas, deben configurarse techos de gasto diarios en las plataformas de computación. Una vez alcanzado el umbral económico establecido, el sistema debe pausar las consultas de forma automática y alertar al departamento financiero.
• Aislamiento de entornos de producción: Ningún agente en fase experimental debe conectarse a bases de datos que contengan información real de clientes o registros contables definitivos. Las pruebas deben realizarse siempre en entornos cerrados con datos simulados o anonimizados.

Tercera línea de defensa: protocolo de desconexión y formalización del mando

La última barrera de protección exige resolver de una vez por todas el vacío de liderazgo que evidencia el estudio de PwC, estableciendo quién asume el timón en momentos de crisis.

• Redacción del manual de desconexión rápida: Toda herramienta basada en agentes autónomos debe contar con un procedimiento documentado que detalle qué botón pulsar, qué credencial revocar y a quién llamar si el comportamiento del software se desvía de lo esperado. Este protocolo debe ser ejecutable por el equipo de seguridad de guardia sin necesidad de recabar autorizaciones previas de la dirección de negocio.
• Designación de la autoridad de seguridad algorítmica: La junta directiva debe zanjar el debate competencial. Aunque el Director de Sistemas garantice la operativa y el Director de Inteligencia Artificial busque nuevos casos de uso, la potestad de vetar, auditar y desconectar cualquier sistema automatizado debe residir inequívocamente en el Director de Seguridad de la Información (o en su defecto, en una figura especializada con rango ejecutivo: el CAISO o Director de Seguridad de IA).
• Revisiones periódicas ante el consejo: La supervisión algorítmica no puede ser un asunto marginal. Los informes sobre incidentes, anomalías detectadas, consumo de recursos y estado de los agentes activos deben incorporarse con carácter obligatorio a la agenda trimestral del consejo de administración.

La inteligencia artificial no introduce únicamente una nueva forma de procesar datos; introduce agentes activos con iniciativa propia dentro de la maquinaria de las empresas. Esperar a que ocurra una brecha grave de datos o una fuga financiera para decidir quién tiene la responsabilidad del control es una negligencia que ningún negocio competitivo puede permitirse. Quien contrata las ventajas de la automatización debe contratar, en el mismo acto y con el mismo presupuesto, la estructura humana indispensable para mantenerla bajo control.