Guardarraíles para la IA de tu empresa

Salvador Vilalta 

 

Hace unas semanas, en una conversación con el director financiero de una empresa de servicios de tamaño medio, salió un tema incómodo. No le preocupaba si su equipo usaba inteligencia artificial. Eso lo daba por hecho. Le preocupaba algo distinto: no sabía cuánta usaba, ni para qué, ni con qué datos.

"Tengo gente metiendo información de clientes en herramientas que yo no he aprobado", reconoció. "Y ni siquiera sé en qué herramientas."
Esa frase resume el punto exacto en el que están hoy muchas empresas españolas. La adopción de la IA ha corrido más rápido que su gobierno. Y en ese hueco, entre lo que la tecnología ya hace y lo que la empresa controla, es donde aparecen (o deberían aparecer) los guardarraíles.

No es un escenario marginal. Según los últimos datos del INE, alrededor del 21% de las empresas españolas de diez o más empleados ya utiliza inteligencia artificial, frente al 12% del año anterior… uno de los crecimientos más rápidos de Europa. Y esa cifra solo cuenta la IA que las empresas declaran usar. La otra, la que nadie ha registrado, no aparece en ninguna estadística.
 

Qué es exactamente un guardarraíl

El término viene de la carretera. Un guardarraíl es esa barrera metálica que bordea las curvas de montaña. No conduce por ti. No elige tu ruta. No te frena si vas bien. Solo está ahí para que un error puntual no se convierta en una salida de vía.

En inteligencia artificial es exactamente lo mismo: un conjunto de límites — técnicos y de proceso — que acotan lo que un sistema de IA puede hacer, con qué información y bajo qué supervisión. No es el motor. Es la barrera.
Hay guardarraíles técnicos: filtros que impiden que un modelo revele datos confidenciales, validaciones que comprueban una respuesta antes de que llegue a un cliente, límites de gasto, registros de actividad que permiten saber después qué hizo el sistema y por qué.

Y hay guardarraíles de proceso, que casi siempre importan más: quién puede usar qué herramienta, qué información puede introducirse en ella, quién revisa el resultado antes de que tenga consecuencias reales.
Una empresa que adopta IA sin ninguna de las dos cosas no es una empresa "ágil". Es una empresa conduciendo de noche por la montaña sin barrera. Puede que no pase nada. Puede que sí.
 

El problema no es la IA que aprueban los jefes

Cuando se habla de riesgos de IA, la imagen mental suele ser la de un gran sistema corporativo que falla de forma espectacular. La realidad es más prosaica. Y más extendida.

El riesgo más común hoy no está en la IA que la dirección aprueba, supervisa y paga. Está en la que ya usa media plantilla sin que nadie la haya aprobado. Tiene nombre propio: shadow AI, la IA en la sombra.
Un comercial que pega el historial completo de un cliente en un chatbot gratuito para redactar una propuesta más rápido. Una persona de administración que sube una hoja de cálculo con datos de facturación a una herramienta que encontró en Google para "que le haga un resumen". Nadie actúa de mala fe. Todos quieren, sencillamente, trabajar mejor y más rápido. Y, sin proponérselo, cada uno deja una puerta entreabierta.

Los datos de seguridad confirman que esa puerta no es pequeña. El informe de IBM sobre el coste de las brechas de datos correspondiente a 2025 encontró que una de cada cinco organizaciones analizadas había sufrido una brecha vinculada a herramientas de IA no autorizadas. Y cuando eso ocurría, el incidente costaba de media unos 670.000 dólares más que en empresas con la IA bajo control.
¿Y cuántas empresas tienen ese control? Según ese mismo informe, cerca del 63% reconocía no tener ninguna política de gobernanza de IA.
El 63%. Casi dos de cada tres.
No es, en el fondo, un problema de tecnología. Es el resultado de no haber tenido nunca la conversación.

Cuando el modelo recibe una orden que no venía de ti

Hay un segundo tipo de riesgo, más técnico, que conviene entender, aunque uno no sea informático.

Los modelos de lenguaje (la tecnología que hay detrás de los asistentes y los agentes de IA) tienen una particularidad incómoda: procesan las instrucciones y los datos por el mismo canal. Para el modelo, una orden y un texto cualquiera se parecen demasiado.
Todo eso abre la puerta a algo conocido como inyección de prompts que no es más que un texto malicioso, escondido en un correo, una página web o un documento adjunto, que el modelo interpreta como una instrucción legítima. En el caso de Agentes de voz también es posible realizar este tipo de ataques, obviamente.

En este punto, el sistema cree que su usuario le está hablando cuando, en realidad, lo hace un atacante. No se trata por tanto de un riesgo teórico.
La organización OWASP (referente mundial en seguridad de software), publica desde finales de 2024 una lista de los diez riesgos principales de las aplicaciones construidas con modelos de lenguaje. ¿Adivináis qué ocupa el primer puesto de esa lista como riesgo por segundo año consecutivo? Precisamente la inyección de prompts.

En un artículo anterior ya hablábamos de que la IA podía inventarse cosas (las llamadas alucinaciones) y de cómo técnicas como RAG ayudan a reducirlas.

La inyección de prompts es el siguiente escalón del mismo problema. Ya no se trata de que el modelo se equivoque por su cuenta, sino de que alguien pueda hacer que lo haga a propósito.

Agosto de 2026: una fecha para el calendario

A los riesgos operativos y de seguridad se suma uno regulatorio. Y este, además, tiene fecha.

El Reglamento Europeo de Inteligencia Artificial — el conocido como AI Act — entró en vigor de forma escalonada. El 2 de agosto de 2026 se activa buena parte de las obligaciones que faltaban, entre ellas las de transparencia: una empresa que utilice un chatbot o un asistente de voz con clientes tendrá que dejar claro que el interlocutor está hablando con una máquina.

Las sanciones por incumplimiento no son simbólicas. Pueden alcanzar los 35 millones de euros o el 7% de la facturación global de la compañía, lo que resulte mayor... un listón situado por encima incluso del que fijó en su día el RGPD.
Para la mayoría de las pymes, prepararse para esto no significa montar un departamento de cumplimiento normativo. Significa algo más sencillo y barato: saber qué sistemas de IA se están usando, para qué, y poder demostrarlo si alguien lo pregunta.

Conviene además no verlo como una amenaza abstracta. La consultora Gartner estima que para finales de 2026 se habrán presentado en el mundo más de 2.000 reclamaciones legales relacionadas con incidentes provocados por sistemas de IA. La pregunta para cualquier empresa es directa: si una de esas reclamaciones la salpicara, ¿podría demostrar que actuó con diligencia?

Guardarraíles que no necesitan un equipo técnico

La buena noticia es que la mayoría de los guardarraíles que de verdad importan no son tecnología, sino decisiones.
Una empresa sin un solo informático en plantilla puede poner en marcha esta misma semana cuatro barreras que reducen considerablemente su exposición.

En primer lugar, una política de herramientas. Aquí podemos plantear una lista corta y clara de qué soluciones de IA están aprobadas y cuáles no. Pero no para prohibir, sino para canalizar, ya que la gente quiere usar IA y el trabajo de la dirección es ofrecerle un espacio seguro para hacerlo.

Después, una norma sobre datos. Plantear qué información no debe salir nunca de la empresa hacia una herramienta externa (datos de clientes, información financiera, datos personales, condiciones contractuales…) Todo eso requiere plantear reglas explícitas y conocidas por todos, no un criterio que cada empleado improvisa sobre la marcha.

En tercer lugar, plantear una revisión humana donde hay consecuencias. Si la IA redacta un correo interno, lo revisa quien lo firma. Si se propone una decisión de crédito, una contratación o un precio, esa propuesta la valida una persona antes de que se ejecute. La IA sugiere, la persona decide. Ese reparto de papeles es, probablemente, el guardarraíl más importante de todos.

Y por último, formación. Buena parte de la shadow AI no nace de la rebeldía, sino del desconocimiento: empleados que no saben qué riesgo asumen al pegar cierta información en una herramienta. Una hora bien empleada explicando esto vale más que diez normas colgadas en la intranet que nadie lee.

¿Y si el problema no es la IA, sino lo que le damos de comer?

Y el último guardarraíl del que se habla poco, quizá porque no es vistoso: la calidad del dato con el que la IA trabaja.

Un sistema de IA brillante alimentado con datos malos produce, con total seguridad y una redacción impecable, conclusiones malas. Garbage in, garbage out. La IA generativa no ha derogado esa ley, la ha acelerado, porque ahora el error viene envuelto en un texto que suena convincente.

Por eso uno de los límites más sensatos que puede ponerse una empresa es asegurarse de que, cuando la IA toma o sugiere una decisión de negocio, lo hace sobre información verificada y no sobre lo primero que encuentra. 
Es la diferencia entre analizar el riesgo de un cliente con datos contrastados y hacerlo con una búsqueda rápida en internet.

Es también la lógica de plataformas como Insight View, la solución de Iberinform que aplica IA generativa sobre información empresarial verificada: el modelo no inventa el dato, lo interpreta. El guardarraíl está puesto en el origen, antes de que la IA escriba una sola línea.

 

La conversación pendiente

El director financiero de la conversación del principio terminó pidiendo algo muy concreto: una tarde para sentarse con su equipo y hacer una lista. ¿Qué herramientas se usan, con qué datos, quién revisa qué?
No hubo tecnología nueva. No hubo inversión. Hubo una conversación que llevaba meses pendiente.

La inteligencia artificial seguirá entrando en las empresas, con permiso o sin él. La barrera de la carretera de montaña nunca fue lo emocionante del viaje. Pero pregúntele a cualquiera que haya conducido esa carretera de noche, con niebla, si la quería ahí.