▲ Agentes en producción
¿Cómo evitar que tu asistente de IA vea datos de otro cliente o actúe sin permiso?
Por César Soto · 10 min de lectura
▲ En este artículo
▲ En resumen
- El asistente de IA de un producto multi-tenant debe alcanzar exactamente lo que alcanzan las pantallas de la persona que lo usa: la cuenta y el usuario salen de la sesión en el servidor, y cada herramienta corre el mismo chequeo de permisos que la pantalla equivalente.
- En un RAG con permisos, el filtro por cuenta y por rol va dentro de la consulta vectorial; si se filtra después de recuperar, los datos ajenos ya pasaron por el servidor.
- Para cualquier cambio, el modelo propone y una persona aplica: el servidor calcula la vista previa, revalida la propuesta al aplicarla, guarda cómo deshacerla y registra la acción en la auditoría.
Respuesta corta: el servidor fija la cuenta y el usuario de cada herramienta desde la sesión, aplica el mismo chequeo de permisos que usan tus pantallas y deja que el modelo solo proponga cambios que después aplica una persona. Ningún prompt de sistema garantiza eso, porque los modelos se dejan convencer, así que cada regla de acceso vive en código del servidor que se puede probar con un test.
Soy CTO de Simón, una plataforma B2B. El 3 de noviembre de 2026 lanzamos su asistente de IA en tres lugares: el panel de administración, el portal donde los equipos de RH y capacitación de cada cliente gestionan a su gente y el chat de quienes toman los cursos. En agosto escondimos un botón de asistente que ya estaba en el panel, porque todavía no había un servicio real detrás y preferimos no prometer algo que el producto no hacía.
Estas son las reglas con las que lo lanzamos y lo que yo revisaría en cualquier producto antes de abrir un asistente a los clientes.
¿Qué datos puede ver el asistente?
Los mismos que ven las pantallas de la persona que escribe. Esa fue la primera regla, y de ella salen casi todas las demás.
La cuenta y el usuario salen de la sesión en el servidor. Ninguna herramienta del asistente acepta una cuenta o un usuario como parámetro que llene el modelo. Si alguien le pide los datos de otra empresa, la consulta corre con la cuenta de quien está conectado y regresa vacía.
Cada herramienta llama al mismo chequeo de permisos que usa la pantalla equivalente, y lo hace dos veces:
- Al armar las herramientas de la conversación. Si la persona no tiene un permiso, el modelo ni siquiera recibe la herramienta que lo requiere, y la persona nunca ve una opción que no puede usar.
- Al ejecutar la herramienta. El chequeo se repite con la sesión de ese momento, por si algo cambió a mitad de la conversación.
Ese trabajo destapó varios permisos que estaban declarados en el sistema y que el código nunca había aplicado. Los aplicamos como parte del proyecto del asistente.
El alcance también depende del rol. Quien toma cursos solo encuentra el contenido del catálogo que ya se le muestra, y un supervisor solo ve a las personas de sus áreas.
El historial de la conversación lo guarda el servidor. El navegador manda únicamente el mensaje nuevo, de modo que un historial alterado o un resultado de herramienta inventado del lado del cliente no llega al modelo.
Es la misma regla que expliqué en dónde termina el agente y empieza el backend: si el servidor ya sabe un dato, el modelo no tiene por qué decidirlo.
¿Cómo se filtra lo que recupera el RAG?
Con los filtros de permisos dentro de la consulta vectorial. Si primero traes los fragmentos más parecidos a la pregunta y después quitas los que la persona no puede ver, el dato ajeno ya pasó por tu servidor y un descuido en ese segundo paso lo manda al modelo. Además, los primeros resultados se llenan de fragmentos que vas a descartar y la respuesta sale peor.
OWASP, en su guía de riesgos de bases vectoriales para aplicaciones con LLM, recomienda "permission-aware vector and embedding stores", es decir, almacenes de embeddings que respeten permisos, con particiones lógicas y de acceso estrictas entre conjuntos de datos.
Hay dos decisiones previas a la consulta que pesan igual:
- Qué entra al índice. Antes de indexar quitamos el material interno que acompaña a cada contenido, porque todo lo que entra al índice puede llegar a la respuesta que recibe una persona que toma ese curso.
- Qué versión entra. Solo indexamos la versión publicada. Un borrador queda fuera hasta que alguien lo publica.
Las preguntas sobre datos, como cuántas personas de un área terminaron un curso, pasan por la capa de reportes que ya existía, con sus propias reglas de acceso, en lugar de que el modelo escriba consultas. Así el número que da el asistente coincide con el de la pantalla de reportes, y nadie tiene que explicarle a un cliente por qué dos cifras del mismo producto no cuadran.
¿Qué pasa con los datos personales y con el texto que escriben los usuarios?
El modelo recibe lo mínimo para responder. Las herramientas que consultan a un equipo le devuelven agregados (cuántas personas, qué porcentaje de avance), y la ficha completa de alguien se le muestra directamente a la persona en la interfaz, sin pasar por el modelo. Los datos de contacto llegan enmascarados.
El texto que escriben los usuarios, como comentarios o documentos, se trata como dato. Un comentario puede contener algo con forma de instrucción, y el asistente lo lee como contenido a analizar sin obedecerlo.
Las respuestas se muestran en un markdown restringido, sin imágenes. Una imagen con una URL externa puede llevar datos en sus parámetros, y el navegador los manda a ese servidor en cuanto la carga, sin que nadie haga clic.
¿Qué acciones puede ejecutar solo y cuáles con confirmación?
Por su cuenta, el asistente solo consulta. Todo lo que cambia algo lo aplica una persona, porque el modelo propone y no tiene ninguna herramienta que escriba contenido.
Luis Isselin, de Proofpoint México, lo dijo en una nota de ITSitio de noviembre de 2026: un asistente que lee documentos "no necesariamente debería tener permisos para modificarlos o eliminarlos". OWASP ubica la agencia excesiva (excessive agency) en el tercer lugar de su Top 10 de 2026 para aplicaciones con LLM.
Así funciona una propuesta en Simón:
- El modelo propone el cambio con datos estructurados.
- El servidor calcula la vista previa, con lo que cambia y a cuántas personas toca, y guarda la propuesta.
- La tarjeta de aprobación muestra nombres y conteos que calculó el servidor. El texto del modelo no entra en ella.
- Al dar Aplicar, el servidor vuelve a cargar la propuesta de su propio almacén y verifica que el contenido no cambió desde la vista previa.
- Cada cambio se guarda con su inverso, para que Deshacer funcione.
- Cada acción queda en la auditoría y se puede filtrar como hecha "vía Simón".
| Tipo de acción | Ejemplo | Cómo se aplica |
|---|---|---|
| Consultar | Buscar contenido, ver el avance de un área | El asistente responde dentro de los permisos de la persona |
| Cambio reversible | Editar un recordatorio | Propuesta, vista previa del servidor y Aplicar |
| Cambio de riesgo | Publicar, archivar, enviar algo a mucha gente | Confirmación reforzada |
| Borrar | Eliminar contenido | Solo una persona, desde la pantalla |
El asistente puede proponer archivar, y borrar queda reservado a las personas. El criterio para decidir qué pide confirmación reforzada es el mismo que conté en aprobación humana sin cuello de botella: el impacto de la acción y hasta dónde llega.
Evaluamos la aprobación de herramientas que trae el SDK que usamos y la descartamos para este flujo. Ata la aprobación al input exacto que generó el modelo, así que si la persona corrige el texto del recordatorio, la aprobación deja de servir. Además muestra el texto del propio modelo en lugar de una vista previa calculada por el servidor, cuesta una llamada al modelo por cada clic y no ofrece un reintento seguro.
¿Qué revisar antes de lanzarlo?
Un estudio de Illumio con Sapio Research, publicado en noviembre de 2026, encontró que 59 % de las organizaciones mexicanas encuestadas implementó herramientas de IA antes de tener los controles de seguridad necesarios. Esta es la lista que yo revisaría con el CTO o el tech lead antes de abrir un asistente a los clientes. Cada punto se responde con un sí o un no, y cada no es trabajo pendiente.
- La cuenta y el usuario de cada herramienta salen de la sesión del servidor; ningún parámetro que llena el modelo los define.
- Cada herramienta llama al mismo chequeo de permisos que la pantalla equivalente, al armar las herramientas y al ejecutarlas.
- Hay un test que pide, con la sesión de una cuenta, datos de otra cuenta y espera una respuesta vacía.
- El historial de la conversación vive en el servidor y el navegador solo manda el mensaje nuevo.
- El filtro de permisos del RAG corre dentro de la consulta vectorial.
- Al índice solo entra contenido publicado y sin material interno.
- Las cifras salen de la capa de reportes y coinciden con la pantalla de reportes.
- El modelo recibe agregados de las personas, y los datos de contacto van enmascarados.
- Las respuestas se muestran sin imágenes externas.
- El modelo no tiene ninguna herramienta que escriba; propone, y el servidor calcula la vista previa y revalida al aplicar.
- Cada cambio tiene Deshacer y queda en la auditoría con una marca que lo distingue de los cambios hechos a mano.
- Hay un límite de uso diario por persona y un registro del uso por cuenta.
Si estás por poner un asistente de IA dentro de tu producto y quieres revisar esta lista con tu CTO o tu tech lead, agenda una conversación de 30 minutos. Sales con un siguiente paso claro, conmigo o sin mí.
Preguntas frecuentes
¿Basta con un buen prompt de sistema para que el asistente no muestre datos de otro cliente?
No. Un prompt bien armado por un usuario puede convencer al modelo de pedir datos ajenos, y ningún prompt de sistema lo evita del todo. El aislamiento entre clientes tiene que vivir en el servidor: la cuenta sale de la sesión, cada herramienta pasa por el chequeo de permisos de la pantalla equivalente y el filtro del RAG corre dentro de la consulta.
¿Qué es un RAG con permisos?
Es un sistema de recuperación aumentada donde la búsqueda solo considera los fragmentos que la persona que pregunta puede ver, según su cuenta, su rol y el estado del contenido. El filtro corre dentro de la consulta vectorial. Filtrar los resultados después de recuperarlos deja pasar datos ajenos por el servidor.
¿Conviene que el asistente de IA publique o borre sin confirmación?
En un producto con clientes, yo no lo haría. En Simón el asistente solo propone; una persona ve una vista previa calculada por el servidor y aplica. Publicar, archivar o enviar algo a mucha gente pide una confirmación reforzada, y borrar queda reservado a las personas desde la pantalla.
Referencias
- ITSitio, "Empresas mexicanas podrían esperar hasta 2027 para proteger sus herramientas de IA" (estudio de Illumio con Sapio Research), 11 de noviembre de 2026
- OWASP GenAI Security Project, anuncio del Top 10 de 2026 para aplicaciones con LLM, septiembre de 2026
- OWASP GenAI Security Project, "LLM08:2025 Vector and Embedding Weaknesses"
¿Quieres aplicarlo en tu equipo? Hablemos 30 minutos.
Sin costo, en video, con César Soto.
Agenda una conversación