Imagínate que montas el sistema definitivo de atención al cliente para tu empresa. Has configurado un modelo de lenguaje espectacular y, para evitar que alucine más de la cuenta, le has acoplado una flamante base de datos vectorial mediante la técnica RAG (Generación Aumentada por Recuperación). Todo es felicidad, eficiencia y código limpio… hasta que un usuario malintencionado decide subir un documento de apariencia inocente. De repente, tu IA empieza a insultar a los clientes o, peor aún, a escupir secretos comerciales en el chat público. ¿Qué ha fallado si tus instrucciones del sistema (system prompts) estaban blindadas? Bienvenido a la evolución del Prompt Injection: el ataque indirecto a través de bases de datos vectoriales.
(más…)