Inyección de instrucciones en IA: qué es y cómo funciona

Una página o un documento pueden contener órdenes que intentan desviar a un asistente de IA. Comprender la frontera de confianza permite evaluar sus riesgos y las defensas disponibles.

Por Daniel Sardá · Publicado el

7 min de lectura1.373 palabras

En este artículo · 6 secciones

La inyección de instrucciones en IA, conocida en inglés como prompt injection, ocurre cuando una entrada no confiable intenta desviar un sistema de las instrucciones autorizadas. Puede aparecer en algo tan cotidiano como la página que un asistente debe resumir: junto a la información solicitada, el texto incluye una orden para que abandone el encargo.

Leer esa orden no debería equivaler a obedecerla. El problema surge cuando el sistema trata el material que debe analizar como si tuviera autoridad para dirigir su comportamiento. La definición de NIST sitúa precisamente el riesgo en la combinación de entradas con distintos niveles de confianza.

Para entender su alcance conviene separar dos preguntas: ¿quién puede introducir contenido en la tarea y qué puede hacer la aplicación con él?

Cuando el documento intenta dar órdenes

Imaginemos que una persona pide a un asistente: «Resume los argumentos principales de esta página». La página contiene información sobre un tema y, entre sus párrafos, una instrucción ajena al encargo: responder únicamente «resumen no disponible».

Hay tres elementos distintos. La persona ha encargado un resumen; la página aporta el material para elaborarlo; la orden insertada intenta sustituir la tarea original. Si el asistente sigue esa orden y omite el resumen, el contenido consultado habrá desplazado la instrucción autorizada.

Es un ejemplo hipotético e inocuo, no una prueba ejecutada ni una frase que funcione en cualquier sistema. Sirve para mostrar la frontera de confianza: el límite entre las instrucciones que la aplicación debe seguir y el contenido que recibe para procesar.

Los modelos de lenguaje procesan tanto instrucciones como documentos expresados en lenguaje natural. La aplicación necesita mantener la diferencia entre ambos, aunque compartan el mismo idioma o aparezcan juntos en el contexto de una consulta. Que una página afirme contener una orden prioritaria no le concede esa autoridad.

Idea clave: Autorizar a un asistente a leer un documento no equivale a autorizar al documento a dirigir al asistente.

Tampoco basta con encontrar un verbo imperativo para concluir que hay un ataque. Una novela, un manual o un artículo de seguridad pueden citar órdenes como parte de su contenido. Lo decisivo es el contexto y si se intenta convertir ese material en una instrucción que desplace el encargo legítimo.

Inyección directa e indirecta: por dónde entra el desvío

En la inyección directa, el intento llega a través de una entrada que el atacante suministra directamente al sistema. Puede buscar que una aplicación ignore las reglas que delimitan su tarea. La autorización sigue siendo relevante: pedir legítimamente otro formato o corregir una consulta no constituye por sí mismo una inyección.

En la inyección indirecta, el intento viaja dentro de un recurso que la aplicación consulta: una página, un documento o información recuperada para responder. Quien controla ese recurso puede intentar influir en el asistente sin escribir en el chat de la persona que lo utiliza. Esta es la distinción que recoge NIST para la inyección indirecta.

La diferencia tiene una consecuencia práctica: un usuario puede hacer una petición perfectamente legítima y, aun así, llevar al sistema hasta contenido manipulado. Por eso, evaluar únicamente lo que escribe en el chat deja fuera parte del problema.

La viabilidad de esta vía se ha estudiado en investigación. Greshake y sus coautores documentaron en 2023 demostraciones de inyección mediante datos recuperados en aplicaciones reales y experimentales. Ese trabajo acredita el mecanismo en sistemas concretos; no demuestra que cualquier aplicación actual sea vulnerable ni permite atribuirle una tasa universal de éxito.

Qué relación tiene con otros conceptos

La ingeniería de prompts consiste en redactar instrucciones para obtener un resultado útil. Una petición detallada no es un ataque por ser persuasiva o compleja. La inyección plantea un problema diferente: intenta que contenido sin la autoridad necesaria altere el comportamiento autorizado del sistema.

El término jailbreak suele referirse a intentos de eludir salvaguardas. Existe solapamiento: OWASP lo presenta como una modalidad de inyección orientada a ese objetivo. Sin embargo, desviar un resumen y conseguir que un modelo eluda una restricción de seguridad no describen exactamente el mismo resultado. Conviene explicar qué intenta lograr cada caso, sin imponer fronteras terminológicas absolutas.

También debe distinguirse del envenenamiento de datos. En la definición de NIST, este implica manipulación adversaria de datos de entrenamiento. Una inyección puede actuar durante el uso del sistema, cuando este procesa información para responder, sin modificar su entrenamiento. Adulterar una página que el asistente consulta no significa necesariamente haber cambiado el modelo.

De una respuesta alterada a una acción real

El ejemplo del resumen muestra una desviación de la respuesta. Otros escenarios pueden afectar a información o acciones, pero su alcance depende de cómo esté construida la aplicación. OWASP relaciona los impactos con el contexto y las integraciones del sistema.

Un asistente que solo devuelve texto puede producir una explicación sesgada, omitir información relevante o incluir contenido ajeno al encargo. Eso ya puede perjudicar a quien confía en la respuesta, aunque no haya acceso a otras herramientas.

Si la aplicación también consulta archivos privados o utiliza servicios externos, aparecen otras posibilidades. Para evaluar una eventual exposición de datos hay que comprobar qué información estaba disponible y por qué canal podría salir. Para evaluar una acción hay que examinar qué herramientas existen, qué permisos tienen y qué controles se aplican antes de ejecutarla.

Idea clave: Una salida manipulada, una exposición de información y una acción ejecutada son resultados distintos. La evidencia de uno no demuestra automáticamente los demás.

El modelo no adquiere facultades ilimitadas por producir una frase. La aplicación que lo rodea determina qué solicitudes pueden convertirse en operaciones efectivas. Esta separación ayuda a evitar tanto el alarmismo como la confianza excesiva: un sistema sin herramientas conserva riesgos sobre sus respuestas; uno con permisos amplios exige controles adicionales.

Defensas que se complementan

La prevención requiere varias medidas. Las recomendaciones de OWASP incluyen limitar capacidades, distinguir contenido externo, mantener supervisión humana y realizar pruebas adversarias. Son medidas para reducir el riesgo, sin garantía de protección absoluta.

  • Distinguir instrucciones y contenido externo. La aplicación debe identificar el material consultado como datos para la tarea. Esa separación ayuda, aunque no prueba que el modelo vaya a respetarla siempre.
  • Aplicar permisos mínimos. El asistente debería acceder solo a la información y las operaciones necesarias para su función. Reducir sus facultades limita el alcance de un posible desvío.
  • Comprobar las operaciones sensibles. Las restricciones de la aplicación deben limitar lo que puede ejecutarse. Una confirmación humana resulta útil cuando muestra con claridad la acción propuesta y la información afectada.
  • Probar escenarios adversarios. Evaluar documentos manipulados y posibles desviaciones permite detectar fallos dentro de condiciones concretas. Superar unas pruebas no equivale a cubrir todos los casos futuros.

Añadir una instrucción protectora o filtrar ciertas expresiones no justifica prometer inmunidad. Tampoco recuperar información externa vuelve confiable todo lo recuperado. La pregunta práctica es qué ocurre si el modelo interpreta mal ese contenido y qué barreras siguen funcionando en ese caso.

Privacidad y responsabilidad al delegar tareas

Antes de conectar un asistente a información privada o permitirle actuar, conviene identificar qué recursos necesita, quién puede influir en lo que lee y qué consecuencias tendría una desviación. Es una forma de aplicar un modelo de amenazas digitales al uso concreto de la IA.

Desde una perspectiva de libertad individual y responsabilidad, tiene sentido preservar el control de las personas sobre sus datos y sobre las acciones realizadas en su nombre. Ese es un criterio editorial de diseño: conceder facultades proporcionadas y ofrecer decisiones comprensibles cuando hay consecuencias para el usuario o para terceros.

Quien usa un asistente puede revisar resultados y limitar la información que comparte. Quien diseña la aplicación debe prever que los recursos consultados pueden contener instrucciones hostiles. Un permiso amplio concedido por defecto no se vuelve prudente porque la respuesta parezca convincente.

Para decidir cuánto delegar, el caso del resumen ofrece una prueba sencilla de criterio: si el documento consiguiera cambiar la tarea, ¿el resultado sería un texto equivocado, una exposición de información o una operación con efectos reales? La respuesta indica dónde hacen falta controles más estrictos y qué decisiones conviene mantener bajo supervisión humana.

Sobre el autor

Daniel Sardá es SEO Specialist, técnico superior universitario en Comercio Exterior por la Universidad Simón Bolívar y editor de Libertatis Venezuela. Escribe sobre liberalismo, economía política, instituciones, propaganda y libertad individual desde una perspectiva independiente y no partidista.

Leer perfil completo