Evaluaciones
Pruebas de sistemas de IA
Pruebas adversarias manuales del sistema de IA tal como está desplegado, el modelo, sus prompts, el pipeline de recuperación y las herramientas y APIs que puede alcanzar, guiadas por el OWASP LLM Top 10. Probamos con cuentas acordadas contra entornos acordados y nunca desencadenamos acciones destructivas ni costes descontrolados sin aprobación explícita.
Alcance
- Inyección de prompts y jailbreaks mediante entradas directas e indirectas (contenido recuperado o herramientas)
- Fuga de prompts y datos: prompt del sistema, contexto y exposición de fuentes RAG o de entrenamiento
- Control de acceso en los endpoints de IA: autenticación, autorización y aislamiento entre inquilinos
- Abuso de agentes y uso de herramientas: acciones inseguras, permisos excesivos, saltos hacia sistemas backend
- Manejo de salidas: renderizado inseguro, inyección posterior, ejecución insegura de código o comandos
Método
Pruebas adversarias manuales del sistema de IA tal como está desplegado, el modelo, sus prompts, el pipeline de recuperación y las herramientas y APIs que puede alcanzar, guiadas por el OWASP LLM Top 10. Probamos con cuentas acordadas contra entornos acordados y nunca desencadenamos acciones destructivas ni costes descontrolados sin aprobación explícita.
Entregable
Un informe escrito con hallazgos reproducibles (prompts exactos, entradas y endpoints afectados), valorados por impacto real, con cambios de guardrails, arquitectura y configuración que tus ingenieros pueden aplicar directamente. Se incluye un re-test de los hallazgos corregidos cuando se acuerda en el alcance.
Método
Cómo trabajamos
01
Alcance
Cada proyecto empieza con una conversación de alcance y termina esa conversación con un acuerdo escrito: tu marco objetivo o los sistemas y entornos que entran, qué queda explícitamente fuera, qué cuentas y datos usaremos y el calendario.
02
Evaluar
Medimos dónde estás: un análisis de brechas contra tu marco objetivo, una revisión de controles, políticas y riesgo, y pruebas prácticas donde importan. El trabajo es manual y metódico, guiado por cómo se usa realmente el sistema y qué querría de él un atacante. Las herramientas apoyan el trabajo; no lo sustituyen.
03
Explicar
Recibes un informe escrito y una llamada de revisión. El resumen ejecutivo está escrito para quien no estuvo en la sala; cada hallazgo lleva evidencia, pasos de reproducción, impacto de negocio y una corrección concreta.
04
Verificar
Cuando tu equipo ha corregido, volvemos a probar los hallazgos afectados y emitimos un informe actualizado que indica con claridad qué está resuelto, qué parcialmente y qué sigue abierto. Para un programa de certificación, preparamos las evidencias y te acompañamos durante la auditoría, y luego te ayudamos a mantenerlo al día.
Preguntas frecuentes
- ¿Qué tipos de sistemas de IA prueban?
- Funcionalidades basadas en LLM, chatbots, pipelines RAG y sistemas agénticos que usan herramientas: el modelo, sus prompts, la capa de recuperación y las herramientas y APIs a las que puede acceder.
- ¿Qué framework siguen?
- Las pruebas se guían por el OWASP LLM Top 10: prompt injection y jailbreaks, fuga de prompts y datos, control de acceso en endpoints de IA, y abuso de agentes y del uso de herramientas.
- ¿Las pruebas pueden dañar nuestro modelo o disparar los costes?
- No. Probamos con cuentas acordadas contra entornos acordados y nunca activamos acciones destructivas ni costes descontrolados sin aprobación explícita.
Lecturas relacionadas
Otras evaluaciones
Los proyectos son de alcance y precio fijos una vez acordados. Si no sabes qué servicio encaja, ya sea preparación para certificación, asesoría de GRC o una prueba de penetración, describe tu situación y te recomendaremos un alcance, incluida la honestidad de decirte si aún no nos necesitas.