Évaluations
Tests de systèmes IA
Tests adverses manuels du système IA tel que déployé, le modèle, ses prompts, le pipeline de récupération ainsi que les outils et API qu'il peut atteindre, guidés par l'OWASP LLM Top 10. Nous testons avec des comptes convenus sur des environnements convenus et ne déclenchons jamais d'actions destructrices ni de coûts incontrôlés sans accord explicite.
Périmètre
- Injection de prompt et jailbreaks via des entrées directes et indirectes (contenu récupéré ou outils)
- Fuite de prompt et de données : prompt système, contexte et exposition des sources RAG ou d'entraînement
- Contrôle d'accès des points de terminaison IA : authentification, autorisation et isolation des locataires
- Abus des agents et de l'usage d'outils : actions dangereuses, permissions excessives, rebonds vers les systèmes backend
- Traitement des sorties : rendu non sécurisé, injection en aval, exécution de code ou de commandes non sécurisée
Méthode
Tests adverses manuels du système IA tel que déployé, le modèle, ses prompts, le pipeline de récupération ainsi que les outils et API qu'il peut atteindre, guidés par l'OWASP LLM Top 10. Nous testons avec des comptes convenus sur des environnements convenus et ne déclenchons jamais d'actions destructrices ni de coûts incontrôlés sans accord explicite.
Livrable
Un rapport écrit de constats reproductibles (prompts exacts, entrées et points de terminaison concernés), classés selon l'impact réel, avec des modifications de garde-fous, d'architecture et de configuration que vos ingénieurs peuvent appliquer directement. Un nouveau test des constats corrigés est inclus lorsqu'il est prévu au périmètre.
Méthode
Notre approche
01
Cadrer
Chaque mission commence par un échange de cadrage et se conclut par un accord écrit : votre référentiel cible ou les systèmes et environnements dans le périmètre, ce qui en est explicitement exclu, quels comptes et données nous utilisons, et le calendrier.
02
Évaluer
Nous mesurons votre situation : une analyse d'écarts par rapport à votre référentiel cible, une revue des contrôles, des politiques et des risques, et des tests concrets là où c'est important. Le travail est manuel et méthodique, guidé par l'usage réel du système et par ce qu'un attaquant en voudrait vraiment. L'outillage soutient le travail ; il ne le remplace pas.
03
Expliquer
Vous recevez un rapport écrit et un appel de restitution. La synthèse est écrite pour ceux qui n'étaient pas dans la salle ; chaque constat porte preuves, étapes de reproduction, impact métier et correctif concret.
04
Retester
Quand votre équipe a corrigé, nous retestons les constats concernés et publions un rapport à jour indiquant clairement ce qui est résolu, partiellement résolu ou encore ouvert. Pour un programme de certification, nous préparons les preuves et nous tenons à vos côtés tout au long de l'audit, puis nous vous aidons à le maintenir à jour.
Questions fréquentes
- Quels types de systèmes d'IA testez-vous ?
- Les fonctionnalités reposant sur des LLM, les chatbots, les pipelines RAG et les systèmes agentiques utilisant des outils, le modèle, ses prompts, sa couche de récupération ainsi que les outils et API qu'il peut atteindre.
- Quel référentiel suivez-vous ?
- Les tests sont guidés par l'OWASP LLM Top 10, prompt injection et jailbreaks, fuite de prompts et de données, contrôle d'accès des endpoints d'IA, et abus des agents et de l'usage des outils.
- Les tests peuvent-ils casser notre modèle ou faire exploser les coûts ?
- Non. Nous testons avec des comptes convenus sur des environnements convenus et ne déclenchons jamais d'actions destructives ni de dérive des coûts sans accord explicite.
À lire aussi
Autres évaluations
Les missions sont à périmètre et prix fixes une fois convenus. Si vous hésitez sur le service adapté, qu'il s'agisse d'une préparation à la certification, d'un conseil en GRC ou d'un test d'intrusion, décrivez votre situation et nous recommanderons un périmètre, y compris en vous disant honnêtement si vous n'avez pas encore besoin de nous.