التقييمات
اختبار أنظمة الذكاء الاصطناعي
اختبارات هجومية يدوية لنظام الذكاء الاصطناعي كما هو منشور, النموذج وتلقيناته وخط الاسترجاع والأدوات وواجهات البرمجة التي يمكنه الوصول إليها, مسترشدةً بقائمة OWASP LLM العشرة. نختبر باستخدام حسابات متفق عليها على بيئات متفق عليها، ولا نُطلق أي إجراءات مدمِّرة أو تكاليف خارجة عن السيطرة دون موافقة صريحة.
النطاق
- حقن التلقين وكسر القيود عبر المدخلات المباشرة وغير المباشرة (محتوى مُسترجَع أو أدوات)
- تسريب التلقين والبيانات: تلقين النظام والسياق وكشف مصادر RAG أو مصادر التدريب
- التحكم في الوصول إلى نقاط نهاية الذكاء الاصطناعي: المصادقة والتفويض وعزل المستأجرين
- إساءة استخدام الوكلاء والأدوات: إجراءات غير آمنة، صلاحيات مفرطة، الانتقال إلى الأنظمة الخلفية
- معالجة المخرجات: عرض غير آمن، حقن لاحق، تنفيذ غير آمن للشيفرة أو الأوامر
المنهجية
اختبارات هجومية يدوية لنظام الذكاء الاصطناعي كما هو منشور, النموذج وتلقيناته وخط الاسترجاع والأدوات وواجهات البرمجة التي يمكنه الوصول إليها, مسترشدةً بقائمة OWASP LLM العشرة. نختبر باستخدام حسابات متفق عليها على بيئات متفق عليها، ولا نُطلق أي إجراءات مدمِّرة أو تكاليف خارجة عن السيطرة دون موافقة صريحة.
المخرَج
تقرير مكتوب بنتائج قابلة لإعادة الإنتاج (التلقينات الدقيقة والمدخلات ونقاط النهاية المتأثرة)، مُصنَّفة حسب الأثر الفعلي، مع تغييرات على الحواجز والبنية والإعدادات يمكن لمهندسيك تطبيقها مباشرة. تُضمَّن إعادة اختبار النتائج المُصلحة عند الاتفاق على ذلك ضمن النطاق.
منهجيتنا
كيف نعمل
01
تحديد النطاق
تبدأ كل مهمة بمحادثة لتحديد النطاق وتنتهي تلك المحادثة باتفاق خطي: إطارك المستهدف أو الأنظمة والبيئات ضمن النطاق، وما يخرج عنه صراحة، وأي حسابات وبيانات سنستخدم، والجدول الزمني.
02
التقييم
نقيس أين تقف: تحليل فجوات مقابل إطارك المستهدف، ومراجعة للضوابط والسياسات والمخاطر، واختبار عملي حيث يهم ذلك. العمل يدوي ومنهجي، تقوده طريقة الاستخدام الفعلية للنظام وما قد يريده المهاجم منه. الأدوات تدعم العمل ولا تحل محله.
03
الشرح
تستلم تقريراً مكتوباً ومكالمة شرح. يُكتب الملخص التنفيذي لمن لم يكن حاضراً؛ وتحمل كل نتيجة أدلة وخطوات إعادة إنتاج وأثراً على الأعمال وإصلاحاً ملموساً.
04
التحقق
بعد معالجة فريقك، نعيد اختبار النتائج المتأثرة ونصدر تقريراً محدثاً يوضح بجلاء ما حُل وما حُل جزئياً وما بقي مفتوحاً. وفي برنامج الشهادة، نجهّز الأدلة ونقف إلى جانبك خلال التدقيق، ثم نساعدك على إبقائها محدّثة.
الأسئلة الشائعة
- ما أنواع أنظمة الذكاء الاصطناعي التي تختبرونها؟
- الميزات المدعومة بنماذج LLM وروبوتات الدردشة وخطوط أنابيب RAG والأنظمة الوكيلة المستخدِمة للأدوات, النموذج ومطالباته وطبقة الاسترجاع والأدوات وواجهات API التي يمكنه الوصول إليها.
- أي إطار عمل تتّبعون؟
- يسترشد الاختبار بـ OWASP LLM Top 10, حقن المطالبات وكسر القيود، وتسريب المطالبات والبيانات، والتحكم في الوصول إلى نقاط نهاية الذكاء الاصطناعي، وإساءة استخدام الوكلاء والأدوات.
- هل قد يُعطِب الاختبار نموذجنا أو يرفع التكاليف؟
- لا. نختبر باستخدام حسابات متفق عليها ضد بيئات متفق عليها، ولا نُطلق أبدًا إجراءات مُدمِّرة أو تكاليف خارجة عن السيطرة دون موافقة صريحة.
قراءات ذات صلة
تقييمات أخرى
المهام بنطاق وسعر ثابتين بعد الاتفاق. إن لم تكن متأكداً أي خدمة تناسبك، سواء أكانت الجاهزية للشهادات أم الاستشارات في الحوكمة والمخاطر والامتثال أم اختبار اختراق، صف وضعك وسنقترح نطاقاً، بما في ذلك إخبارك بصدق إن كنت لا تحتاجنا بعد.