Évaluation de la sécurité des systèmes d’IA
Évaluez la réaction de l’assistant aux consignes malveillantes, aux entrées sensibles et aux demandes hors périmètre.
Quand faire appel à ce service
Avant de confier des outils ou des documents internes à un assistant, testez ses limites.
Périmètre possible
- Scénarios d’abus
- Données fictives
- Résultats et garde-fous
Déroulement de la mission
- 01Définir les usages permis
- 02Jouer des cas légitimes et hostiles
- 03Comparer après correction
Éléments à préparer
Fournissez les règles métier et les actions accessibles à l’assistant.
Ce qui détermine le devis
Le nombre d’outils, de langues et de scénarios influe sur le devis.
Exemple de mission
Une instruction cachée dans un document ne divulgue aucun secret fictif et une demande légitime aboutit.
Critères de réception
Rejouez les cas convenus et comparez les réponses dangereuses, les refus et les transmissions à un humain.
Questions fréquentes
Quel pilote choisir pour commencer ?
Choisissez un outil et une catégorie de données fictives.
Comment traitez-vous les exceptions ?
Une action dangereuse est isolée et le cas est rejoué après correction.
Espace projet
Avant de convenir de la mission, nous confirmons la disponibilité, les qualifications et les autorisations locales nécessaires.