Garde-fous
Vérifiez ce que les visiteurs envoient et masquez le texte marqué dans les réponses de l'assistant.
Un Guardrail est un contrôle qui s'exécute sur chaque message de Visiteur ou sur chaque réponse diffusée en flux. Chaque Assistant dispose de sa propre liste ordonnée de Guardrails.
Types de garde-fous
| Type | S'exécute sur | Vérification |
|---|---|---|
| Input length limit | Visitor message | Le message comporte plus de caractères ou de tokens que la limite autorisée. Ciele compte un token pour quatre caractères. |
| Regular expression | Visitor message | Le message correspond au motif. |
| Moderation | Visitor message | Le modèle de modération d'OpenAI signale le message. Vous pouvez sélectionner les catégories qui entraînent un blocage. |
| Restrict to topic | Visitor message | Un modèle constate que le sujet principal du message ne figure pas dans votre liste. |
| Sensitive content in stream | Answer | Le texte situé entre un marqueur de début et un marqueur de fin n'est pas affiché. |
Créer un garde-fou
- Ouvrez un Assistant.
- Sélectionnez Guardrails.
- Recherchez la section correspondant au type de garde-fou.
- Sélectionnez Add dans cette section.
- Remplissez les champs correspondant au type.
- Rédigez le message qui s'affiche pour le Visiteur.
- Sélectionnez Add guardrail pour l'enregistrer.
Les modifications se répercutent immédiatement dans Preview. Le widget en direct ne change qu'après la publication.
Garde-fous d'entrée
Les Input Guardrails s'exécutent avant qu'un Flow ne reçoive le message. Ciele les exécute dans l'ordre des sections de la page. Les deux vérifications exactes s'exécutent avant les deux vérifications qui utilisent un modèle.
Dans une section comportant plusieurs Guardrails, utilisez les flèches pour modifier leur ordre.
Le premier Guardrail qui bloque interrompt le tour. Le visiteur voit le message du Guardrail, et aucun Flow ne s'exécute. Les vérifications qui suivent ne s'exécutent pas.
Définissez When it fires sur l'une de ces valeurs :
- Block the message interrompt le tour et affiche le message du garde-fou.
- Only log it in the Inbox trace enregistre le résultat et poursuit le tour. Utilisez cette valeur pour tester un nouveau Guardrail sur du trafic réel.
Moderation et Restrict to topic utilisent un modèle. Définissez If the check cannot run pour contrôler un délai d'attente ou une connexion manquante au fournisseur :
- Let the message through maintient l'Assistant disponible.
- Block the message maintient la vérification stricte.
Moderation nécessite une connexion à un fournisseur OpenAI dans l'Organisation. Le formulaire affiche un avertissement lorsqu'il n'y a pas de connexion au fournisseur OpenAI.
Garde-fous en flux continu
Sensitive content in stream modifie la réponse pendant que le modèle l'écrit. Le texte situé entre les marqueurs n'est pas transmis au visiteur et n'apparaît pas dans la transcription. Le message Guardrail s'affiche une seule fois à la place de chaque section masquée.
Si le modèle n'écrit pas le marqueur d'arrêt, le reste de la réponse reste masqué.
Ciele n'applique pas ce Guardrail aux actions Message verbatim. Un administrateur rédige ce texte.
Examiner les résultats
Ouvrez la Conversation dans Inbox. Un tour bloqué par un Guardrail affiche
le marqueur de flux Guardrail: et le nom du Guardrail. Un badge sur la réponse
indique chaque Guardrail qui a bloqué, enregistré ou n'a pas pu s'exécuter.
Le Visitor ne voit pas quel Guardrail s'est déclenché.