评估拟议操作
在不确定时安全失败
设计关卡
- 包含准确的政策文本以及应用政策所需的所有事实。
- 对 state 使用对象,使操作、上下文、权限和政策保持清晰的标签。
- 定义可直接映射到应用行为的结果。
- 将审批或复核作为明确结果。
- 将不可逆的执行留在模型调用之外;由应用代码强制执行结果。
- 根据你的数据处理政策,记录提供的 state、所选结果、概率和应用最终采取的操作。
调用 GLiDE
查看完整的请求契约、限制、置信度行为和错误。
实战示例:把关智能体的下一步操作
一个经过测试的关卡,根据你的政策检查拟议操作。
实战示例:识别提示词注入
一个经过测试的筛查,用于发现智能体所读取内容中的隐藏指令。

