资产与权限图谱
权限边界摘录
tool: customer-note.write
scope: approved workspace only
owner: platform engineering 为准备向 AI Agent 开放生产权限的工程团队提供独立审查。在决定上线前,拿到权限图谱、场景测试与发布依赖清单。
核心交付凭据
每次审查产出 5 份由您团队拥有的版本化工程资产,直接对接您的代码库与 CI/CD 流程。
示意证据摘录
示意样例,不含客户数据或真实系统记录。
资产与权限图谱
tool: customer-note.write
scope: approved workspace only
owner: platform engineering 发布策略与熔断预案
human approval: required
rollback path: verified
scenario coverage: pending review 影响范围与风险登记册
R-03 external content boundary
control: typed allowlist
evidence: scenario replay required 端到端梳理模型版本、数据依赖、工具调用接口及严格的只读/可写权限分层。
覆盖业务成功用例、边界情况 (Corner Cases)、间接提示词注入以及故障恢复行为的自动化测试集。
量化单点工具故障的破坏力上限,界定敏感数据隔离边界与多租户安全约束。
明确硬性放行门限、灰度分级推进步骤、自动熔断降级策略与人工兜底响应 SLA。
正式、可审计的生产就绪度评估记录:明确发布依赖、残留风险确认与具名责任人。
工程确定性
提示词会发生语义漂移,也会被逆向越狱。进入生产环境的 Agent 必须依赖确定的底层基础设施防护。
| 风险控制维度 | 常见脆弱做法 (Prompt-Only) | BartsAI 生产工程准则 |
|---|---|---|
| 工具执行安全性 |
✕ Fragile
仅在系统提示词中声明约束(如「严禁误删数据库数据」) |
✓ Deterministic
强类型 JSON Schema 校验、读写分离令牌、最小权限 API 作用域 |
| 不可逆操作防线 |
✕ Fragile
依赖大模型自主在执行写操作前向用户发起口头确认 |
✓ Deterministic
两阶段签署授权 Token、Dry-Run 仿真预演、确定性事务状态机 |
| 影响范围治理 |
✕ Fragile
所有 Agent 工具共享全局数据库高权限连接账号 |
✓ Deterministic
单工具隔离账号、租户级数据隔离、速率与调用额度物理熔断器 |
| 回归与故障回滚 |
✕ Fragile
缺乏自动化回归验证,依赖人工抽测基座模型升级的影响 |
✓ Deterministic
CI/CD 自动化场景回归门限、一键秒级降级至确定性代码分支 |
公开源码工程脚手架
除检查清单外,我们还提供可在本地与 CI 运行的确定性校验示例;接入生产前仍需适配并测试真实执行器。
包含步数与费用熔断器、工具权限白名单、已识别路径参数检查,以及安装依赖后启用的严格 JSON Schema 校验;附负例测试与 CI 模板。
git clone ... && python3 run_tests.py --demo 针对 Next.js、Vercel 及 Node.js AI 全栈应用,提供 Zod 强类型入参门禁、环境变量脱敏与 AbortController 步数超时硬熔断机制。
计划于 Cycle 1 发布。欢迎关注 GitHub 仓库更新。
作业方法
在给出任何规则建议之前,我们在受控沙盒中复现失控与工具越权用例。没有失败测试,就不谈治理方案。
用精准的场景集与量化指标替代经验性判断。如果风险不能被隔离,我们不会标明就绪。
您的工程师参与关键审查节点。我们的目标是协助团队掌握准入规范与评估工具,建立长期的工程控制能力。
审计日志、权限作用域、自动化回归套件与降级分支。这些严谨的底层建设,才是生产级 Agent 的立足之本。
关于我们
BartsAI 由一位来自生产级 AI 与金融科技领域的资深工程负责人创立。我们做生产准入保障的方式,正是我们当年希望供应商能用的方式:有观点、懂代码、敢担责。
我们协助团队评估权限边界、数据暴露与故障恢复能力。审查记录已测试的控制、证据缺口与残留风险,为上线决策提供依据,不承诺系统不会发生事故。
立足新加坡,服务全球技术团队。
联系我们
请简要说明发布时间和最关心的问题。首次沟通无需提供源代码、Prompt、日志、凭据或客户数据。
五个工作日为拟定审查周期:范围、材料与测试访问条件确认后,从双方约定的日期起算。范围变更或前置条件缺失时,需重新确认排期。
范围:一个约定的 Agent 工作流与测试环境。不包括安全认证、完整系统实施或持续应急响应;上线决定仍由您的团队负责。