我们所说的“具名人类担保人”是什么意思
Mandavo 中的每个智能体都绑定一位负责任的人。不是团队,不是轮值,不是角色。是一个人。这是我们为何要划这条界线的原因。
问责无法扩展到群体
当智能体做出意外行为时,第一个问题永远是“这归谁负责”。如果答案是一个团队,那真正的答案就是没人负责。共享所有权正是被遗弃的服务账户产生的原因:每个人都以为别人在盯着。
所以我们要求每个智能体都有一位具名的个人。当该智能体请求敏感权限范围时,一个真实的人名会附在这项决策上。审计不再靠猜测,事件响应从一个电话号码开始。
担保人会变动;问责不会失效
人会换团队、会离职。一个人一离职就失效的担保模型只是摆样子。在 Mandavo 中,重新指派是一次刻意且有记录的操作 —— 智能体不能悄悄地在担保人之后继续存活。
如果一位担保人离职时没有移交其智能体,这些智能体会立即显示为“无担保人”,并失去上报权限的能力。缺口会变得可见,而不会变成后门。
- #问责
- #治理
- #担保
More field notes
80:1 问题:机器身份已成为新的边界
团队中每一位人类背后,大约有八十个代其行事的机器身份。几乎没有一个有明确的负责人。这个比例就是整个安全问题的核心。
Daniel Osei · 安全工程师
6 分钟阅读
短期凭证的实践之道
所有人都同意密钥应该过期。然后总有人把 TTL 设成一年,以免出问题。这是我们如何让几分钟有效期的凭证真正经受住真实工作负载考验的方法。
Priya Nandakumar · 平台负责人
7 分钟阅读
4.2 秒完成撤销:一次遏制的解剖
我们测量了从异常发现到在智能体可触及的每个系统中完全撤销权限的全过程。时间都花在了哪里,以及为什么这很重要。
Daniel Osei · 安全工程师
8 分钟阅读